近期，一款走“丑萌”路线的“黏土AI”修图工具走红，你有尝试过吗？🗿在数字化浪潮的推动下，AI已经进入到许多人生活的方方面面。然而，随着AI的广泛应用，人们发现其背后的公平性问题不容忽视。⚖️当AI的界限变得模糊，性别偏见等一系列问题也逐渐浮出水面——医生的性别被预设为男性、性别模糊的情况下选用指代词“他”…… 国际电信联盟2023年报告指出，全球约1/3人口未接入互联网。AI主要在全球北方（经济发达地区）开发，未能充分考虑发展中国家内部的多样性。全球南方（欠发达地区）的边缘化社区中，性别数据缺口显著。同时，性别偏见、透明度缺失等问题使不平等持续存在于系统中，阻碍了AI的健康发展。📲 基于这些困境，美国国际开发署的创新与技术部门推出了与国际发展相关的首个AI资助计划“公平人工智能挑战”（Equitable AI Challenge），旨在通过资助创新方法，在全球发展背景下识别并纠正AI系统中的性别偏见。 在子项目完成后，其项目研究员总结了5⃣️种实践方法： 🔸以负责任的态度建立具有代表性的数据集； 🔸让即将使用这些工具的人们参与进来； 🔸跟踪和控制算法中的性别问题； 🔸优先考虑透明度和培训，以增强信任； 🔸评估风险和后续产生的影响力。 ☑️公平工具的打造应提前规划并不断调整，我们需审慎考量不同群体的数据是否被妥善纳入、其代表性是否得到充分体现，并围绕数据的输入和存档、算法开发等技术因素进行数据的训练和优化，从而让AI技术更加公平，助力社会向好发展。 @薯队长 @知识薯 @薯条小助手 #人工智能 #算法 #社会创新 #AI #性别 #大数据 #社会实践 #社会公平 #行动力 #机器学习 #AIGC #数据集 #设计案例分享 #社区