Amazon scraps secret AI recruiting tool that showed bias against women

4.5

《亚马逊叫停存在性别偏见的秘密招聘AI工具》是一篇深度报道，披露了亚马逊曾低调试运行一套用于自动筛选简历的人工智能系统，并最终因发现该系统对女性存在系统性歧视而将其彻底废弃。该工具原本旨在通过历史招聘数据训练模型，对候选人的简历进行打分和排序；但由于过去的用人偏好长期倾向男性，算法在学习过程中“继承”了这种偏见，自动降低带有女性特征信号（如女性学院背景、女性相关社团等）的简历评分。 这篇报道已经成为人工智能伦理、算法偏见和招聘技术领域的重要案例。它清楚地展示了：即便技术复杂度很高，如果训练数据本身不平衡，AI仍会放大既有的不公，而不是“客观”纠正它。文章也提醒企业，在将机器学习用于招聘、信贷等高风险场景时，不能把公平与合规当作事后补救，而应在系统设计之初就纳入审计机制、透明度要求和治理框架。 对于产品经理、数据科学家、人力资源负责人、风控与合规团队及政策制定者，这一案例提供了可借鉴的反面教材——衡量AI是否“好用”，不仅要看预测准确率，更要关注数据来源、价值取向以及长期社会影响。