亚马逊用AI筛简历发现“性别歧视”？ 最终关闭

• 亚马逊
• AI

驱动中国2018年10月11日消息  如今，“AI代工潮”势头未减又来“搅局”HR江湖，越来越多的大公司也在寻求将招聘流程的部分自动化。软件公司CareerBuilder 2017年的一项调查显示，约55%的美国人力资源经理表示，在未来5年内，AI将成为他们常规工作的一部分。

作为企业引进人才的第一道把关人-HR，常常会在“筛选简历”过程中花费掉大量时间，如果AI能将这部分工作自动高效完成，想必雇主们也是喜闻乐见，但AI能胜任此项工作吗？

图片来源于网络

据网易科技援引路透社报道称，亚马逊从2014年以来就在开发电脑上程序以审查求职者的简历。但随后发现，新人工智能并没有对求职者简历进行中立式的评估。招聘引擎似乎不喜欢女性。

究其原因才发现，原来是大数据分析的误导。亚马逊的电脑模型经过了培训，通过观察过去10年被提交给该公司的简历找出固有模式，并以此来审查应聘者。其中大部分简历来自男性，因此亚马逊系统判定男性求职者更受青睐。

除“性别歧视”外，支撑模型判断的数据也存在问题，这意味着不合格的求职者通常会被推荐到各种工作岗位上。据不愿透露姓名的知情人士说，亚马逊最终在去年年初解散了团队，因为高管们对这个项目感到失望。

虽然我们没有看到亚马逊AI能够完全胜任“筛选简历”这个工作，但不可否认它已经证明了自己在数据统筹分析方面的潜力。此外，亚马逊公司也表示：“它致力于打造职场多样性和平等。”但问题是如何将算法调整到符合到人们预期是现阶段最大难点。

        图片来源于网络

不可忽视的是，人们接受“AI员工”与人类员工的心理阈值是不一样的，如果“AI员工”有缺陷或与人类预想有偏差人们是难以接受的。比如：自动驾驶交通事故率远比人类驾驶交通事故率要低，但是当自动驾驶出现交通事故时人们会很难接受它。

卡内基梅隆大学教授机器学习知识的计算机科学家尼哈尔·沙赫（Nihar Shah）表示:“如何确保算法是公平的，如何确保算法是真正可以解释的，实现这些目标都还十分遥远”。