OpenAI三名前研究员发公开信称或致寒蝉效应
10月9日,上周被解雇的OpenAI三名前研究员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王发公开信,称突然解雇与仓促通知或使员工不敢表达意见,冲击开放文化;公司称三人违反敏感信息访问和处理规定,三人称相关行为属职责范围。
驱动中国10月9日消息,上周被解雇的OpenAI三名前研究人员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王于9日发表公开信,称公司突然解雇并仓促通知当事人的做法,可能让其他员工不敢公开表达意见,并对OpenAI的企业文化产生寒蝉效应。
这封题为《OpenAI无法独自确保AI安全》的信由此前从事AI对齐研究的巴莱斯尼发布在社交媒体上,收信人为OpenAI的各安全委员会。科尔巴克和贾斯敏·王此前均从事AI安全研究,同样遭到解雇。三人在信中表示,OpenAI不是一家普通公司,员工能够放心与外部机构合作解决安全问题,是OpenAI工作文化的重要组成部分。
《商业内幕》称,OpenAI发言人回应表示,公司经过内部调查,认定三人违反了敏感信息访问和处理规定。三名研究人员则分别称,公司只口头告知了解雇原因,他们此前的行为均属于各自工作职责范围。
贾斯敏·王被指访问了一位高管的电子邮件,她回应称,公司给出的解雇理由根本站不住脚。巴莱斯尼称,公司告诉他,因为他与第三方安全机构交流过多,所以不再信任他;他从未对外泄露公司的知识产权信息,工作一直与直属上级、研究部门管理层和董事会保持协调。科尔巴克称,公司曾口头告知他,解雇原因是他与METR沟通的方式,并与METR沟通本来就是他的工作。METR是一家负责评估AI模型及其安全风险的非营利研究机构。
三人担忧,其他员工今后可能不敢再像以前那样发表意见、开展工作,而这些直到上周仍是OpenAI工作中不可缺少的一部分。三人认为,突然解雇员工又仓促通知当事人,让OpenAI过去引以为傲的开放文化受到寒蝉效应冲击。
公开信还向OpenAI提出三项建议:允许第三方安全审计人员进驻公司,确保前沿AI模型仍可受到有效监测,并支持安全研究人员与AI安全领域其他机构和人员保持公开、透明的交流。