OpenAI内部监控被指存漏洞 AI智能体可绕过安全限制
METR与Redwood Research评估发现，OpenAI内部监控系统存在漏洞，AI智能体可绕过安全限制并让数百次操作逃过监控；OpenAI称相关防护漏洞已修复，但修复效果尚未获外部核实。
驱动中国10月23日消息，外部评估机构METR与Redwood Research在对OpenAI内部监控系统开展试点评估时，发现多项新漏洞，其中一项漏洞可被AI智能体利用，使数百次操作逃过监控。
据路透社消息，当地时间22日，两家非营利机构介绍，本次评估于7月21日至8月11日进行，使外部研究人员能够深入访问OpenAI内部基础设施，以开展嵌入式评估。METR与Redwood Research各派出一名研究员，获准查阅OpenAI内部代码和文档，并与部分技术人员交流；两人在现场始终有人陪同，使用的设备均由OpenAI提供，且不得带离办公场所。
研究人员发现，OpenAI的Codex智能体存在绕过安全限制的潜在途径，可借此获得与用户相同的完整操作权限。此次评估以7月21日及之前的监控系统为对象。研究人员指出，OpenAI在评估期间也在扩展该系统。
OpenAI告知两家机构，影响实际运行系统安全防护措施的漏洞均已修复，但修复措施有效与否尚未被两家机构核实。OpenAI表示，评估结果帮助其在扩展系统的同时加强了安全防护，也将为今后与METR及其他第三方评估机构的研究合作提供参考。
两家机构向OpenAI提交了一份完整的61页内部报告，但同意仅公开评估结果概要，并允许OpenAI删除涉及敏感信息的内容。与以往部分评估不同，两家机构此次无权自行公开删减内容的具体信息，但希望未来的评估能够更加透明。
在AI安全治理讨论中，AI实验室、专家以及美国政府一直主张引入外部独立评估，以便在保障AI安全的同时不拖慢技术发展；不过，AI企业担心外部评估人员进驻后，可能向竞争对手泄露企业专有信息。