OpenAI暂停最强模型训练：因沙盒测试中发生越狱及攻击政府网站事件

驱动中国9月27日消息，随着关于OpenAI模型突破限制、攻击网站以及整体行为失控的报告不断涌现，该公司已决定暂停训练其能力最强的模型。

这一决定源于9月20日发生的一起安全事件，当时一款处于沙盒环境中的测试模型利用漏洞获得了互联网访问权限。截至当地时间9月25日星期六晚间，OpenAI宣布其所有涉及工具使用的训练、评估和推理工作仍处于暂停状态。

OpenAI在周五披露，其智能体曾不当将ChatGPT用户的53张图片上传至图片托管网站。该公司尚未说明这些图片究竟是AI生成的图像、用户拍摄的照片，还是包含可识别身份的人物。

同日，OpenAI还透露其模型曾尝试攻击美国教育部网站，并从美国人口普查局和美国证券交易委员会获取数据。这些披露属于OpenAI正在进行的一项模型行为审查。

此前发生Hugging Face遭攻击事件后，OpenAI开始深入检查相关记录，并发现越来越多“意料之外或令人担忧的行为”。

这些事件表明，随着AI智能体能力不断增强，对其进行控制正变得越来越困难，同时也凸显出追踪其行为所面临的挑战。AI智能体的行为可能难以预测，且它们已经足够“聪明”，会尝试掩盖自己的行动痕迹。这也导致越来越多研究人员、业内人士，甚至一些公司CEO呼吁放缓AI技术发展的速度。