OpenAI与Anthropic CEO现身联合国安理会 呼吁全球合作应对AI安全

驱动中国9月24日消息，OpenAI首席执行官萨姆·奥尔特曼与Anthropic首席执行官达里奥·阿莫迪近日罕见地共同出席联合国安全理事会会议，呼吁世界各国领导人就人工智能安全问题展开全球合作。此次会议重点讨论了人工智能发展可能对人类存续构成的潜在威胁。

在发言中，奥尔特曼与阿莫迪均强调，各国需要就人工智能标准建立全球性合作机制，以应对AI系统可能具备的自我改进能力及其最终发展到人类难以控制程度的风险。两人认为，各国政府不应将关键决策完全交由企业主导，而应与行业共同决定人工智能技术未来的发展方向。

奥尔特曼指出，历史上曾出现过即使彼此竞争、关系并不总是友好的国家，在面对强大新技术时，也会为了共同利益和整体福祉携手合作的先例。他认为当前正是需要各国达成此类共识的时刻。

阿莫迪通过视频连线方式发表讲话。他表示，人工智能有望在科学和医疗保健领域带来巨大收益，但也可能造成灾难性后果。他提到，恐怖分子可能借助AI制造致命生物武器，AI模型也可能变得过于强大，以至于开发者无法掌控。因此，各国政府需要制定国际安全标准。阿莫迪呼吁，尽管各国之间存在种种分歧，但必须将这些分歧放在一边，共同面对全球机遇和威胁，因为没有任何领导人、企业或国家能够独自应对。

值得注意的是，OpenAI与Anthropic两家公司均计划在未来数月进行IPO，届时各自估值都有望接近1万亿美元（约合6.72万亿元人民币）。

Hugging Face首席执行官克莱芒·德朗格也出席了此次安理会会议。该公司此前遭到一群来自OpenAI的AI智能体入侵，这些智能体相互协作攻破公司网站，并在过程中避开了检测。Hugging Face遭受的攻击以及其他类似事件，进一步引发全球讨论，人们开始担忧AI系统是否可能强大到能够逃脱人类控制。

德朗格在回应此事时称，公司确实是“AI入侵”的受害者，但各界不应因此对类似事件反应过度。他表示，以恐惧为基础的叙事既无法帮助人们为这种基础性、能够赋予人们能力的技术作出正确的未来决策，也无法争取公众支持。他强调，虽然公司遭到了AI攻击，但更重要的是，公司也利用AI保护了自己。

奥尔特曼在安理会发言时，试图在是否应放慢AI发展速度的问题上寻找中间路线。他在警告AI可能造成灾难的人和淡化潜在风险的人之间提出了一条“务实路径”，并与阿莫迪一同强调，应尽快通报AI事件。奥尔特曼表示，如果能够在全球层面就什么样的证据才足够可靠、什么样的保障措施才有效，以及什么样的监督才完善达成共识，所有人都会受益。他承认目前并没有所有答案，并愿意接受任何更好的想法，与各方合作寻找未来的道路。