OpenAI强化ChatGPT安全策略并定期发布社区安全报告

驱动中国10月31日消息，OpenAI于当地时间10月30日发布博文，表示维护社区安全是其工作重心，并围绕ChatGPT设置更严格的暴力预防与内容限制措施，同时承诺定期发布《社区安全报告》。

OpenAI在博文中称，其日常工作包括主动向执法机关通报迫在眉睫的暴力威胁。仅在2026年第三季度，OpenAI已向执法部门移交200余起案件线索。

该公司表示，将定期发布《社区安全报告》，公开暴力预防、其他社区安全议题以及各项防护机制实际成效方面的进展。首期报告计划于2027年初正式发布，涵盖2026年下半年安全数据，此后每半年更新一次。

针对ChatGPT回答既往大规模恶性袭击事件及凶手相关问题，OpenAI增设额外限制。即便相关信息已在网络公开发布，系统也会严格受控，仅提供极度精简内容。公众仍可通过ChatGPT了解此类事件全貌、受害者与社区受到的影响，并学习识别危险预警信号，以防范未来暴力。

OpenAI同时收紧安全策略，限制对既往大规模袭击事件细节复盘，包括所涉武器装备参数、获取途径，以及可能助长凶手恶名的伤害规模对比。该公司称，上述限制无论用户年龄大小或提问动机如何，均无差别适用。

在对话干预方面，当对话显示用户开始执念于暴力，或萌生严重伤害他人念头时，ChatGPT可自动终止当前对话，即时阻断这种心理与行为倾向。若同一账户因该原因导致对话被多次强制中断，OpenAI可能临时冻结该账户。

对于青少年用户，OpenAI宣布对可获取的涉枪涉武器信息增设更严格门槛，即便相关提问表面看似无害也会受到限制。即便用户未显露任何暴力意图，系统也将全面限制提供可能被滥用以滋生暴力的武器实用知识以及安防系统绕过信息。

OpenAI还称，目前正加紧开发新功能，以便在青少年账户因反复讨论暴力内容被临时冻结时，第一时间向家长推送通知。