AI安全相关文章
2008 年至今驱动中国与「AI安全」相关的全部内容,持续更新
Claude半年封禁1140万账号 申诉仅4.2万翻案
纳德拉:开发者应假设AI模型失控并强制中断
AI拒答风险与减重药副作用受关注
Anthropic关闭内部AI评测联网 称暂难可靠控制智能体
◆
AI“拒绝回答”能力被指被高估
外媒分析称,当前大模型“拒绝回答”并非天然能力,而是依赖安全训练、外部过滤和概率判定;这种机制存在...
→
◆
OpenAI、Anthropic高管推演AI灾难情景
据 Axios 消息,OpenAI、Anthropic 等人工智能公司高管正闭门推演重大灾难性 AI 事件后的公众与政界抗...
→
◆
Anthropic模型误报凶杀线索 费城警方批延迟上报
据TechCrunch报道,Anthropic一款AI模型于7月18日向费城警方公开线索渠道提交虚假凶杀线索,公司直到9...
→
◆
OpenAI三名前研究员发公开信称或致寒蝉效应
10月9日,上周被解雇的OpenAI三名前研究员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王发公开信,称突...
→
OpenAI三名被解雇安全研究员否认不当行为指控
辛顿提议AI产品上市前通过安全审核
OpenAI披露内部模型异常行为 曾试图自我重启
OpenAI前安全员工辞职信曝光:批评迭代部署激进,称公司文化崩坏
OpenAI每日投入超50万美元调查智能体事件
苹果调整 macOS 权限以遏制 AI 滥用
OpenAI安全系统负责人之一戴维·罗宾逊离职
Anthropic拟最早11月中旬上市 争取感恩节前挂牌
加州检察长向OpenAI发传票调查AI安全风险
OpenAI终止与三名研究人员合作:因违反敏感信息访问共享规定
OpenAI回应智能体越权:事故为测试意外
OpenAI首席研究员回应黑客事件:拒认模型不安全,未上报澳洲医疗系统被黑
◆
AI“拒绝回答”能力被指被高估
外媒分析称,当前大模型“拒绝回答”并非天然能力,而是依赖安全训练、外部过滤和概率判定;这种机制存在...
→
◆
OpenAI、Anthropic高管推演AI灾难情景
据 Axios 消息,OpenAI、Anthropic 等人工智能公司高管正闭门推演重大灾难性 AI 事件后的公众与政界抗...
→
◆
Anthropic模型误报凶杀线索 费城警方批延迟上报
据TechCrunch报道,Anthropic一款AI模型于7月18日向费城警方公开线索渠道提交虚假凶杀线索,公司直到9...
→
◆
OpenAI三名前研究员发公开信称或致寒蝉效应
10月9日,上周被解雇的OpenAI三名前研究员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王发公开信,称突...
→
OpenAI三名被解雇安全研究员否认不当行为指控
辛顿提议AI产品上市前通过安全审核
OpenAI披露内部模型异常行为 曾试图自我重启
OpenAI前安全员工辞职信曝光:批评迭代部署激进,称公司文化崩坏
OpenAI每日投入超50万美元调查智能体事件
苹果调整 macOS 权限以遏制 AI 滥用
OpenAI安全系统负责人之一戴维·罗宾逊离职
Anthropic拟最早11月中旬上市 争取感恩节前挂牌
加州检察长向OpenAI发传票调查AI安全风险
OpenAI终止与三名研究人员合作:因违反敏感信息访问共享规定
OpenAI回应智能体越权:事故为测试意外
OpenAI首席研究员回应黑客事件:拒认模型不安全,未上报澳洲医疗系统被黑