WhatsApp帮助页泄露Meta聊天机器人隐藏指令

AI 驱动中国 时雨 591次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

据外媒报道,WhatsApp帮助页面泄露约80页隐藏指令,内容涉及Meta聊天机器人行为规范与“不该说什么”,Meta称系程序缺陷所致。该事件暴露出AI产品提示词管理与公开页面之间的安全边界问题,引发对大模型部署流程与内容合规审核的关注。

驱动中国10月20日消息,据 WIRED 报道,WhatsApp 官网帮助页面近日出现信息泄露,约80页内容暴露出原本为 Meta 聊天机器人设计的隐藏指令,其中包括标注为 WHAT NOT TO SAY 的内容。Meta 方面表示,该问题由程序缺陷导致。

报道显示,被公开的内容并非普通用户帮助说明,而是与聊天机器人运行相关的内部指令或提示词信息。相关页面原本位于 WhatsApp 网站帮助体系中,通常用于向用户提供支持信息,但其中部分隐藏内容被外部访问到,反映出产品配置、内部提示词与公开网页之间可能存在权限边界问题。

在聊天机器人和大模型产品中,提示词通常用于设定回答风格、交互规则、禁止事项以及安全边界。所谓 WHAT NOT TO SAY 类内容,一般用于提示模型避免输出某些信息或话题。此类指令被泄露后,外界可能看到产品在内容控制、安全过滤和回答规范方面的部分设计思路。

不过,现有报道未披露泄露页面的具体完整内容、是否涉及用户数据、是否影响线上服务,以及该问题是否带来直接安全风险。Meta 仅表示这是 bug 造成,并未进一步说明修复时间、影响范围或后续整改措施。

该事件也提示 AI 产品运营方,需要更严格地区分公开帮助文档、内部配置页面和模型提示词管理。随着大模型服务进入日常通信、搜索和消费场景,提示词泄露、配置误公开等问题,可能成为 AI 服务安全与合规治理中的常见风险点。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/526656.html
本文价值 ★★★★★ 4 1 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友