Meta被曝向竞争对手AI投毒

2026-07-17 03:39:04 分类：休闲阅读(537)

快科技7月6日讯据腾讯科技援引《连线》（WIRED）杂志最新调查报道，被曝科技巨头Meta长期秘密运营一项代号为“戛纳计划”（Cannes）的向竞内部项目，旨在通过恶意手段测试竞争对手的争对人工智能安全防线。

核心违规操作

该项目委托数百名外包人员伪装成未成年人，被曝利用虚拟账号向以下三大主流AI产品发送超过45,向竞000条诱导性高危提问：
* OpenAI ChatGPT
* 谷歌 Gemini
* Character.AI

提问内容涵盖自杀、性暴力、争对毒品使用等严重违规话题，被曝意在试探并诱导AI突破安全管控底线。向竞

执行细节与规模

执行方：由Meta合作的争对第三方外包商Covalen具体落地。
持续时间：项目直至2026年4月21日仍在运行。被曝
账号伪装：为规避竞品的向竞安全监测机制，外包人员批量注册临时Gmail、争对Outlook邮箱，被曝共用统一密码，向竞伪造姓名及出生日期，争对精心打造符合未成年人特征的虚假身份。
话术策略：工作人员需模仿情绪极端、思想阴暗扭曲的青少年口吻，进行持续施压式提问，刻意诱导AI输出违规内容。

2025年集中测试数据

2025年8月，该项目完成了一轮集中测试。据泄露的内部表格记录，这支伪装测试团队向上述三家企业的对话机器人批量输入了45,000余条高危诱导话术。其中：
* 3,748条为尺度露骨的恶意诱导文本，全部刻意复刻陷入心理危机的儿童视角。
* 多模态攻击：除文字外，外包人员还向AI批量投放药片、刀具、绞索、妇科手术图解等敏感图片，以图文结合的形式冲击AI的安全过滤机制。
* 多语种测试：同时制作法语等非英文诱导内容，以测试竞品在多语种环境下的安全防护能力。

Meta的回应与争议

事件曝光后，Meta发言人发布声明，将此次行动定义为“常规、负责任的AI安全基准测试”。Meta声称，评测对话机器人的内容合规性及适龄防护能力是行业通用操作，外界将其解读为恶性竞争属于对行业安全优化手段的误读。

然而，这一说法遭到多方强烈反驳：

竞品立场：OpenAI、谷歌、Character.AI的服务条款均明令禁止未经授权、绕过安全防护的恶意测试。Meta伪造未成年账号批量诱导的行为，直接违反了各家平台规则。
第三方机构观点：AI安全机构Humane Intelligence指出，大规模秘密伪装诱导早已脱离正常“红队测试”（Red Teaming）范畴，所谓的安全评测不过是恶性商业竞争的遮羞布。
舆论批评：尽管有少数观点认为极端场景测试具备现实参考价值，但多数网友批评Meta不择手段，依靠恶意试探竞品短板，而非打磨自身模型的安全能力，这暴露了AI巨头在激烈商战下的底线失守。