要点速览
Anthropic 的两款 AI 模型因被发现在国家安全层面存在风险，遭美国政府禁用。事件由亚马逊 CEO 向政府反映安全隐患而起，最终导致模型在全球停用，凸显了 AI 安全治理的紧迫性与复杂性。
AI 安全与监管：模型安全隐患引爆政府干预
Anthropic 禁用 Fable 5 模型，亚马逊 CEO 贾西或为导火索
事件核心链路如下：
- 发现问题：亚马逊研究人员在使用 Anthropic 的 Claude Fable 5 模型时，发现该模型可被诱导输出可用于网络攻击的信息
- 向上反馈：亚马逊 CEO 安迪·贾西向美国财政部长贝森特及政府官员反映了该安全隐患
- 政府出手：美国政府对 Fable 5 和 Mythos 5 两款模型下达出口管制禁令
- Anthropic 抗拒：政府要求 CEO 阿莫迪修复漏洞或下架模型，遭拒
- 最终结果：两款模型于本周五在全球范围内停用
Anthropic 在博客中辩称，引发担忧的相关功能在其他多款公开 AI 模型中早已存在。
深度解读 & 洞察：
这起事件的本质是 AI 安全治理权之争。当模型强大到可以输出网络攻击方法时，它已经不仅仅是技术问题，而是国家安全问题。
- 亚马逊的角色很微妙：它既是 Anthropic 的主要投资方，又是刺探者。这反映了大科技公司内部的复杂关系。
