美国政府禁令下架Anthropic两款新模型业内质疑反效应

美国政府上周末以国家安全为由,要求Anthropic下架其最新发布的Fable 5和Mythos 5两款模型,起因是亚马逊研究人员据称发现了绕过Fable 5安全防护的方法。此举引发网络安全研究人员联名公开信抗议,认为此举存在危险性,而Anthropic本身也指出同类越狱漏洞在其他模型中同样存在。

美国政府首次强制下架AI模型这事闹大了

上周末，美国政府突然出手，以国家安全为由要求AI公司Anthropic紧急下架其最新发布的Fable 5和Mythos 5两款模型。导火索是亚马逊(Amazon)研究人员发现能绕过Fable 5安全防护栏(guardrails)的漏洞。

但这一决定直接炸锅了。多位网络安全专家联名发公开信，直指此举可能"玩火自焚"。Anthropic也硬刚回应，表示类似越狱(jailbreak)漏洞其他主流模型都有，暗示这次执法有"双标"嫌疑。

这是美国政府首次因具体漏洞强制下架商用AI模型，监管思路从"事前审查"转向"事后算账"。对中国AI人来说，这事释放两个信号：一是全球AI安全标准还在"摸着石头过河"，一个小漏洞就可能引发监管地震；二是大厂(如亚马逊)既是金主爸爸也可能是"举报专业户"，创业公司得小心这种"亦敌亦友"的关系。

完整事件细节与后续进展请参见文末原文链接。

常见问题

Fable 5 和 Mythos 5 是什么模型?

根据报道这是 Anthropic 最新发布的两款模型,但原文未提供具体参数、用途或发布时间等细节。通常 Anthropic 以 Claude 系列闻名,这两个命名可能是新产品线或代号。

其他模型也有类似漏洞为何只禁 Anthropic?

Anthropic 本身已指出同类越狱漏洞在其他模型中同样存在,业内公开信也质疑执法标准。原文未披露政府具体决策依据,可能涉及未公开的情报或亚马逊作为举报方的特殊角色。