美國政府禁令下架Anthropic兩款新模型業內質疑反效應

美國政府上週末以國家安全為由,要求Anthropic下架其最新發布的Fable 5和Mythos 5兩款模型,起因是亞馬遜研究人員據稱發現了繞過Fable 5安全防護的方法。此舉引發網路安全研究人員聯名公開信抗議,認為此舉存在危險性,而Anthropic本身也指出同類越獄漏洞在其他模型中同樣存在。

美國政府首次強制下架AI模型這事鬧大了

上週末，美國政府突然出手，以國家安全為由要求AI公司Anthropic緊急下架其最新發布的Fable 5和Mythos 5兩款模型。導火索是亞馬遜(Amazon)研究人員發現能繞過Fable 5安全防護欄(guardrails)的漏洞。

但這一決定直接炸鍋了。多位網路安全專家聯名發公開信，直指此舉可能"玩火自焚"。Anthropic也硬剛回應，表示類似越獄(jailbreak)漏洞其他主流模型都有，暗示這次執法有"雙標"嫌疑。

這是美國政府首次因具體漏洞強制下架商用AI模型，監管思路從"事前審查"轉向"事後算賬"。對中國AI人來說，這事釋放兩個訊號：一是全球AI安全標準還在"摸著石頭過河"，一個小漏洞就可能引發監管地震；二是大廠(如亞馬遜)既是金主爸爸也可能是"舉報專業戶"，創業公司得小心這種"亦敵亦友"的關係。

完整事件細節與後續進展請參見文末原文連結。

Fable 5 和 Mythos 5 是什麼模型?

根據報道這是 Anthropic 最新發布的兩款模型,但原文未提供具體引數、用途或釋出時間等細節。通常 Anthropic 以 Claude 系列聞名,這兩個命名可能是新產品線或代號。

其他模型也有類似漏洞為何只禁 Anthropic?

Anthropic 本身已指出同類越獄漏洞在其他模型中同樣存在,業內公開信也質疑執法標準。原文未披露政府具體決策依據,可能涉及未公開的情報或亞馬遜作為舉報方的特殊角色。