Anthropic 拒籤開放權重 AI 聯名信引爭議:安全考量還是商業壟斷

Anthropic 成行業"獨苗"：拒籤AI開放聯名信惹爭議

上月，AI安全領域扛把子Anthropic搞了個大新聞——直接拒籤支援開源模型的行業聯名信。這波操作直接讓它成了全場最靚的崽，畢竟連OpenAI、谷歌、Meta、微軟這些大佬都簽字了。

開源模型說白了就是誰都能下載、魔改、本地部署的AI模型。Anthropic給出的理由是公共安全，說這玩意兒可能被用來搞網路攻擊甚至造生化武器。CEO Dario Amodei嘴上說"不是要一棒子打死開源模型"，身體卻很誠實地在推動強制安全測試和封殺模型蒸餾技術——後者能直接用現成AI模型訓練新模型。這波操作要是成了，開源社群估計要涼涼。

安全限制翻車：研究員集體跑路開源社群

Anthropic搞的"家長式"安全管控直接翻車。上個月旗艦模型Claude 5更新後，AI研究員發現被暗改限流了。最後公司只能把限流規則擺到明面上。結果現在網路安全研究員全跑開源模型那邊去了——這不就是Anthropic最反對的那幫人嗎？

這就很魔幻了：口口聲聲說擔心AI被用來搞網路攻擊，結果自家模型把做防禦研究的路給堵了？

商業算盤浮出水面：技術護城河才是真

拋開安全這層遮羞布，說到底還是技術壟斷那點事兒。Anthropic的Claude模型在寫程式碼這塊確實能打。要是能把競爭對手通過蒸餾技術"偷師"的路給堵死，現在的技術優勢就能變成長期飯票。

不過業內大佬們可不買賬，直接搬出90年代開源軟體推動創新的歷史打臉。有人吐槽Anthropic這波是"只許州官放火"——保守派看了直呼內行，這不就是美國槍械管制的AI版辯論嗎？

中國玩家躺槍？蒸餾技術成焦點

模型蒸餾技術最大的受益者之一是中國實驗室，特別是月之暗面搞的Kimi K3模型。據說他們靠這技術整出了接近OpenAI和Anthropic水平的開源模型。白宮已經把這操作定性為"中國偷技術"的新套路。

但盯著中國說事兒純屬轉移焦點——美國公司之間照樣用蒸餾技術互卷。OpenAI早就警告過，組合不同模型可能搞出超級AI。蒸餾技術明明是技術進步的加速器，要是美國自斷經脈，那才真是給中國送助攻。想想要是90年代美國禁了開源軟體，現在還能當碼農界的扛把子嗎？

資料中心擴張遭質疑：說好的業界良心呢？

Anthropic要真想做"AI界白蓮花"，該管的事兒多了去了。比如最近爆出AI公司為了掃描資料直接拆書，馬斯克都承諾xAI會"用笨辦法"掃描，Anthropic倒是跟啊。

再說資料中心瘋狂擴張引發的環保問題（水電消耗），Anthropic也沒見有啥動作。雖然有些陰謀論（比如矽谷精英想靠AI永生）純屬扯淡，但打壓開源模型這波操作，反而坐實了"技術貴族壟斷高階工具"的公眾擔憂。

總結： Anthropic這波操作把AI行業開放與封閉、安全與創新的矛盾全抖出來了。對中國玩家來說，這場博弈直接關係到還能不能靠開源生態彎道超車。

常見問題

什麼是模型蒸餾技術,為何引發爭議?

模型蒸餾(distillation)是指利用現有強大 AI 模型的輸出來訓練新模型的技術,可以讓小模型學習大模型的能力。爭議在於:支持者認為這是開源精神的延續,能加速創新;反對者(如 Anthropic)擔心被用於竊取商業模型能力或繞過安全限制。中國的 Moonshot Kimi K3 據稱就通過此技術接近了 GPT-4 級別能力。

Anthropic 的 Claude 模型有何技術優勢?

原文提到 Claude 在程式碼生成(coding)能力上常具備明顯優勢。通常而言,Anthropic 強調其模型在安全對齊和長上下文處理方面的特點,但具體效能需參考第三方基準測試。

開放權重模型對中國 AI 發展有何意義?

開放權重模型允許任何人下載和修改,這為資源相對有限的團隊提供了學習先進技術的途徑。Moonshot 等中國實驗室通過蒸餾開放模型縮小了與 OpenAI、Anthropic 的差距。若美國收緊開放模型政策,可能加劇技術鴻溝,但也可能倒逼中國加強自主創新。

Anthropic 的安全限制為何妨礙安全研究?

Anthropic 為 Claude 設定的安全護欄會限制某些被認為危險的查詢,但這也阻礙了網路安全研究人員測試攻擊場景和開發防禦手段。研究者發現工作被'隱蔽限流'後,不得不轉向沒有此類限制的開放模型進行研究,這與 Anthropic 反對開放模型的立場形成諷刺。

---

本文基於 GNews:The American Conservative 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.theamericanconservative.com/how-anthropic-became-the-ai-industrys-black-sheep/