美國民主黨議員推動軍用AI限制法案 要求關鍵決策保留人類最終審批權

三項法案齊發 美軍AI要上"緊箍咒"

加州民主黨參議員Adam Schiff本週甩出王炸——《致命行動中的人類權威法案》(HALO Act)，直接給軍用AI劃紅線：所有自主武器系統的行動方案必須由人類指揮官拍板。配套措施也很硬核：軍事決策全程留痕備查、建立吹哨人保護機制，核武器和大規模監控場景直接停用AI。

Schiff在宣告中直言："最近幾個月的事態表明，必須給國防部的AI應用裝上剎車片，確保符合國家安全和隱私底線。"

更巧的是，紐約州參議員Kirsten Gillibrand和密西根州參議員Elissa Slotkin幾乎同時甩出了相似法案。Gillibrand版本同樣封殺AI參與核武器部署、國內監控和全自主武器，所有"高風險操作"必須經過國防部高層簽字。三人都準備把法案塞進年度國防授權法案(NDAA)——這個年底必須過的"軍費大禮包"。

Anthropic硬剛五角大樓 意外點燃立法導火索

這波立法風暴的引信，其實是Anthropic和五角大樓今年初的"分手大戲"。據爆料，Anthropic死活不肯拆除AI系統中的安全護欄（防大規模監控和全自主武器），結果被五角大樓拉進"供應鏈黑名單"。轉頭軍方就抱上了OpenAI、Google、Nvidia、SpaceX、微軟和亞馬遜雲服務的大腿。

事件發酵後，Schiff等民主黨大佬公開站隊Anthropic。Schiff3月在Punchbowl新聞會上放話："我們需要更多Anthropic這樣的硬骨頭。"有意思的是，Anthropic已經法庭見，而特朗普政府在其釋出號稱"網路安全噩夢"的新模型Mythos後，態度似乎有所鬆動。

AI參戰早已不是秘密 但黑箱操作太嚇人

AI打仗早就不新鮮了。全球軍隊都在用AI搞目標鎖定和大規模監控，比如以色列對巴勒斯坦的AI輔助系統，美軍打伊朗也用了同款科技。

但致命問題在於：就算有人盯著，AI照樣可能翻車。專家警告，軍人容易得"AI依賴症"——總覺得AI資訊多、算得快，肯定比人靠譜。可現實是，大語言模型照樣會胡說八道，加上AI決策像黑箱摸獎，人類監督也可能釀成大禍。

中國同行看門道：全球都在闖同一個雷區

雖然這三板斧砍的是美軍，但AI軍事化的倫理紅線和人機權責分配難題全球通用。對中國AI圈來說，重點在於：

1. 別迷信"人類兜底"：法案要求人類最終簽字，但AI黑箱和人類盲信的雙重風險提醒我們，可解釋性和透明度才是真保險；
2. 自律與監管的生死局：Anthropic因守底線被踢出局，其他大廠火速補位，這種"劣幣驅逐良幣"的戲碼在哪都可能上演；
3. 立法套路值得偷師：把AI倫理條款塞進NDAA這種"必過法案"，堪稱政治分裂時期的破局妙招。

Schiff最近還連環出招：要求資料中心自付電費、強制AI公司交代訓練資料來源、學校開AI素養課，明顯是要給美國AI治理搭全套框架。

常見問題

HALO Act的核心要求是什麼?

要求自主武器系統的任何行動必須由人類指揮官做最終決定,同時強制記錄決策過程、保護吹哨人,並在核武器和大規模監控場景中停用AI。三位民主黨議員提出的類似法案均計劃作為年度國防授權法案(NDAA)修正案通過。

為什麼Anthropic與五角大樓的合作會破裂?

據報道,Anthropic拒絕移除其AI系統中防止大規模國內監控和完全自主武器的安全護欄,最終被五角大樓列為供應鏈風險方。此後五角大樓轉而與OpenAI、Google、微軟等其他主要AI公司簽約。

即使有人類監督,軍用AI仍存在哪些風險?

專家指出兩大風險:一是'自動化偏見',即人類過度信任AI判斷而忽視其幻覺和偏見問題;二是AI的'黑箱'特性,使用者無法完全瞭解系統推理過程,可能導致即便有人類把關仍出現致命錯誤。

這些法案對中國AI行業有何參考意義?

主要體現在三方面:技術可解釋性與決策透明度的重要性、行業自律與監管博弈中可能出現的'劣幣驅逐良幣'現象,以及將倫理條款嵌入關鍵立法的策略借鑑價值。美國正在構建系統性AI治理框架值得持續關注。

---

本文基於 GNews:Gizmodo 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://gizmodo.com/democrats-want-a-military-ai-restriction-law-following-anthropics-pentagon-fallout-2000768990