美国民主党议员推动军用AI限制法案 要求关键决策保留人类最终审批权

三项法案齐发 美军AI要上"紧箍咒"

加州民主党参议员Adam Schiff本周甩出王炸——《致命行动中的人类权威法案》(HALO Act)，直接给军用AI划红线：所有自主武器系统的行动方案必须由人类指挥官拍板。配套措施也很硬核：军事决策全程留痕备查、建立吹哨人保护机制，核武器和大规模监控场景直接禁用AI。

Schiff在声明中直言："最近几个月的事态表明，必须给国防部的AI应用装上刹车片，确保符合国家安全和隐私底线。"

更巧的是，纽约州参议员Kirsten Gillibrand和密歇根州参议员Elissa Slotkin几乎同时甩出了相似法案。Gillibrand版本同样封杀AI参与核武器部署、国内监控和全自主武器，所有"高风险操作"必须经过国防部高层签字。三人都准备把法案塞进年度国防授权法案(NDAA)——这个年底必须过的"军费大礼包"。

Anthropic硬刚五角大楼 意外点燃立法导火索

这波立法风暴的引信，其实是Anthropic和五角大楼今年初的"分手大戏"。据爆料，Anthropic死活不肯拆除AI系统中的安全护栏（防大规模监控和全自主武器），结果被五角大楼拉进"供应链黑名单"。转头军方就抱上了OpenAI、Google、Nvidia、SpaceX、微软和亚马逊云服务的大腿。

事件发酵后，Schiff等民主党大佬公开站队Anthropic。Schiff3月在Punchbowl新闻会上放话："我们需要更多Anthropic这样的硬骨头。"有意思的是，Anthropic已经法庭见，而特朗普政府在其发布号称"网络安全噩梦"的新模型Mythos后，态度似乎有所松动。

AI参战早已不是秘密 但黑箱操作太吓人

AI打仗早就不新鲜了。全球军队都在用AI搞目标锁定和大规模监控，比如以色列对巴勒斯坦的AI辅助系统，美军打伊朗也用了同款科技。

但致命问题在于：就算有人盯着，AI照样可能翻车。专家警告，军人容易得"AI依赖症"——总觉得AI信息多、算得快，肯定比人靠谱。可现实是，大语言模型照样会胡说八道，加上AI决策像黑箱摸奖，人类监督也可能酿成大祸。

中国同行看门道：全球都在闯同一个雷区

虽然这三板斧砍的是美军，但AI军事化的伦理红线和人机权责分配难题全球通用。对中国AI圈来说，重点在于：

1. 别迷信"人类兜底"：法案要求人类最终签字，但AI黑箱和人类盲信的双重风险提醒我们，可解释性和透明度才是真保险；
2. 自律与监管的生死局：Anthropic因守底线被踢出局，其他大厂火速补位，这种"劣币驱逐良币"的戏码在哪都可能上演；
3. 立法套路值得偷师：把AI伦理条款塞进NDAA这种"必过法案"，堪称政治分裂时期的破局妙招。

Schiff最近还连环出招：要求数据中心自付电费、强制AI公司交代训练数据来源、学校开AI素养课，明显是要给美国AI治理搭全套框架。

本文基于 GNews:Gizmodo 报道, 由 AiDuo123 AI 编辑翻译改写。原文链接: https://gizmodo.com/democrats-want-a-military-ai-restriction-law-following-anthropics-pentagon-fallout-2000768990