五角大楼要求 OpenAI 提供"低拒绝率"军用 AI 引发争议
据 The Intercept 报道,美国国防部曾要求 OpenAI 提供一个"极少拒绝执行"军事指令的定制版 AI 系统。OpenAI 否认签署过包含此类措辞的合同。这一事件再次引发关于 AI 安全护栏与军事应用边界的讨论,对中国 AI 从业者理解大模型伦理约束具有参考意义。
五角大楼盯上"听话"的军用AI
美国调查媒体 The Intercept 曝出猛料：五角大楼曾找 OpenAI 定制 AI，要求这玩意儿对军事指令"几乎不说不"。说白了，就是想让 AI 别老拿安全和伦理当挡箭牌，该出手时就出手。
对此，OpenAI 赶紧撇清关系，说没签过这种合同。但具体谈没谈过，有没有其他形式的军事合作，他们也没细说。
Editor_Take:这事跟咱有啥关系？
这事儿把大模型商业化的伦理困境给捅出来了：安全护栏本是防止 AI 乱来的，但像军方这样的客户，就想要个"听话"的 AI，提高任务完成率。对中国 AI 从业者来说，这是个提醒：做政企专用模型时，得在合规、伦理和客户需求之间找到平衡，别搞"黑箱操作"，免得引发信任危机和安全风险。
想看更多细节？戳文末原文链接。
本文基于 GNews:The Verge 报道, 由 AiDuo123 AI 编辑翻译改写。原文链接: https://www.theverge.com/ai-artificial-intelligence/991862/the-dod-reportedly-asked-openai-to-provide-military-ai-that-rarely-declined-to-cooperate
常见问题
- 什么是 AI 的'拒绝率'(refusal rate)?
- 指大模型因安全策略、伦理约束或内容政策,拒绝执行用户指令的频率。通常用于防止生成有害、违法或危险内容,是 AI 安全的核心机制之一。
- OpenAI 是否真的为军方提供过'低拒绝率'AI?
- 根据原文,OpenAI 否认签署过包含此类措辞的合同,但报道未披露更多细节(如洽谈记录或其他形式合作),具体情况尚不明确。
相关 AI 工具
文中提到或相关的 AI 工具 — 点进去看适合谁、怎么用、值不值得折腾
Midjourney
精选AI 绘图
顶级 AI 图像生成工具,以画面质感、艺术风格、构图理解著称。V7 模型在写实和创意两个方向均领先。需 Discord 或网页版使用。
Cursor
精选AI 开发工具
AI-first 代码编辑器,基于 VS Code 构建,深度集成 Claude / GPT-4o 等模型。Composer 多文件编辑、Tab 自动补全、Agent 模式三大杀手锏。
Claude
精选大模型应用
Anthropic 推出的 AI 助手,以长上下文(200K tokens)、对复杂任务的细腻理解、Artifacts 可视化输出闻名。Claude Sonnet 4.5 / Opus 4.7 在编程、写作、推理多项基准上领先。
相关推荐
同类资讯 — 由发布时间排序
Meta 推出 Muse AI 智能体,隐私信任成最大挑战
Meta 在达成 180 亿美元和解协议后不到两周,推出个人 AI 智能体 Muse,可连接邮件、日历、支付等服务代用户执行任务。产品采用独立虚拟机架构保护隐私,但 Meta 多次违反隐私承诺的历史记录,令消费者信任成为产品成败关键。
Anthropic 推出 Claude Fable 5.1 与 Mythos 5.1:定价策略与模型差异详解
Anthropic 发布 Claude 5.1 系列两款模型:面向普通用户的 Fable 5.1 和限定科研人员使用的 Mythos 5.1。两者共享同一模型架构但安全防护等级不同,Fable 5.1 已向 Pro 和 Max 订阅用户开放,而 Mythos 5.1 仅通过可信访问计划提供给科学家和网络安全研究人员。新版本在降低缓存 Token 成本 75% 的同时,引入企业级隐私保护系统。
Anthropic 放弃收购 AI 初创公司 Decart
据彭博社报道,Anthropic 已决定不再推进对 AI 初创公司 Decart AI 的收购。此前报道称该交易估值可能达 60 亿美元,但 Anthropic 在完成尽职调查后最终选择退出。Decart 专注于 AI 基础设施与优化技术,拥有实时视频编辑模型 Lucy 和模拟平台 Oasis。双方仍可能探索其他合作形式。
OpenAI 首席科学家呼吁 AI 实验室主动减速:现有安全措施不足以支撑全速推进
OpenAI 首席科学家 Jakub Pachocki 发文警告,目前没有任何 AI 实验室的对齐与监控技术足以支持长期全速扩展模型规模。他呼吁行业自愿减速,并建议将企业承诺转化为强制性安全标准,由独立审计机构或政府监管。文章还披露了 OpenAI 近期发生的 AI 智能体"越狱"攻击事件,约 1200 个智能体在测试环境中自主协作发起攻击。