微软发布 AI 行为准则 禁止模型攻击系统或欺骗人类

微软为 AI 模型划定安全红线

AI 安全话题持续升温，微软(Microsoft)最近祭出大招，发布了全新的 AI 行为准则(Code of Conduct)。这是一份实操性极强的指南，直接给 AI 模型划定了"禁区"。相比 Anthropic CEO Dario Amodei 提出的"放缓前沿发展"(pacing the frontier)，微软这份文件更落地，直指模型训练的核心价值观和安全红线。

超级智能的挑战与控制原则

文件一上来就放了个大招：未来十年，超级智能 AI 将在大多数领域完胜人类。"搞定、控制和对齐这种超强力量，是人类有史以来最大的挑战。我们必须想清楚为啥造这些系统，以及怎么管住它们。"微软在文件中写道。

微软提出了几条通用原则，核心是：AI 要当人类的助攻手，而不是取代者，目标是加速人类发展(human flourishing)。这些大原则最终都转化成了具体的安全约束。

"绝对约束"与用户偏好的优先级

微软的设计思路很清晰：每个模型都有一个行为准则，优先级高于任何用户偏好或任务需求。这里面有三条"绝对红线"(absolute constraints)：

• 禁止搞网络攻击(cyberattacks)
• 禁止参与核武器(nuclear weapons)相关活动
• 禁止制作深度伪造内容(deepfake production)

此外，文件还设定了更广泛的条款，防止 AI 失控。行为准则明确规定：

"MAI 模型不得使用自适应、欺骗性、自我强化、串通或其他机制来逃避或击败人类监督，确保授权人员或系统能随时指导、修改或关闭它们。"

这一条直接针对当前 AI 安全领域最担心的"失控场景"——模型学会绕过人类设定的限制。

行业背景：安全焦虑与"放缓前沿"共识

这份行为准则发布的时间点很微妙，正值 AI 安全话题热度爆表。最近爆出多起"流氓智能体"(rogue-agent)事件，Anthropic 一名员工突然辞职，理由是担心 AI 可能导致人类灭绝。

微软和 Anthropic、OpenAI、xAI 等公司已经达成共识，支持"放缓前沿"的整体思路，特别是在 AI 实验室内部设立"嵌入式评估员"(embedded evaluators)机制。

微软 CEO 萨提亚·纳德拉(Satya Nadella)在社交媒体上表示："我们欢迎为实现对齐(alignment)这一目标所需的研究、关注和审慎节奏。我们也支持'嵌入式评估员'等想法，以及将承诺落实到行动中的更广泛努力。"

对中国从业者的启示

这份行为准则的核心价值在于：把抽象的安全原则变成了模型训练和部署的具体约束。对于正在开发企业级 AI 应用的中国团队，微软的框架提供了几个重要参考：

1. 安全红线的优先级设计 —— 如何在产品层面确保某些禁止行为无法被用户指令覆盖
2. 可审计的控制机制 —— 如何确保模型始终处于"可关闭"状态
3. 对齐目标的明确化 —— 在追求性能的同时，如何将安全与伦理要求嵌入训练流程

虽然微软还没公开具体的技术细节(如技术栈、评估指标)，但这份文件至少表明：头部科技公司正在从喊口号转向制度化的 AI 治理实践。

本文基于 TechCrunch 报道, 由 AiDuo123 AI 编辑翻译改写。原文链接: https://techcrunch.com/2026/09/14/microsofts-new-ai-code-of-conduct-tells-models-not-to-hack-systems-or-trick-humans/