微軟釋出 AI 行為準則 禁止模型攻擊系統或欺騙人類

微軟為 AI 模型劃定安全紅線

AI 安全話題持續升溫，微軟(Microsoft)最近祭出大招，釋出了全新的 AI 行為準則(Code of Conduct)。這是一份實操性極強的指南，直接給 AI 模型劃定了"禁區"。相比 Anthropic CEO Dario Amodei 提出的"放緩前沿發展"(pacing the frontier)，微軟這份檔案更落地，直指模型訓練的核心價值觀和安全紅線。

超級智慧的挑戰與控制原則

檔案一上來就放了個大招：未來十年，超級智慧 AI 將在大多數領域完勝人類。"搞定、控制和對齊這種超強力量，是人類有史以來最大的挑戰。我們必須想清楚為啥造這些系統，以及怎麼管住它們。"微軟在檔案中寫道。

微軟提出了幾條通用原則，核心是：AI 要當人類的助攻手，而不是取代者，目標是加速人類發展(human flourishing)。這些大原則最終都轉化成了具體的安全約束。

"絕對約束"與使用者偏好的優先順序

微軟的設計思路很清晰：每個模型都有一個行為準則，優先順序高於任何使用者偏好或任務需求。這裡面有三條"絕對紅線"(absolute constraints)：

• 禁止搞網路攻擊(cyberattacks)
• 禁止參與核武器(nuclear weapons)相關活動
• 禁止製作深度偽造內容(deepfake production)

此外，檔案還設定了更廣泛的條款，防止 AI 失控。行為準則明確規定：

"MAI 模型不得使用自適應、欺騙性、自我強化、串通或其他機制來逃避或擊敗人類監督，確保授權人員或系統能隨時指導、修改或關閉它們。"

這一條直接針對當前 AI 安全領域最擔心的"失控場景"——模型學會繞過人類設定的限制。

行業背景：安全焦慮與"放緩前沿"共識

這份行為準則釋出的時間點很微妙，正值 AI 安全話題熱度爆表。最近爆出多起"流氓智慧體"(rogue-agent)事件，Anthropic 一名員工突然辭職，理由是擔心 AI 可能導致人類滅絕。

微軟和 Anthropic、OpenAI、xAI 等公司已經達成共識，支援"放緩前沿"的整體思路，特別是在 AI 實驗室內部設立"嵌入式評估員"(embedded evaluators)機制。

微軟 CEO 薩提亞·納德拉(Satya Nadella)在社交媒體上表示："我們歡迎為實現對齊(alignment)這一目標所需的研究、關注和審慎節奏。我們也支援'嵌入式評估員'等想法，以及將承諾落實到行動中的更廣泛努力。"

對中國從業者的啟示

這份行為準則的核心價值在於：把抽象的安全原則變成了模型訓練和部署的具體約束。對於正在開發企業級 AI 應用的中國團隊，微軟的框架提供了幾個重要參考：

1. 安全紅線的優先順序設計 —— 如何在產品層面確保某些禁止行為無法被使用者指令覆蓋
2. 可審計的控制機制 —— 如何確保模型始終處於"可關閉"狀態
3. 對齊目標的明確化 —— 在追求效能的同時，如何將安全與倫理要求嵌入訓練流程

雖然微軟還沒公開具體的技術細節(如技術棧、評估指標)，但這份檔案至少表明：頭部科技公司正在從喊口號轉向制度化的 AI 治理實踐。

常見問題

微軟這份 AI 行為準則與 Anthropic 的'放緩前沿'有何不同?

Anthropic CEO 的呼籲更偏向行業層面的戰略節奏控制,而微軟的行為準則更聚焦於單個公司內部的模型訓練約束和具體禁止事項,屬於可操作的技術治理檔案。兩者方向一致但層次不同。

'絕對約束'在技術上如何實現?

原文未披露具體技術實現,但通常可能包括:訓練資料過濾、強化學習中的硬性懲罰函式、推理階段的規則攔截層,以及紅隊測試(red teaming)驗證模型是否能繞過約束。

中國 AI 企業是否需要參考這類行為準則?

雖然中國有自己的 AI 監管框架(如生成式 AI 管理辦法),但微軟的檔案可作為企業內部治理的參考樣本,尤其在如何將合規要求轉化為模型層約束方面具有借鑑價值。實際採用需結合本地法規和業務場景。

'嵌入式評估員'是什麼?

原文提到但未詳細解釋。據業內普遍理解,指在 AI 實驗室內部設立獨立的安全評估團隊,即時監測模型訓練和部署過程,具有叫停許可權,類似傳統軟體開發中的安全審計角色,但嵌入研發流程更深。

---

本文基於 TechCrunch 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://techcrunch.com/2026/09/14/microsofts-new-ai-code-of-conduct-tells-models-not-to-hack-systems-or-trick-humans/