Google DeepMind 成立新研究所推動 AGI 治理討論

Google 和 DeepMind 團隊本週三搞了個大動作，正式成立 DeepMind Institute。這個新機構由 DeepMind 創始人 Shane Legg 帶隊，Google 高管 James Manyika 和 DeepMind CEO Demis Hassabis 坐鎮，主打一個目標：讓全球關於**通用人工智慧(AGI)**的討論更熱鬧。

觀點大雜燴，不要統一答案

研究所上來就亮出態度：咱不搞一言堂。他們的目標是把 Google、DeepMind 和全球研究圈在 AGI 這事上的不同觀點都擺上檯面。說白了就是："咱不保證每次都能達成一致，隨著新發現不斷冒出來，想法也可能變。"這波操作明顯是在說，AGI 治理這事沒那麼簡單，不能光聽一家之言。

首發四篇論文，直擊 AGI 痛點

研究所一口氣放出四篇論文，把 AGI 治理的關鍵問題都給扒拉了一遍：

• 經濟政策如何應對 AGI 衝擊
• 怎麼讓 AI 的推理過程更透明
• 人類發展的倫理底線在哪
• 前沿 AI 模型該怎麼評估

透明度危機：躲不掉還是能選？

DeepMind 的安全研究員 Rohin Shah 和 Anca Dragan 在論文裡敲了個警鐘：AI 模型的透明度視窗正在縮水——人類想看清 AI 的推理過程越來越難了。隨著新架構讓頂級模型的內部運作更難監控，兩位大佬喊話開發者和監管者：別躲，直面安全取捨。

他們支了兩招：

• 限制"不透明序列深度(opaque serial depth)"——說白了就是不讓 AI 在不留痕跡的情況下瘋狂計算
• 要求開發者證明，就算透明度降低，系統也得保持同等可監控性

這一觀點直接懟了業內"能力提升必然犧牲可解釋性"的說法，給監管提供了技術抓手。

Hassabis 出招：美國牽頭搞 AI 標準

Hassabis 在另一篇論文裡提議，搞個美國主導的前沿 AI 標準機構，專門評估頂級 AI 模型。具體框架設計包括：

1. 先自願後強制：開發者可以先在模型釋出前最多 30 天自願提交評估，等體系成熟了就變成硬性要求
2. 獨立"保留測試"(held-out tests)：早期評估標準由 AI 公司參與設計，但最終得搞出不公開的獨立測試，防止實驗室針對已知評估最佳化模型
3. 動態升級機制：如果情況不妙，框架可以"升級"，甚至包括前沿 AI 開發者之間的協調減速(coordinated slowdown)

這波操作的核心就是從行業自律走向制度化監管，同時保留靈活性應對技術快速迭代。

行業風向變了：從喊口號到出實招

研究所成立的時間點很微妙，正好趕上 AI 安全討論從"空談"轉向具體披露、外部審查和協調減速方案的關鍵時刻。本週早些時候，多位行業大佬響應 Anthropic CEO Dario Amodei 的"減速"呼籲，進一步推動了這一轉變。

對中國同行來說，這套美國主導的標準體系可能會變成跨境模型部署的隱形門檻。同時，其"保留測試"機制與中國《生成式人工智慧服務管理暫行辦法》中的安全評估要求理念不同——前者強調行業自組織與技術中立性，後者更側重內容安全與價值觀審查。兩套體系怎麼對接，將是全球 AGI 治理的重要課題。

常見問題

DeepMind Institute 與現有 AI 安全組織有何不同?

該機構由 Google 內部發起,明確定位為匯聚多元觀點的平臺而非統一立場輸出方,董事包括 DeepMind 創始團隊核心成員。與 Partnership on AI 等多方組織不同,它更側重呈現科技巨頭內部及學術界的分歧性討論,而非尋求行業共識。

Hassabis 提出的'保留測試'(held-out tests)如何運作?

類似學術界盲審機制:評估機構開發不公開的測試集,開發者無法提前針對性最佳化模型。初期測試標準會與 AI 公司協商設計,但最終過渡到完全獨立評估,以防止'應試式'安全最佳化。具體實施細節原文未披露。

這套美國標準體系對中國 AI 企業有何影響?

如果框架落地併成為美國市場準入條件,中國前沿模型出海可能面臨額外評估門檻。但目前僅為提議階段,是否採納、如何與中國現行《生成式 AI 管理辦法》對接,尚無明確時間表。中國企業需關注其技術標準(如'不透明序列深度'限制)是否與國內監管要求衝突。

'協調減速'(coordinated slowdown)意味著什麼?

指前沿 AI 實驗室之間達成協議,同步放緩模型迭代速度或暫停某些高風險能力開發。Hassabis 將其列為'情況嚴重時'的升級選項,但原文未說明觸發條件或具體機制。業內普遍認為這需要解決反壟斷、國際競爭等複雜問題。

---

本文基於 TechCrunch 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://techcrunch.com/2026/09/17/google-deepmind-launches-institute-to-widen-the-agi-debate/