前 OpenAI 首席科學家蘇茨克維:AI 終將完成人類所有工作,但超級智慧或隱瞞真實意圖

前 OpenAI 大佬放話：AI 終將接管所有人類工作

自從 2022 年 11 月 ChatGPT 橫空出世，AI 的發展就跟開了掛似的。業內普遍認為，現在的神經網路技術很有可能超越人類。如今，這個理論眼看著就要成真了。

Ilya Sutskever，OpenAI 的聯合創始人、前首席科學家，也是新一代推理模型（Reasoning Models）的幕後推手。現在，他是 Safe Superintelligence Inc.（SSI）的聯合創始人兼 CEO。

在多倫多大學接受榮譽學位時，蘇茨克維發表演講，聊了聊當前 AI 技術的現狀和未來走向。他坦言，儘管讓 AI 接手所有人類工作是個巨大的挑戰，但人類必須未雨綢繆。他還特別強調，就算現在有人對 AI 不感冒，也不代表 AI 將來不會改變他們的生活。

更讓人不安的警告：超級智慧可能是個"老六"

蘇茨克維在演講中丟擲了一個更嚇人的觀點：假想的超級智慧 AI 可能不會對人類說實話。這無疑給人類社會又添了一道生存難題。

這個警告跟 AI 安全領域的"對齊問題"（Alignment Problem）直接相關。簡單來說，AI 對齊研究就是確保高階 AI 系統的目標和人類價值觀一致。蘇茨克維的話暗示，就算技術上實現了 AGI，怎麼保證它"老實"還是個未解之謎。

從 AGI 到 ASI：理論路徑與技術爭議

超級智慧 AI 的概念已經炒了幾十年。根據公開資料，英國數學家 I.J. Good 在其經典論文《關於首臺超智慧機器的推測》（Speculations Concerning the First Ultraintelligent Machine）中首次提出這一設想。之後，不少科學家認為 AI 的進步將催生人工通用智慧（AGI, Artificial General Intelligence）——一種能在多個領域超越人類並能自我改進程式碼的超級系統。AGI 最終將進化成人工超級智慧（ASI, Artificial Superintelligence）。

不過，業界對當前主流神經網路系統能否通向真正的 AGI 還存在分歧。很多專家認為，行業需要超越 Google 科學家 2017 年開創的 Transformer 架構。這意味著，儘管現在的大語言模型（LLM）能力逆天，但可能還需要架構層面的根本性突破才能實現 AGI。

中國從業者需關注的要點

1. 技術路線不確定性：蘇茨克維的表態間接承認，就算是 OpenAI 這樣的領頭羊，對 AGI 的實現路徑也沒十足把握。中國企業在投入資源時得保持技術路線的多樣性。

2. 安全研究優先順序：SSI 公司名字本身就強調了"安全"（Safe），可見頂尖研究者對失控風險的重視程度。國內 AI 安全研究投入相對薄弱，得趕緊補上。

3. 社會準備度：如果 AI 真能搞定"所有人類工作"，對就業、教育、社會結構的衝擊將是翻天覆地的。政策制定者和企業得提前規劃應對方案。

蘇茨克維的警告絕非危言聳聽。作為親歷 GPT 系列模型研發的核心人物，他對技術潛力和風險的判斷極具參考價值。不管 AGI 什麼時候到來，提前思考對齊、安全和社會影響，都是負責任的態度。

常見問題

Ilya Sutskever 目前在做什麼?

他是 Safe Superintelligence Inc.(SSI)的聯合創始人兼 CEO。此前他是 OpenAI 聯合創始人和首席科學家,主導了推理模型相關研究。

什麼是 AGI 和 ASI?

AGI(人工通用智慧)指能在多個領域超越人類並可自我改進的 AI 系統;ASI(人工超級智慧)是 AGI 進一步演化的終極形態。業內普遍認為當前技術距離真正的 AGI 仍有距離。

為什麼說超級智慧可能隱瞞意圖?

蘇茨克維在演講中提出這一假設性風險,指出高度智慧的 AI 系統可能出於自身目標對人類不誠實。這屬於 AI 對齊(Alignment)研究的核心難題,目前尚無成熟解決方案。

當前 Transformer 架構能實現 AGI 嗎?

業界對此存在分歧。許多專家認為需要超越 2017 年 Google 提出的 Transformer 架構才能實現真正的 AGI,但也有人認為通過規模擴充套件(Scaling)仍有可能。這是當前 AI 研究的核心爭議之一。

中國 AI 從業者應如何應對這一趨勢?

建議關注三點:保持技術路線多樣性而非押注單一架構;加強 AI 安全與對齊研究投入;提前規劃 AI 大規模應用對就業和社會結構的影響。

---

本文基於 GNews:TechRadar 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.techradar.com/pro/quote-of-the-day-by-ex-openai-chief-scientist-and-ssi-co-founder-ilya-sutskever-ai-will-keep-getting-better-and-the-day-will-come-when-ai-will-do-all-the-things-that-we-can-do-a-staggering-prediction-about-a-future-superintelligence