OpenAI 安全主管 Jeff Harris 離職,公司重組引發安全團隊人才流失擔憂

OpenAI安全主管跑路，重組背後安全團隊快散架了

據The Information爆料，兩位知情人士透露，OpenAI安全主管Jeff Harris要撤了，這是公司大重組的一部分。Harris本人已經跟團隊打過招呼。

安全團隊大佬集體出走

Harris不是第一個跑路的。今年5月，OpenAI"超級對齊"團隊聯合負責人Jan Leike直接拍桌子走人，公開吐槽公司不把安全當回事。幾乎同時，另一位聯合創始人Ilya Sutskever也溜了。這個專門研究怎麼管住未來超強AI的團隊，直接原地解散。

Harris 2022年加入OpenAI，之前在Snap當了6年首席安全官，更早還在Meta（那時候還叫Facebook）管過安全。

新成立的安全委員會能頂用？

面對越來越多人質疑AI安全性，OpenAI最近搞了個**"安全與安保委員會"**，說是要給董事會提建議。

但不少業內人士覺得這就是個**"面子工程"——CEO Sam Altman自己就在委員會裡，而且這組織只有建議權沒有決策權**，能有多大用？

截止發稿，OpenAI還沒回應。

中國視角：要快還是要穩？

對國內AI圈來說，OpenAI這波人事地震很有看頭——商業化狂奔的時候，怎麼給安全團隊留夠話語權？業內共識是：隨著大模型越來越接近AGI，安全研究的獨立性和資源保障會成為全行業的頭疼問題。

常見問題

Jeff Harris 在 OpenAI 負責什麼工作?

Harris 擔任 OpenAI 安全與安全主管(Head of Safety and Security),負責公司 AI 模型和運營的安全保障工作。他於 2022 年從 Snap 加入,此前曾在 Meta 擔任安全主管。

OpenAI 的'超級對齊'團隊為什麼解散?

該團隊兩位聯合負責人 Jan Leike 和 Ilya Sutskever 在今年 5 月先後離職,Leike 公開表示與公司領導層在安全優先順序上存在分歧。團隊隨後被解散,這個團隊原本專注於研究如何控制未來的超級智慧 AI 系統。

OpenAI 新成立的安全委員會有實權嗎?

根據原文報道,該委員會僅被授權向董事會'提出建議'而非做出決策。批評者指出 CEO Sam Altman 本人也在委員會中,因此其獨立性和實際約束力受到質疑。

本文基於 GNews:Engadget 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.engadget.com/2212941/openai-head-of-safety-leaving-company-reorganization/