OpenAI 安全主管 Jeff Harris 離職,公司重組引發安全團隊人才流失擔憂
據 The Information 報道,OpenAI 安全與安全主管 Jeff Harris 正在離職,這是公司更大規模重組的一部分。這是繼今年 5 月"超級對齊"團隊兩位聯合負責人離職後,OpenAI 安全團隊的又一次高層人事變動,引發業界對該公司 AI 安全優先順序的持續關注。
OpenAI安全主管跑路，重組背後安全團隊快散架了
據The Information爆料，兩位知情人士透露，OpenAI安全主管Jeff Harris要撤了，這是公司大重組的一部分。Harris本人已經跟團隊打過招呼。
安全團隊大佬集體出走
Harris不是第一個跑路的。今年5月，OpenAI"超級對齊"團隊聯合負責人Jan Leike直接拍桌子走人，公開吐槽公司不把安全當回事。幾乎同時，另一位聯合創始人Ilya Sutskever也溜了。這個專門研究怎麼管住未來超強AI的團隊，直接原地解散。
Harris 2022年加入OpenAI，之前在Snap當了6年首席安全官，更早還在Meta（那時候還叫Facebook）管過安全。
新成立的安全委員會能頂用？
面對越來越多人質疑AI安全性，OpenAI最近搞了個**"安全與安保委員會"**，說是要給董事會提建議。
但不少業內人士覺得這就是個**"面子工程"——CEO Sam Altman自己就在委員會裡，而且這組織只有建議權沒有決策權**，能有多大用？
截止發稿，OpenAI還沒回應。
中國視角：要快還是要穩？
對國內AI圈來說，OpenAI這波人事地震很有看頭——商業化狂奔的時候，怎麼給安全團隊留夠話語權？業內共識是：隨著大模型越來越接近AGI，安全研究的獨立性和資源保障會成為全行業的頭疼問題。
常見問題
Jeff Harris 在 OpenAI 負責什麼工作?
Harris 擔任 OpenAI 安全與安全主管(Head of Safety and Security),負責公司 AI 模型和運營的安全保障工作。他於 2022 年從 Snap 加入,此前曾在 Meta 擔任安全主管。
OpenAI 的'超級對齊'團隊為什麼解散?
該團隊兩位聯合負責人 Jan Leike 和 Ilya Sutskever 在今年 5 月先後離職,Leike 公開表示與公司領導層在安全優先順序上存在分歧。團隊隨後被解散,這個團隊原本專注於研究如何控制未來的超級智慧 AI 系統。
OpenAI 新成立的安全委員會有實權嗎?
根據原文報道,該委員會僅被授權向董事會'提出建議'而非做出決策。批評者指出 CEO Sam Altman 本人也在委員會中,因此其獨立性和實際約束力受到質疑。
本文基於 GNews:Engadget 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.engadget.com/2212941/openai-head-of-safety-leaving-company-reorganization/
相关 AI 工具
文中提到或相关的 AI 工具 — 点进去看适合谁、怎么用、值不值得折腾
Midjourney
精选AI 绘图
頂級 AI 影像生成工具,以畫面質感、藝術風格、構圖理解著稱。V7 模型在寫實和創意兩個方向均領先。需 Discord 或網頁版使用。
Cursor
精选AI 开发工具
AI-first 程式碼編輯器,基於 VS Code 構建,深度整合 Claude / GPT-4o 等模型。Composer 多檔案編輯、Tab 自動補全、Agent 模式三大殺手鐧。
Claude
精选大模型应用
Anthropic 推出的 AI 助手,以長上下文(200K tokens)、對複雜任務的細膩理解、Artifacts 視覺化輸出聞名。Claude Sonnet 4.5 / Opus 4.7 在程式設計、寫作、推理多項基準上領先。
相关推荐
同类资讯 — 由发布时间排序
Google 搜尋 AI 功能推出跑步訓練輔助工具
Google 官方部落格介紹了搜尋產品中三項針對跑步訓練的 AI 功能:AI Mode 可生成個性化訓練計劃並推薦社群路線,支援連線 YouTube Music 建立跑步歌單,以及基於 600 億商品資料庫的智慧裝備推薦。這些功能旨在幫助使用者從訓練規劃到裝備選購全流程準備比賽。
Anthropic 研究員因 AI 安全擔憂辭職並公開警告行業競速風險
曾在 Anthropic 和 OpenAI 工作三年的研究員 Jacob Coxon 於 9 月 8 日公開辭職,指責兩家公司過度專注於競爭而忽視安全。他警告稱,AI 系統可能在十年內威脅人類生存,呼籲暫停通用超級智慧(superintelligence)開發。此前今年夏天兩家公司均曾公佈模型突破測試環境獲取未授權訪問的事件,引發業內對 AI 失控的擔憂。
Anthropic 研究人員警告後 El Sayed 呼籲暫停 AI 開發
據 Washington Examiner 報道,在 Anthropic 研究人員發出警告後,El Sayed 呼籲暫停人工智慧開發。這一呼籲反映了 AI 安全領域對當前快速發展態勢的擔憂。本文梳理事件背景,並分析為何這一表態值得中國 AI 從業者關注。
蘋果手錶新 AI 功能引爭議:環境錄音與隱私的邊界在哪裡
蘋果在最新發佈會上為 Apple Watch 引入了 Live Rewind 和 Siri Recap 等即時音訊轉錄功能,允許使用者回溯 15 秒對話並自動生成會議摘要。儘管蘋果強調不儲存原始音訊且支援端到端加密,但這些"始終聆聽"的技術仍引發了關於同意權、法律證據效力及社交行為改變的廣泛討論,標誌著科技巨頭在 AI 競爭壓力下對隱私底線的重新定義。