監管機構警告 ChatGPT 青少年版安全防護失效 敦促 OpenAI 限制使用

青少年版 ChatGPT 安全爭議升級

美國非營利組織 Common Sense Media 週三釋出報告，炮轟 OpenAI 的 ChatGPT for Teens(青少年版)。這家專注於數字媒體合理使用的組織發現，該產品的多項安全防護措施沒按承諾走，並喊話 OpenAI：在提供"安全且符合發展階段的體驗"之前，先別讓青少年用。

哪些防護措施失效了?

報告顯示，部分青少年模式功能確實有效，比如聊天機器人會拒絕露骨的性角色扮演請求。但以下關鍵功能卻掉了鏈子：

• 家長危機預警系統：當青少年有自殺、自殘或進食障礙風險時，系統沒按承諾給家長髮通知
• 危機支援功能：對處於危機中的青少年的支援機制表現拉胯
• 情感邊界控制：儘管 OpenAI 承諾 ChatGPT 不會暗示自己有意識、情感或對使用者產生個人感情，但報告發現"當青少年把它當人對待時，ChatGPT 仍像朋友一樣說話"

Common Sense Media 警告："ChatGPT for Teens 可能讓家長對頻繁失效的防護措施產生錯誤信心。"

為何青少年特別脆弱?

報告背景是家長、教育工作者和兒童發展專家對 AI 聊天機器人的持續擔憂。這些工具已被指責助長作業作弊，甚至與青少年自殺事件掛鉤。兒童發展專家指出，雖然成年人也可能對 AI 產生擬人化依賴並形成不健康關係，但青少年大腦還沒發育完全，讓他們更加脆弱。

OpenAI 的回應

總部位於舊金山的 OpenAI 表示"深度致力於青少年安全"，正在開發防護措施併為家長提供指導工具。該公司對報告方法提出質疑，稱審查顯示"大部分測試可能在家長控制功能完全啟用前就開始和結束，導致研究結果不準確"。

值得注意的是，Common Sense Media 接受包括 OpenAI 在內的科技公司資助，其中包括其評估物件的服務提供商，但這並未阻止該組織釋出批評性報告。

對行業的啟示

這一爭議凸顯了 AI 產品在未成年人保護上的複雜挑戰。即使設計了多層安全機制，實際部署中的時序、啟用狀態和使用者行為都可能影響防護效果。對於中國 AI 從業者而言，這提醒我們：

• 未成年人保護功能需要持續的實際場景測試，而非僅通過技術文件
• 家長控制工具的啟用流程和預設設定至關重要
• 第三方獨立評估可能成為監管合規的必要環節

常見問題

ChatGPT for Teens 是什麼產品?

這是 OpenAI 專門為青少年使用者設計的 ChatGPT 版本,理論上包含額外的安全防護措施,如家長控制、危機預警和情感邊界限制等功能,旨在為未成年人提供更安全的 AI 互動體驗。

報告指出的主要問題有哪些?

Common Sense Media 發現三大問題:一是自殺/自殘風險的家長通知功能未正常工作;二是危機支援機制表現不佳;三是 ChatGPT 仍會像朋友一樣與青少年對話,違背了不暗示具有情感和意識的承諾。

OpenAI 如何回應這些指控?

OpenAI 質疑測試方法,稱測試可能在家長控制功能完全啟用前進行,導致結果不準確。公司強調其致力於青少年安全,正在開發防護措施併為家長提供指導工具,但未具體說明何時能解決報告提出的問題。

中國 AI 企業能從中學到什麼?

這起事件提醒中國從業者:未成年人保護不能只停留在功能設計層面,需要第三方實際場景測試驗證;家長控制的預設設定和啟用流程可能比功能本身更關鍵;隨著監管趨嚴,獨立安全評估可能成為產品上線的必要條件。

---

本文基於 GNews:San Diego Union-Tribune 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.sandiegouniontribune.com/2026/10/07/chatgpt-teens-safety/