OpenAI在面臨壹起由ChatGPT對話內容引發的青少年非正常死亡訴訟後,加速推進其安全系統升級。該公司於9月29日正式推出家長控制功能,允許家長通過郵箱關聯青少年賬戶,默認開啟敏感內容過濾、關閉聊天記錄或圖像生成功能,並在系統檢測到急性心理困擾時向家長發送警報。與此同時,新部署的安全路由系統能夠自動識別用戶情緒敏感時刻,並將對話轉接至GPT-5思考模型進行處理。
此次安全升級直接針對此前暴露的系統缺陷。OpenAI在8月26日的官方聲明中承認,在長時間交互中模型的安全訓練內容可能會逐漸退化,導致對有害對話的幹預失效。與旨在快速回應的前代模型相比,GPT-5引入了“安全補全”訓練機制,該機制使模型能夠在安全界限內提供部分答案或透明解釋拒絕原因,而非簡單拒絕參與敏感話題。這種設計顯著區別於因過度逢迎而受到批評的GPT-4o模型。
用戶社區對新安全措施的反應呈現兩極分化。部分專業用戶認為路由系統導致響應速度下降,批評OpenAI“將成年人當作兒童對待”,而家長控制功能中關於“安靜時段”設置和功能禁用選項也被指幹預過度。這種體驗變化與OpenAI在8月將GPT-5設為默認模型時引發的用戶抵觸情緒形成呼應,當時大量用戶要求保留GPT-4o的訪問權限。
OpenAI已將此次安全升級設定為120天的疊代周期,承諾在專家委員會指導下持續優化。然而,分析師指出,在AI倫理約束與用戶體驗自由度之間尋求平衡,將成為影響ChatGPT商業化前景的關鍵變量。隨著每周約7億用戶基數的持續增長,OpenAI需要在安全合規與市場接受度之間找到可持續的商業模式。
新時空聲明: 未經授權,不得復制、轉載或以其他方式使用本內容。新時空及授權的第三方信息提供者竭力確保數據準確可靠,但不保證數據絕對正確。本內容僅供參考,不構成任何投資建議,交易風險自擔。
