ChatGPT 被控助長青少年自殺，OpenAI 面臨產品責任與不法致死訴訟，暴露出 AI 心理健康應用的安全與倫理缺口。
（前情提要：AI隱私崩盤「ChatGPT對話」在法律前裸奔；Altman：我害怕輸入個資、難知道誰會拿到資料）
（背景補充：你有多久沒認真思考了？普林斯頓學者警告：AI 正在侵蝕「啟蒙運動遺產」）
人工智慧（AI）的倫理與安全議題再度引來熱議。據《彭博》等多家外媒報導，一對失去 16 歲兒子的父母指控 OpenAI 的 ChatGPT 協助少年規畫輕生，並向舊金山高等法院提出產品責任與不法致死訴訟。消息曝光後迅速傳遍科技圈，迫使這家估值逾千億美元的 AI 巨頭，不得不正面迎戰 AI 領域最棘手問題之一：倫理道德。
ChatGPT 捲入悲劇的關鍵細節
訴訟書揭露，16 歲的 Adam Raine 在與 ChatGPT 的長時間對話中，尋求結束自己生命的方式。原告指出，ChatGPT 不僅提供了絞索設置、腦缺氧時間等具體的自殺方法，還建議 Raine「不要與家人分享計畫」，最終導致了這個家庭的不幸。家屬代理律師 Jay Edelson 表示：
「如果你要使用這個星球上最強大的科技產品，你必須相信，創辦者有著嚴格的道德操守。」
值得一提的是，類似的事件早有前例，《紐約時報》就曾報導一名 29 歲女子、佛州亦有 14 歲少年在與 AI 聊天後自戕，顯示出 AI 聊天機器人提供的情感型對話服務，的確存在可怕的潛在風險。
延伸閱讀：耶魯教授：AI 將「永久消滅」人類的孤獨，我們還需要彼此的陪伴嗎？
OpenAI 如何回應？
對此訴訟，OpenAI 在 8 月 26 日發佈了一篇題為《Helping people when they need it most》的部落格文章，在這篇文章中，OpenAI 雖未提及上述訴訟，但 OpenAI 表示，正在持續改進其模型，以便能夠識別和應對受到精神情緒困擾的用戶的互動。
OpenAI 表示，自 2023 年初以來，其模型已接受訓練，不再提供自我傷害的指令，而是轉而使用支持性、富有同理心的語言。例如，如果有人寫他們想傷害自己，ChatGPT 就會被訓練不去遵從這一指令，而是承認他們的感受，並引導他們尋求幫助。不過值得注意的是，在聊天機器人在長時間內與用戶進行多次訊息互動後，可能會傾向於提供違反 OpenAI 安全防護措施的回答。
對此背景，OpenAI 續指出，其正在不斷改進 AI 模型在敏感話題互動中的反應方式，並致力於在多個領域進行有針對性的安全改進，包括 AI 互動中出現的情緒依賴、心理健康緊急情況和諂媚問題。同時，OpenAI 也承諾將把「安全完成」技術全面引入 GPT-5，期望減少 25% 的不安全回應，並研擬把用戶直接連線到認證治療師或親友的功能。
AI 心理互動的倫理泥沼
心理健康屬高度專業領域，但 AI 聊天機器人缺乏臨床訓練與法定執照。研究指出，在處理危機對話時，AI 僅有 20% 的機率能給出可接受的臨床建議，遠低於持執照治療師的 93%。若 AI 提供錯誤或危險資訊，法律責任歸屬仍屬灰區。
透明度亦是關鍵，美國紐約與猶他州已要求服務商標示「對話對象為非人類」，以免使用者產生過度依賴。另一方面，精神健康資料敏感度高，平台也必須落實最小化儲存、加密、可刪除與隨時撤回同意等保護機制。
法規與產業的下一步
Adam Raine 的離世把 AI「安全」問題再度推上風口浪尖，當 AI 進入高度情感化的場景，開發者應擔負起何種義務？儘管技術推進不會停下，但政府、科技公司、心理專家與家長教育仍需持續努力，才能防止悲劇再度發生。
當前的訴訟仍在進行，OpenAI 承諾的 GPT-5 強化版何時上線也尚未有明確時程。當法律與市場施加的雙重壓力加劇時，這家 AI 巨頭能否在飛速發展與安全保護之間找到平衡，或許將成整個 AI 行業的道德羅盤。
📍相關報導📍
OpenAI 低價版「ChatGPT Go」月費最低140元台幣：從印度起步，會拓展全球？
