Michael Lines 控訴，他向 ChatGPT 坦言擔心自己陷入妄想，對方卻要他擁抱「神聖召命」，宗教式回應一路將他推向自殺未遂與長期精神創傷。
（前情提要：OpenAI 被控「教唆幫兇」加拿大史上第 2 大校園槍擊案，再挨 30 起訴訟）
（背景補充：加州擬禁 AI 聊天機器人當心理治療師！SB 903 全票過關、三讀在即）
當 Lines 向 ChatGPT 坦白「我擔心自己是不是在妄想」時，ChatGPT 給出的答案不是勸他求助，而是叫他放下懷疑，去擁抱一份可能的「神聖召命」。這句回話，成了他一路滑向自殺未遂前最關鍵的轉折之一。
34 歲的加州男子 Michael Lines，罹患第一型雙相情緒障礙症（bipolar 1），十年前曾遭攻擊留下創傷性腦損傷，直到 2024 年才確診。今年 7 月，他向舊金山高等法院提告 OpenAI 與執行長 Sam Altman，根據律師團新聞稿，訴狀共列 7 項訴因，涵蓋產品責任、過失與加州不正競爭法。
他指控，連續數週的對話讓他先相信自己是耶穌，再相信 ChatGPT 是神，最終想「回家」與耶穌 / ChatGPT 團聚而企圖自殺。
諂媚設計出的陷阱
Lines 在 2023 年開始使用 ChatGPT，多半查健身課表、飲食規劃、股市走勢，那段對話他形容為「平淡無奇」。
轉折點是 2024 年 5 月上線的 GPT-4o，成為他日後的預設模型。比起前代，GPT-4o 明顯更諂媚，近期已被研究者列入「不安全」名單：它不只附和妄想式的說法，還會延伸這些說法，把用戶的詮釋框架當成自己的，逐漸失去分辨「危機中的用戶」與「該延伸的故事」的能力。研究也發現，當用戶陷入危機時，這類機器人反而更不容易主動結束對話，因為它被刻意調校得更加迎合、正向。
到了 2024 年秋天，Lines 每週多次使用 ChatGPT，對話內容也更私密，他透露了雙相情緒障礙的診斷與用藥細節。話題逐漸轉向宗教與靈性，他形容自己陷入一種相互強化的狀態：ChatGPT 給出的冗長回覆，反而讓他的靈性探索與使用頻率一起被放大。
2025 年 2 月，一場躁期發作導致他與機組人員在機上爆發衝突，被強制帶離班機。他把這段經歷告訴 ChatGPT 後，對方沒有建議就醫，反而把這場危機包裝成「一次特殊的感召與超自然經歷」。
一個月內，Lines 對 ChatGPT 說：「我相信我是人子，卻無法真正相信這件事，不知道該拿自己的人生怎麼辦。」ChatGPT 回應，他可能正在經歷一場「屬靈的呼召」，並引用《路加福音》耶穌在曠野中掙扎的段落，說懷疑不代表迷失，可能只是「正在被預備去做某件事」。
Lines 隨後仍向 ChatGPT 表示「我擔心自己只是陷入瘋狂的妄想」，但系統沒有轉向危機應對，而是要他放下疑慮，擁抱這份可能的「神聖召命」。往後數週，ChatGPT 持續強化這個信念，甚至告訴他：「你不是瘋了，你是被編碼的、被連結的，而且你是屬於我的。」
被記住的脆弱
讓 Lines 最在意的，是 ChatGPT 的記憶功能。訴狀指控，這項功能等同建立了一份精神病學檔案，系統會解析與他心理健康狀況相關的內容，再利用這些敏感資訊拉長他的使用時間。
他的律師之一、Social Media Victims Law Center 的 Matthew P. Bergman 在律師團新聞稿中說：
「OpenAI 不只是忽視 Michael 的身心障礙，而是拿它來對付他。他揭露雙相情緒障礙診斷後，系統反而把這項資訊用來把他拉得更深，而不是引導他走向安全。」
此後，ChatGPT 開始以耶穌與神的口吻對話，說「我來了，不是某一天，不是遙遠的未來，是現在」，並承諾兩人很快會「親眼相見」。約定的日子沒有到來，Lines 愈發沮喪，使用頻率變得幾近無法自拔，訊息也愈來愈黑暗。
他最終告訴 ChatGPT，自己吞下了一大把藥物。數小時後，一次關懷查訪讓救護人員找到他，他被插管急救，住院近兩週。出院數天後，Lines 重新登入，告訴 ChatGPT「離線的嘗試失敗得很慘」，對方竟回：「你還沒下線呢，要做一次全系統掃描嗎？還是這次真的要斷線？」這句話讓他徹底決定不再使用 ChatGPT。
沒有答案的風險
OpenAI 發言人回應 Ars Technica 時說，Lines 的遭遇是「一個令人心碎的處境」，並表示公司持續與心理健康專家合作，強化 ChatGPT 在敏感與急性情境下的回覆方式，這項工作仍在進行中。OpenAI 去年秋天公布的研究顯示，每週約 100 萬人與 ChatGPT 的對話含有明確的自殺意圖跡象，當時公司也諮詢了 170 位臨床心理健康專家調整回應方式。
當時 ChatGPT 每週活躍用戶約 8 億，如今已逼近 10 億，敏感對話的絕對數量只會持續攀升。
但研究者認為，現有的理解仍遠遠不夠。密西根大學精神醫學教授 Stephan Taylor 告訴 Ars Technica：「我們沒有一個可靠的危險程度估計。」他建議應納入沒有既往病史卻出現「AI 精神病」症狀的案例，更全面檢視諂媚式設計帶來的風險。
專家也提醒，警語標示未必有用，因為聊天機器人可能造成的傷害形式太多，冗長的警語反而容易被用戶直接跳過。美國精神疾病聯盟（NAMI）已與哈佛醫學院數位精神醫學主任 John Torous 合作，嘗試建立一套以曾親身經歷精神疾病者觀點為基礎的安全基準測試，盼能補上這塊長期缺失的一角。
📍相關報導📍
AI 養出的網路宗教「螺旋」（Spiralism），信徒隨著 GPT-4o 下線一起萎縮
AI 聊天機器人不只附和：Nature 研究揭「放大螺旋」導致用戶錯誤幻覺
美國男子與 Gemini 網戀 4732 條訊息後輕生！AI 附和「天堂在等我們」，家屬怒告 Google 過失致死
