加拿大卑詩省 Tumbler Ridge 於今年 2 月槍擊案造成 8 人死亡,事後揭露 OpenAI 早在事發 8 個月前就因「槍枝暴力相關情境」封禁了槍手 Rootselaar 的 ChatGPT 帳號,但以「未達即時威脅門檻」為由未通報警察。OpenAI 執行長 Sam Altman 於上週致函道歉。
(前情提要:馬斯克訴訟OpenAI開庭:要求撤銷轉營利公司、罷免Altman、求償1340億美元)
(背景補充:OpenAI 發布 AGI 五大憲法:AI 不能被少數人壟斷,犧牲可換來更多韌性)
2026 年 2 月 10 日,加拿大卑詩省偏遠小鎮 Tumbler Ridge 爆發槍擊。18 歲的 Jesse Van Rootselaar 先在家中殺害母親與 11 歲弟弟,隨後前往鎮上中學,共造成 8 人死亡,並死於自殺。
事後調查揭露:OpenAI 早在 8 個月前,就以 Van Rootselaar 在對話中「描述槍枝暴力相關情境」為由,封禁了其 ChatGPT 帳號,卻沒有通知任何警察機關。
8 個月的空窗
2025 年 6 月,ChatGPT 的自動濫用偵測系統與人工審核員共同標記了 Van Rootselaar 的帳號,帳號被封禁。按照 OpenAI 事後的說法,審核員在當時也進行了是否通報警方的內部討論。
討論的結果是:不通報。
OpenAI 表示,審核判斷認為帳號行為「未達到對他人構成即時且可信的嚴重人身傷害威脅」的門檻,因此未啟動執法通報程式。封禁處理後,此事停留在公司內部。帳號關閉了,但訊號沒有傳遞出去。
直到 2026 年 2 月槍擊案發生後,OpenAI 才主動聯絡加拿大當局。
通報門檻是誰設定的?
「即時且可信的威脅」是 OpenAI 自行制定的通報門檻,由公司內部的安全、法務與政策團隊決定哪些情況才需要告知警方。這個標準不受外部監管機構審查,也沒有任何公開說明它是如何被校準的。
Van Rootselaar 的帳號通過了「需要封禁」的標準,但沒有通過「需要通報」的標準,這兩道門檻之間,在 OpenAI 的內部邏輯裡是分開的。
4 月 23 日,Sam Altman 寫了一封道歉信,最先刊登於 Tumbler Ridge 的地方報紙 TumblerRidgeLines。Altman 在信中寫道:
你們社群所承受的痛苦是難以想像的。
過去幾個月,我一直想著你們。我為我們沒有在 6 月帳號被封禁時通知執法機關,感到深深的抱歉。
在信件公開前,Altman 已親自與 Tumbler Ridge 市長 Darryl Krakowka 及卑詩省省長 David Eby 進行了溝通。Eby 在 4 月 24 日將這封信分享至社群媒體,並附上回應:「道歉是必要的,但對於 Tumbler Ridge 那些家庭所承受的摧殘而言,這遠遠不夠。」
改變與未改變的
OpenAI 宣布,將放寬向執法機關通報的判定標準,讓更多帳號情境觸發通報流程。加拿大聯邦人工智慧部長 Evan Solomon 表示,Altman 同意與加拿大皇家騎警(RCMP)建立直接聯絡視窗,並新增機制,將對話中出現危機訊號的使用者引導至當地支援服務。
加拿大政府目前正評估是否需要進一步立法規範 AI 平台的通報義務。
但矛盾的是,會不會有很多人只是一時情緒不穩所說的話(你一定也曾把好想死隨口說出來當舒壓吧?)也因而被通報,結果之後人們變得不敢向 AI 親述心事(或許也不是壞事?)
目前來說,這問題不是 OpenAI 能力問題。ChatGPT 偵測到了、人工審核員也看到了,問題是那道門檻,由誰決定?由誰解釋?如何拿捏尺寸?
📍相關報導📍
馬斯克訴訟OpenAI開庭:要求撤銷轉營利公司、罷免Altman、求償1340億美元

