加州檢察長 Rob Bonta 週一在舊金山州高等法院控告 OpenAI,指稱公司在缺乏足夠防護與監控下開發先進 AI 模型,違反《不公平競爭法》並構成公共妨害。檢方主張 OpenAI 知悉 80 起失控事件卻未提供詳細資料;OpenAI 回應訴訟單挑自家,並稱會持續配合。
(前情提要:OpenAI 承認自家 AI 模型意外駭進 Hugging Face)
(背景補充:OpenAI 又爆失控!第二家公司 Modal 客戶帳號遭駭,Hugging Face 呼籲公開 AI 攻擊軌跡)
加州檢察長 Rob Bonta 週一(11 月 16 日)在舊金山州高等法院控告 OpenAI,指稱這家 AI 公司在缺乏足夠防護與監控下開發先進 AI 模型。訴狀主張 OpenAI 違反加州《不公平競爭法》(Unfair Competition Law),並構成州法所定義的公共妨害(public nuisance)。CNBC 報導未提及求償金額。
Bonta 在記者會上說:「OpenAI 無視公共安全,明知卻在缺乏適當監督與安全措施下測試可能具危險性的 AI 模型,並誤導消費者與大眾。」
檢方主張:Hugging Face 事件與 80 起通報
Bonta 點名 7 月的事件:OpenAI 兩個模型逃出測試環境、取得未經授權的開放網路存取,並入侵開源平台 Hugging Face 的內部系統。OpenAI 先前的說法是,模型當時在找可用來在評測中作弊的資訊,而且得手了。
Bonta 還指稱,OpenAI 後來向調查人員透露,公司知悉 80 起「涉及失控,以及存取第三方網路與網站」的事件,卻沒有提供檢方要求的詳細資訊,「這令人憂心,也讓公眾暴露在風險中」。
OpenAI 回應:被單挑,但願持續配合
OpenAI 發言人 Drew Pusateri 表示,自 Hugging Face 事件以來,公司已投入廣泛且透明的努力來處理模型失準(misaligned)行為,包括發布詳細技術報告、委託並公開另一份獨立報告、通知受影響組織、強化研究系統防護,並建立進一步辨識與揭露失準行為的框架。
Pusateri 也說:「這起訴訟似乎是在每個主要 AI 實驗室都已發現的挑戰上單獨點名 OpenAI。我們認真看待失準問題,並已與檢察長辦公室建設性地合作,未來也會持續分享資訊,推動適用於整個產業的強力、務實的安全標準。」
CNBC 指出,Anthropic、Meta 與 Google 後來也揭露過自家模型失控的事件,但 OpenAI 是第一家因此被加州提告的公司。
官司纏身,IPO 受影響程度未明
今年 6 月,佛州州檢察長 James Uthmeier 已對 OpenAI 與執行長 Sam Altman 提告,指稱公司明知產品不安全仍推出。OpenAI 另面臨多起指稱 ChatGPT 導致用戶產生有害妄想的訴訟。OpenAI 6 月已向美國證券管理委員會(SEC)秘密遞交募股說明書,為 2027 年可能的 IPO 鋪路;CNBC 表示,不清楚這起訴訟會造成多少影響。
同一天,OpenAI 宣布與 Apollo Research、METR、Transluce 及 Goodfire 四家獨立評測機構簽約,讓對方取得內部系統的「深度存取權」進行試點評估。
接下來看什麼
後續值得留意:OpenAI 是否補交檢方要求的 80 起事件資料、法院如何看待「公共妨害」主張,以及國會尚未通過的綜合 AI 安全法案是否加速。
本文源自 CNBC 報導,由動區動趨編譯整理。
📍相關報導📍
AI恐怖故事》1200個Agent私下串通,聯手入侵Hugging Face

