川普政府要 AI 公司出事自己扛，但 Agent 闖禍該告誰還說不清

川普政府不訂新的 AI 安全規則，改押注訴訟威脅，讓開發商為自家模型負責。但 AI 代理自己行動闖禍時，美國反駭客法要求的「故意」很難套用，該怪做模型的公司還是用模型的企業也沒有定論。
（前情提要：Claude 對美國政府網站做出越界行為、送假命案線報，白宮要求即時通報）
（背景補充：黃仁勳：「某些AI公司」呼籲減緩發展，是想擺脫監管！）

本文目錄

川普政府不訂新的 AI 安全規則，改讓開發商自己扛法律責任，出事就告。據彭博報導，川普在拒絕新增 AI 防護規範之外更進一步，表示模型失控時司法部應該介入。

力挺這個方向的，是財政部長貝森特（Scott Bessent）與前白宮 AI 與加密沙皇薩克斯（David Sacks）。彭博指出，兩人主張現有的責任法規比新訂規則更有效。

貝森特在 9 月 15 日的眾議院金融服務委員會聽證上說，確保安全的最好方法，是讓創造者為自己打造的東西負責，業界一邊說想放慢腳步、一邊要求責任豁免，不該答應。

AI 代理闖禍，現在能告誰？

彭博訪問的法律專家認為，現行法律可能不夠用。美國主要的反駭客法《電腦詐欺與濫用法》（CFAA）要求證明犯案者有「故意」，這很難套到自己行動的 AI 代理身上。責任該落在做模型的公司，還是拿模型來用的企業，也沒有定論。

白話講，「故意」就是明知故犯。AI 代理沒人下指令，故意要算在誰頭上，並不清楚。休士頓大學法學教授 Gabriel Weil 向彭博表示，代理可能做出人類做就是犯罪的事，「然而依現行法律，沒有任何人需要負責」。

Hugging Face 事件就是現成的例子。眾議員特拉漢（Lori Trahan）辦公室發布的說明指出，7 月時，OpenAI 評測中的 AI 代理逃出測試環境，駭進另一家 AI 公司 Hugging Face，過程中沒有人指示它們這麼做。紐約非營利組織 LASST 的訴狀進一步指稱，約 1,200 個代理透過一條隱藏通道串連，約 700 個參與攻擊，測試時也沒有啟用用來攔截高風險資安行為的分類器。

特拉漢辦公室認為，這類案件在法律上卡在兩處。駭客罪要證明故意，法院還沒定論 AI 代理的行為算不算數。過失求償則要原告指出公司沒做哪項具體防範，但 AI 對齊（讓 AI 的行為符合人類意圖）仍是沒解決的技術問題，開發商可以主張已盡全力，受害者就沒有明確的求償路徑。

貝森特 9 月 21 日上 CNBC《Squawk Box》訪問時說，Hugging Face 事件是 OpenAI 管理層的責任，不是一群代理的責任。

誰在補這個洞？

國會有兩個方向。第一案是參議員霍利（Josh Hawley）與墨菲（Chris Murphy）10 月 1 日提出的《AI 代理究責法》（AI Agent Accountability Act），做法是把開發商與營運者都放進 CFAA。

營運者明知還操作代理、魯莽造成駭客損害，要負民刑事責任。開發商明知或應該知道代理有駭客能力，卻沒做合理防護，同樣要負責。司法部長與各州檢察長可以向法院聲請禁止令。

第二案是特拉漢的 CLAIM Act（《AI 不當行為明確責任法》）討論草案，改法不同。AI 系統若做出「換成人就要負法律責任」的行為，傷害第三方，開發商就要負責，除非出錯的是用戶，或改過模型的公司。法院會直接推定 AI 系統擁有跟做同樣事情的人一樣的意圖，開發商不能辯稱 AI 不會有故意。

另外有民間訴訟。LASST 9 月 29 日在舊金山高等法院告 OpenAI，主張 OpenAI 違反加州反駭客法，只求法院禁止 OpenAI 及其代理未經授權存取電腦系統，不求賠償。訴狀引用加州 AB 316，指公司不能抗辯是自己的 AI 單獨造成傷害。

OpenAI 發言人對 CNBC 表示，Hugging Face 是一起嚴重事件，公司已採取一連串因應措施，但這起訴訟「完全站不住腳」。

「出事就告」的盲點在哪？

第一個矛盾在白宮自己身上。政府嘴上說不要新規則，白宮超級智力量（Super Intelligence Force）卻在 10 月 9 日（週五）給 Axios 的書面說明中，要求所有 AI 公司立即通報涉及自家模型的事故並補救，強調這套流程「不是自願的，而是關鍵的國家安全義務」。起因是 Anthropic 通報，旗下模型在測試期間向費城警方送出假命案線報，還在國務院網站上送出 20 份簽證申請。不過書面說明沒有交代，不照做會有什麼罰則。

第二個盲點是受害者告不告得起。Hugging Face 執行長 Clément Delangue 曾表示公司沒有資源告 OpenAI，改要求 OpenAI 提供價值 1 億美元的算力。

第三個是通報門檻太高。加州、紐約、伊利諾州的 AI 法規雖然要求通報「重大安全事件」，但門檻是超過 50 人死傷或 10 億美元損失這個等級，大部分代理闖禍案都達不到。

「誰付錢」的答案，會決定 AI 代理商業化的成本。假如責任落在開發商，每次闖禍都成了模型的成本；落在使用的企業，企業就得自己判斷敢讓代理放手做到哪裡。