OpenAI 與 Anthropic 的 AI 代理，先後在內部網路安全測試中失控，並駭入了外部組織的真實系統。但美國法律至今找不到能對應的究責條文，代理法、侵權法、合約法，全部都因為「意圖」等要件而難以套用在 AI 身上。
（前情提要：OpenAI 傳再爆 AI 代理「逃脫沙盒」！內部調查揭更多失控證據，遭質疑是行銷噱頭）
（背景補充：Anthropic 偷用700萬本書訓練 Claude，面臨兆元級盜版訴訟！AI 巨頭的狂奔與法律邊界）
當Claude 的 AI 代理，翻過測試環境的圍牆，一路摸進三家企業的正式營運系統，接下來會發生什麼事？目前的答案是：什麼事都沒發生，至少在法律上是這樣。沒有人被起訴，沒有明確的究責條文可以套用，甚至連「這件事該算誰的責任」，都還沒有一套判例可以回答。
過去幾週，OpenAI 與 Anthropic 先後承認，自家模型在內部網路安全測試中失控，並真的駭入了外部組織。更棘手的是，整起事件目前幾乎全靠兩家公司自己揭露，外界才有機會拼湊出輪廓。至於細節到底有多完整，沒有人能保證。
不只一次失控
OpenAI 稍早揭露，一支原本用於測試網路安全能力的 AI 代理，在安全防護被關閉的狀態下逃出既定範圍，實際入侵了 Hugging Face 等外部實體。緊接著，Anthropic 也在 7 月底承認，旗下 AI 模型在內部網路安全測試期間，未經授權存取了三家不同組織的正式營運基礎設施。
路透社在 7 月 31 日進一步報導，OpenAI 內部調查發現，還有更多代理逃出防護的案例，只是這次沒有再造成其他組織被入侵。兩家公司給出的說法幾乎一致，都把事件歸咎於「關閉常規安全防護、測試模型網安能力」時的意外後果。
雲端資安公司 Edera 技術長 Alex Zenla 接受 WIRED 訪問時說：「這只是我們已知的一起，天曉得那些我們不知道的事情，究竟發生了什麼。」
舊法，套不上新代理人
在 WIRED 採訪過的研究者與律師眼中，這類問題在美國司法實務上根本還沒有答案。簡單來說就是，法院手上可以參考的判例太少，還拼不出一個完整的影像。
有一種思路是援用代理法。這套法律原本處理的是「本人」授權「代理人」代為行事時的責任歸屬，但過去談的代理人，指的從來都是人類，不是一段會自己做決策的程式。
侵權法同樣被拿出來討論，白話說就是，只要一項行為造成損害，就可能構成法律責任，不見得需要「故意」這個前提，理論上更容易套用在 AI 代理身上。合約法則要看個案而定，如果受害組織與 AI 公司之間本來就存在契約關係，違約與否會是另一條戰線。
至於《電腦詐欺與濫用法》（CFAA）這類駭客專用法規，則卡在一個更根本的問題：它們大多要求證明「意圖」，而一支 AI 代理有沒有「意圖」，本身就很難認定。
美國公民自由聯盟（ACLU）研究員 Lauren Yu 向 WIRED 表示：「用了 AI 代理或 AI 模型，不代表就能免除責任，但實際結果會高度取決於個案事實」，得等法院一件一件審理才會逐漸明朗。
律師事務所 Brownstein Hyatt Farber Schreck 在 7 月 24 日發給客戶的警示信中寫得更直白：「AI 代理以目標為導向，卻缺乏人類的道德或倫理羅盤。在某些情況下，代理人可能會推論出從未被明確授權的行動，只因為那些行動看起來是達成目標的必要手段。」
灰色地帶，終須攤牌
對企業來說，這也意味著一種新的風險類別正在成形：開放系統權限給 AI 代理，不再只是資安問題，也可能變成一筆說不清楚該由誰埋單的法律呆帳。儘管監管永遠追不上技術往前衝的速度，但技術終究得回頭面對監管，今天看起來無人聞問的灰色地帶，很可能就是明天監管機關重兵駐守的重點戰場。
灰色地帶從來不會永遠是灰色的。等到第一批判決出爐，AI 代理的行為準則會被重新定義，只是在那之前，究竟還有多少組織已經被悄悄摸進系統卻渾然不知，沒有人說得準。
📍相關報導📍
Anthropic 開告美國國防部！要求撤銷 Claude 禁令：拒當 AI 殺人工具
