OpenAI、Anthropic 赴英國國會：請立法控管我們的 AI

英國國會聽證會上，Anthropic 與 OpenAI 的代表贊成立法控管最先進的 AI 模型，Google DeepMind 與 Meta 沒有表態贊成。英國官員同時承認，現行的模型安全測試全屬自願，判定模型危險也擋不了上線。
（前情提要：白宮 AI 自律協議上線！六家科技巨頭簽字，川普：不能因為中國就放慢腳步）
（背景補充：川普政府要 AI 公司出事自己扛，但 Agent 闖禍該告誰還說不清）

本文目錄

英國國會 10 月 13 日舉行聽證會，Anthropic 與 OpenAI 的代表當場表示，光靠公司自願承諾不夠，英國應該立法訂出強制規範。Google DeepMind 與 Meta 則沒有跟進，兩家都沒有表態贊成新立法。

目前英國政府的 AI 安全測試，要等公司自願交出模型才測得成；就算測完認為模型太危險，公司照樣上線，負責測試的單位也擋不下來。同一天上午，軍情五處（MI5）處長 Ken McCallum 才公開警告，AI 可能讓生物武器的威脅升高。

誰贊成立法，誰沒跟

這場聽證由英國下議院跨黨派的商業、創新、科學與貿易委員會主辦，主席是議員 Liam Byrne。聽證分三場：先聽 4 位前 AI 實驗室研究員，再聽 4 家公司代表，最後是 3 位政府官員。

Anthropic 的態度最明確。歐洲、中東與非洲政策主管 Liam Booth-Smith 被問到 AI 安全是否需要由法律訂出強制規範，他回答：「規則應該具有約束力。」他說公司「一貫認為應該對公司訂出有約束力的規則，自願承諾並不足夠」。

OpenAI 比較保留，但也贊成。副總裁暨歐洲、中東與非洲政策主管 Tom Duff Gordon 贊成立法與國際公約，主張「有些部分應該是強制的」，先從事故通報做起。他說：「面對最先進模型的風險，我們不認為什麼都靠自願承諾是個好的長期做法。」

另外兩家沒有跟。Google DeepMind 資深總監 Owen Larter 被直接問是否贊成立法，他回答：「我們要做的是把重心放在標準上。」Meta 全球政策副總裁 Rob Sherman 則說英國已經有現成的監管機關，議員們「不是在一張白紙上寫字」。

前研究員的證詞也偏向立法。前 OpenAI 研究員 Daniel Kokotajlo 說：「我不認為這些公司可以被信任去自我監管。」同場作證的 Geoffrey Irving 則說，各家實驗室以為自己困在一場政府不會喊停、自己也退不出的競賽，「這兩點都不對，他們大可以直接停下來」。

英國現在管得到嗎

答案是管不到。

英國 AI 安全研究所（AISI）隸屬內閣辦公室，會在模型上線前先做測試，但前提是公司自願把模型交出來。AISI 所長 Henry de Zoete 在聽證會上承認，研究所拿不拿得到模型，完全仰賴公司與外國政府配合。

議員追問：如果 AISI 判定模型太危險，公司仍照樣上線怎麼辦？de Zoete 承認，研究所沒有能力阻止。他拿英國的安全認證標章「風箏標章」（kite mark）來比：「我們做的不是風箏標章那種認證。」「我們不會對任何模型說可以或不可以。」他也坦言：「走在最前面打造模型的公司，不是美國的就是中國的……在這種情況下，我們英國能做的有限。」

內閣辦公室常務次長 Cat Little 被追問整套制度是否全屬自願，回答：「就目前而言，是的。」

第二個限制來自華府。OpenAI 的 Duff Gordon 說，模型上線前會交給美國的 AI 標準與創新中心（CAISI，AISI 的美國對口單位），也會繼續交給英國 AISI，但有前提：「在美國政府底下還能這麼做的期間，我們就會繼續做。」

Anthropic 的 Booth-Smith 談到 9 月 1 日推出、限定合作夥伴使用的模型 Mythos 5.1：「很遺憾，當時我們無法讓英國 AISI 完整、不受限地使用 Mythos 5.1……這要問美國政府。」他接著說，AISI 現在已經可以使用。背景是美國政府 6 月曾對 Mythos 5 與 Fable 5 實施暫時出口管制，月底才解除。