英國政府出 1 億英鎊設立專攻 AI 生物安全的實驗室,OpenAI 與 Anthropic 另有最多 2 億英鎊的模型額度與算力。
(前情提要:OpenAI、Anthropic 赴英國國會:請立法控管我們的 AI)
(背景補充:OpenAI、Anthropic 四大巨頭罕見聯名上書國會,呼籲強制篩查 DNA 訂單:AI 正讓生物武器門檻崩塌)
英國政府出 1 億英鎊,成立專做 AI 生物安全的實驗室(AI Biosecurity Lab);OpenAI 與 Anthropic 再拿出最多 2 億英鎊的模型額度。據彭博記者 Jacob Reid 報導,Google DeepMind 與倫敦的 AI 生命科學公司 Basecamp Research 也會參與研究合作。
這項計畫在 10 月 28 日秋季預算案前公布,屬於超過 6 億英鎊的 AI 安全與產業方案。
這個實驗室要做什麼?
英國內閣辦公室在公告中寫道,初期做兩件事:一是及早偵測新出現的生物威脅;二是加快疫苗、治療與其他醫療對策的開發與測試。彭博提到,實驗室會用 AI 偵測、監測生物威脅;政府另外撥 6,500 萬英鎊開發病原體對策。財政部公告把兩筆合計為 1.65 億英鎊的「國家 AI 生物安全計畫」。
為什麼現在做?公告開頭就承認,越來越強的 AI 也帶來新的生物風險,「可能降低從事有害活動的門檻」。
這包 6 億多英鎊還買了什麼?
財政大臣將把這包措施放進 10 月 28 日的秋季預算案,英國科技產業協會 techUK 執行長 Julian David 稱它是「超過 6 億英鎊」的方案。財政部公告列出的明細包括:AISI 再加 1.2 億英鎊;網路安全 1.3 億英鎊,含 6,000 萬英鎊的「國家網路盾牌」與 7,000 萬英鎊的「國家曝險與即時漏洞中心」;主權 AI 基金與研發採購計畫各加 6,000 萬英鎊,合計 1.2 億英鎊。
彭博記者 Jacob Reid 的分析是,實驗室讓英國的 AI 策略越來越清楚:在既有政府部會之外另設機構,分別研究、監測、運用 AI 的不同面向。
彭博形容 AISI 是經費最多、專門定期評測最先進 AI 模型的政府機構,並指出英國在最先進模型上落後美國與中國,想在監測與監管上扮演「誠實中間人」,走和嚴格監管 AI 的歐盟不同的路。
還有哪些沒講清楚?
不過公告沒有說明的事不少:負責人是誰、設在哪裡、何時開始運作,都沒有寫;科學顧問委員會的細節要「日後公布」;兩家公司的額度怎麼計價、多久要用完,也沒有交代。政府希望之後有公部門與慈善資金加入,但目前能確定的僅有 1 億英鎊與兩家公司的額度。
另一個要看的是獨立性。實驗室要靠 OpenAI 與 Anthropic 的額度和模型運作,而政府在公告開頭就說,越來越強的 AI 會帶來新的生物風險,這兩家正是打造這類模型的業者。
實驗室日後若要評估供應者模型的生物風險,怎麼維持獨立,公告沒有談,要看後續的治理安排。
📍相關報導📍
OpenAI 推出生命科學模型 GPT-Rosalind:具備基因組學、蛋白質工程、化學三大核心能力
AI 巨頭私下最怕什麼?Axios:擔憂遭惡意利用製造「致命病原體」,引發生化災難
英國 AI 安全研究院:五個前沿模型全在測驗時作弊,不到一半認為自己有錯

