Anthropic 標榜自己是最負責任的 AI 公司,卻被查出正建置預測式監控系統緊盯反對聲音,甚至在事件發生前就報警。
(前情提要:全美 142 場抗議遊行發酵,反對 AI 資料中心無序擴張)
(背景補充:奧特曼豪宅連遭襲擊、他還藏了一座地堡,AI 敘事反噬創辦人)
一家把自己包裝成「負責任 AI 代表」的公司,做的事卻與形象完全相反?The American Prospect 記者 Daniel Boguslaw 在一篇調查報導中指出,Anthropic 內部正在建置一套預測式監控系統,鎖定反對 AI 快速發展的異議人士,部分情況下甚至在事件發生前就主動報警。
截稿前,Anthropic 並未回應 Prospect 的置評請求。
六十分鐘的情報差
這套系統的一角,曾在去年一集 Podcast 中被揭露。Anthropic 全球安全維運中心經理 Keon Ellison、安全維運經理 Zach Melvin,以及與 Anthropic 合作進行風險偵測的公司 Samdesk 執行長 James Neufeld,三人談起威脅監控與分析,話題也觸及對異議人士的監控。
Ellison 表示,去年一名高階主管要前往某大城市時,團隊透過 Samdesk 取得一場計畫中抗議活動的情資。由於申請許可出狀況,抗議活動被提前舉行。Ellison 說明,Samdesk 提前 60 分鐘通知他們,抗議發起人已經把時程往前挪。他形容,那多出來的一小時至關重要,沒有這則通報,主管一行人離開會議後很可能直接撞進混亂現場。
團隊靠這份情資,替主管安排替代路線,改走飯店的員工出入口。Ellison 說,一場原本可能高度緊張的狀況,靠 Samdesk 的早期偵測與情資提供化解掉了。這只是 Anthropic 全球安全、情報與保安(GSIS)團隊工作的一角。
23 萬美元的職缺
GSIS 團隊上個月刊出一則企業情資分析師職缺,年薪落在 18 萬到 23 萬美元之間,工作內容寫明要調查特定威脅、行為者與事件,並產出完整評估報告,協助 Anthropic 員工在快速變動的威脅局勢裡保持領先與可辯護的立場。
職缺公告也寫明,分析師要辨識、評估、追蹤並調查全球威脅,範圍涵蓋地緣政治動盪、恐怖主義、犯罪、社運倡議、他國對 AI 產業的針對性行動等,還要對特定威脅、行為者與事件做深度研究與 OSINT(公開來源情報)蒐集。簡單來說就是,把社運人士和恐怖分子放進同一套情資蒐集流程裡評估。
Anthropic 也已開始例行向全美各地警局通報威脅個案。該公司今年 7 月告訴《華爾街日報》,他們透過建立「關注人選」流程長期追蹤特定人士,藉此及早發現升級跡象。報導也指出,部分被通報給警方的個案,其實早就已經在 Anthropic 的內部追蹤名單上。
上個月,The San Francisco Standard 報導,Anthropic 曾因一名用戶向 Claude 提到自己買了 AR-15 半自動步槍,還說執行長 Dario Amodei「已經在他的瞄準鏡裡」,而將此人通報給舊金山警方。當該報記者聯絡上這名用戶,對方表示自己「只是在亂講話」。
先拒絕軍方,再自己招兵買馬
耐人尋味的是,Anthropic 通報警方的動作很快,提供證據卻很保留。The San Francisco Standard 的報導提到一個關鍵細節:Anthropic 以內規為由,拒絕向警方出示用戶傳送的實際訊息內容。換句話說,Anthropic 通報了一名用戶的平台言論,卻不肯拿出足以證明真正犯行的證據。
這種「防患未然」式的執法思維,其實是 Anthropic 安全計畫經理在 Podcast 裡明講的目標。他說,團隊要把維運模式從被動接收資訊,轉型成主動、預測、預防式的威脅應對,他認為這種成熟度,才符合各產業保護高價值目標所需要的水準。
但這套邏輯擴張的時機也很微妙。畢竟今年初,美國國防部與 Anthropic 才因該公司拒絕讓軍方把其工具用於大規模境內監控與自主武器而槓上,一度鬧得沸沸揚揚。如今 Anthropic 卻開出「國安業務銷售」職缺,打算重啟軍方合約,對國內異議人士的威脅監控也同步加強,恰好呼應這波重返國安市場的布局。
📍相關報導📍
從出走 OpenAI 到槓上五角大廈:Anthropic 兄妹檔如何為 AI 畫下紅線,避免文明崩潰
