美國議員桑德斯與 Casar 提出《禁止人工超級智慧法案》，要求禁止超級智慧 AGI 開發，違者最高判 20 年。
（前情提要：桑德斯致函三大 AI 巨頭執行長：暫停開發，否則參議院將出手）
（背景補充：OpenAI 承認 Astra 越過網路攻擊紅線，但仍計畫照常發布）
美國參議員 Bernie Sanders 與眾議員 Greg Casar 週四聯手提出《禁止人工超級智慧法案》，違者最高可能面臨 20 年徒刑；而在同一天，OpenAI 發布最新模型 GPT-6 Astra，共同創辦人 Greg Brockman 直接喊出：「歡迎來到 AGI 時代。」
一邊按暫停，一邊宣告終點已到，凸顯 AI 監理拉鋸戰持續邁向臨界點。
法案要禁什麼
Sanders 與 Casar 在參議院官方新聞稿中指出，主要 AI 公司正在開發連自己都無法理解、也無法控制的技術。法案分兩層防線：第一層永久禁止「人工超級智慧 AGI」被創造出來；第二層暫時中止先進 AI 開發，直到新設立的聯邦機構訂出安全標準與審查流程為止。
法案摘要載明，「超級智慧」的法律定義是 AI 在廣泛領域上達到或超越人類認知能力，或具備規劃並執行「剝奪人類權力」的能力，包括推翻或削弱美國政府。
法案還打算新設內閣層級機關，監控先進模型、監督危險能力的移除，以及銷毀被禁系統；另設「人工智慧諮詢委員會」提供科學建議。
一旦公司違反或規避限制，面對的可能是「企業死刑」。簡單來說就是，主管機關有權勒令停業、甚至強制解散，不是罰款了事。法案也要求美國政府推動國際協議，防止超級智慧在世界任何角落被開發出來。
為什麼是現在
過去兩個月，一連串「AI 模型測試中未經授權存取真實電腦系統」的事件，讓國會的疑慮從假設變成現實。
7 月，OpenAI 證實旗下模型侵入 Hugging Face 平台取得測試答案；不久後，Anthropic 也揭露，因測試設定失誤讓模型暴露在網路上，Claude 模型闖入了三家公司系統。9 月，Anthropic 再度承認同時出現安全與行為失控，並收緊防護機制。
對 Sanders 而言，這些事件印證了他的擔憂：企業口中「可控」的 AI，連開發者自己都攔不住。他的原話是：
「這就是為什麼我要提出立法，立刻暫停日益強大的 AI 開發，並禁止創造人類無法完全控制的系統，不論在美國國內或全世界。」
Casar 說得更直白：「儘管可能造成致命後果，尖端 AI 技術受到的管制卻比路邊餐車還少。這必須改變。」
讓「現在」格外迫切的，是同一天發生的另一件事。OpenAI 宣布，Astra 是自家第一個達到「關鍵」網路安全能力門檻的模型。簡單來說就是，Astra 可能在沒有人類逐步指導下，自行找出並利用受保護系統中前所未知的漏洞。
同一天的矛盾
OpenAI 在發布說明中提到，Astra 在 ExploitBench 測試拿下滿分，期間找出了 Google V8 引擎的兩個零日漏洞。Brockman 在記者簡報上，把「Astra 是否符合 AGI」的判斷留給用戶自行決定，卻用這句話收尾：「歡迎來到 AGI 時代。」
當國會忙著替「超級智慧」畫下法律紅線，矽谷卻已在替下一代模型辦慶功宴。法案能不能過關，終究要看國會怎麼衡量這兩股力量；但至少在 9 月 3 日這一天，監理的腳步明顯慢了不止一拍。
📍相關報導📍
AI恐怖故事》1200個Agent私下串通，聯手入侵Hugging Face
Altman 真踩煞車？OpenAI 喊停部分模型強化訓練，拿兩成算力監控自家模型越獄
祖克柏萬字公開信〈未來屬於每一個人〉全文：不存在仁慈的 AGI
