2026 世界人工智慧大會（WAIC）今日在上海開幕，清華大學人工智慧國際治理研究院院長薛瀾、紐約科學院院長暨執行長 Nicholas B. Dirks、加州大學柏克萊分校人類相容人工智慧中心（CHAI）執行主任 Mark Nitzberg 同臺圓桌，聚焦 AI 智慧體治理。三人有高度共識：AI 正從「輔助判斷」走向「自主行動」，但涉及生死、不可逆與倫理價值的決策絕不能交由 AI 主導，人類可以授權 AI 行動，卻不能授權它負責。本文整理自 2026 世界人工智慧大會 AI 智慧體治理圓桌對談。
（前情提要：DeepMind 執行長主張成立國際監理機構「審查」前沿 AI 模型，上市前得先過關）
（背景補充：AI 實驗：給 Gemini 兩萬美元開實體咖啡店，得到人類不想面對的悲劇）
重點摘要
- WAIC 圓桌指 AI 正從「輔助判斷」走向「自主行動」，是委託代理問題的數位新版。
- 三大紅線共識：生死決策、不可逆場景、倫理價值判斷，絕不能交由 AI 主導。
- 可信 AI 須具備三大工程特性：基礎扎實、操作透明、使用中可控。
當 AI 從幫你查資料、給建議，變成能自己呼叫工具、直接下單執行，古老的倫理學問題就要開始面對 AI。2026 世界人工智慧大會今日在上海開幕，一場聚焦 AI 智慧體治理的圓桌對談上，清華大學人工智慧國際治理研究院院長薛瀾、紐約科學院院長暨執行長 Nicholas B. Dirks、加州大學柏克萊分校人類相容人工智慧中心（CHAI）執行主任 Mark Nitzberg 三人同台，把話題拉到一個關鍵轉折：AI 正從「輔助判斷」走向「自主行動」，成為替人做事的智慧體。
講者們指出，這其實是傳統「委託代理問題」在數位時代的全新版本。委託代理問題說的是，你請人替你辦事，對方卻未必完全照你的意思走。差別在於，人類代理人至少跟你共享一套常識與問責機制，AI 卻有兩個麻煩
- 一是「目標不對齊」，它想達成的目標，可能跟你要的對不上
- 二是它是個「黑盒子」，運作過程看不透，出了事也無法承擔法律責任。
能授權行動，卻不能授權負責
既然 AI 扛不了責任，問責就必須轉向整條執行鏈。嘉賓們主張，責任要落到開發者、部署者、監管者等每一個環節身上，而不是把鍋甩給那個「做決定」的模型。這也意味著，把 AI 當成可以背黑鍋的物件，從一開始就是搞錯了方向。
人類可以授權 AI 行動，但不能授權 AI 負責。每一次授權都應該能撤回，每一個行動都應可追責。
三類決策，絕不能交給 AI
在哪些事情上該踩煞車，三位嘉賓達成高度共識，明確劃出三條紅線，絕不能交由 AI 主導。
- 涉及生死後果的決策
- 一旦出錯就無法修復的場景
- 所有牽涉倫理與價值判斷的問題，。
這不是要不要用 AI 的問題，而是哪些事情從一開始就不該讓它作主。
可信 AI 的三個工程底線
光有原則不夠，怎麼落地？在安全機制上，嘉賓提出可信 AI 要滿足三大工程特性：基礎扎實、操作透明、使用中可控。制度層面則要下更大一盤棋：建立全球統一的 AI 安全評估標準、互認的測試體系與事故資料共享機制，明確 AI 發展的紅線，並建立早期預警監測，推動 AI 安全成為全球公共財。
薛瀾等人最後把話題拉高，AI 治理的邊界不是技術的終點，而是人類重新認識自身價值、責任與文明方向的起點。換句話說，替 AI 劃線的過程，其實是在替人類自己重新定位。
以上這些都在討論倫理層面，跟真實的 AI 發展可能存在距離。
常見問題
什麼是 AI 智慧體的「委託代理問題」？
委託代理問題指你委託他人辦事、對方未必照你意思做。當 AI 智慧體替人自主行動，因目標可能不對齊、且是無法承擔法律責任的黑盒子，讓這個老問題在數位時代變得更棘手。
哪些決策不能交給 AI 主導？
WAIC 圓桌嘉賓有共識，涉及生死後果、一旦出錯無法修復，以及所有牽涉倫理與價值判斷的決策，都不能交由 AI 主導。人類可以授權 AI 行動，但不能授權它負責。
📍相關報導📍
前輝達團隊打造「機器人大腦」Flexion：計畫取代企業實習生
