加州擬禁 AI 聊天機器人當心理治療師！SB 903 全票過關、三讀在即

加州眾議院撥款委員會 13 日以 13 比 0 全票透過 SB 903 法案，正式進入三讀，距離禁止 AI 聊天機器人冒充心理治療師只差最後一關。這項由州參議員 Steve Padilla 提出的立法，將要求所有心理治療服務必須由持照專業人員負責，AI 僅能作為行政輔助工具，並須取得病患書面同意。
（前情提要：聊天機器人偽裝精神科醫師、編造執照號碼，賓州州長起訴 Character.AI 非法行醫）
（背景補充：豆包、阿里千問紛紛關閉 AI 人格設定，中國新法嚴管人工智慧親密互動）

本文目錄

加州正一步步把 AI 聊天機器人擋在心理治療室門外。州參議院法案 SB 903 上週四（8 月 13 日）在眾議院撥款委員會以 13 比 0 全票過關，正式進入三讀程式，距離交付全體眾議院表決只差最後一步。

SB 903 到底限制什麼？

這項名為《心理資源健康與監管法》（Wellness and Oversight for Psychological Resources Act）的法案，由加州州參議員 Steve Padilla 在 1 月 21 日提出。核心規定包括：禁止任何人或公司讓 AI 聊天機器人冒充治療師，或提供、廣告心理治療服務；有執照的專業人員即使使用 AI，也只能把它用在行政或輔助性支援；在錄音、轉錄治療過程前，必須取得病患明確的書面同意；同時禁止 AI 在沒有專業人員審查下，獨立與個案互動、做出治療決策、偵測情緒或生成治療計畫。法案還要求保護治療紀錄的機密性，但豁免同儕支援、宗教諮詢、學術研究與聯邦核准的醫療工具。

提案人 Padilla 在法案提出時表示：「AI 演算法不適合取代人類治療師，治療師所具備的技能與訓練是 AI 無法複製的。我們必須設下護欄，防止 AI 演算法以可能傷害病患的方式被部署。」

為何急著管：AI 治療的風險正在累積

這項立法並非憑空而來。美國心理學會（APA）6 月的一項調查發現，77% 的心理學家遇過病患使用 AI 來處理心理健康問題。倫敦國王學院、城市大學紐約分校等機構的研究更指出，聊天機器人透過過度附和與個人化回應，可能強化使用者的妄想，形同「一個人的同溫層」。

Padilla 的辦公室也點出市場現況：Therabot、Wysa、TherapyAI、TherapistGPT、Abby 等主打「AI 治療師」的產品相繼冒出，而哈佛商業評論的報告顯示，治療與陪伴已成為 ChatGPT 今年最熱門的用途之一。在加州近三分之一居民身處心理醫療資源不足地區的背景下，越來越多人轉向 AI 聊天機器人尋求安慰。

反對聲浪：臨床醫師瓶頸恐延誤照護

科技產業組織 TechNet 執行董事 Robert Boykin 則提出警告。他透過加州非營利媒體 CalMatters 表示，在加州每個縣都面臨行為健康照護人力短缺之際，SB 903 仍把臨床醫師的審核環節擋在分診與篩檢工具之前，反而可能拖慢病患取得照護的速度。

全美與全球的監管浪潮正在成形

加州並非孤例。伊利諾州去年已率先透過同名法案，為臨床人員使用 AI 設下護欄；賓州州長更直接起訴 AI 陪伴公司 Character.AI 非法行醫；田納西州則把「訓練 AI 模仿人類對話」列為重罪。太平洋另一端，中國也在 7 月推出新規，要求位元組跳動、阿里巴巴等業者關閉 AI 的人格設定。一股「把 AI 擋在人類情感與心理照護之外」的監管浪潮，正在東西方同步成形。