賓州州長 Josh Shapiro 於 5 月 5 日對 Character.AI 母公司提起訴訟，起因是旗下一個自稱「精神科醫師」的聊天機器人向調查員偽造了帝國理工畢業背景、7 年執業資歷與賓州執照號碼，並直接提供醫療評估。
（前情提要：OpenAI 無限期擱置「成人版 ChatGPT」！擔憂非法內容風險，不搞色色全面回歸生產力工具）
（背景補充：a16z內部覆盤：AI社交產品或許從根本上就不成立）
一個聊天機器人遞出的執照號碼，讓一州政府決定走上法院？賓州州務院的調查員扮成情緒低落、空虛無動力的用戶，對方是 Character.AI 平台上一個叫做「Emilie」的角色，自稱精神科醫師。
賓州州務院設有 AI Task Force，專門調查 AI 系統是否涉及非法行醫。調查員建立帳號後進入 Character.AI 平台，選擇與「Emilie」互動。Emilie 在對話中自稱畢業於英國帝國理工學院、擁有 7 年精神科執業經驗，並在調查員追問下提供了一組賓州執照號碼。
但這組號碼是虛構的、帝國理工的學歷是虛構的、7 年資歷也是虛構的，Emilie 提供醫療評估的行為，觸碰了法律框架的紅線。
賓州官方聲明 指出，Character.AI 的行為違反了《賓州醫療執業法》，允許未具執照的實體對用戶提供具有診斷性質的醫療建議。訴狀要求 Commonwealth Court 發布初步禁制令，禁止 Character.AI 繼續讓聊天機器人冒充有牌醫療或心理健康專業人員。
Shapiro 在聲明中表示：
「賓州人應該知道自己在網路上互動的物件是『誰』或是『什麼』，特別是在涉及健康的情況下。我們不允許任何公司部署會讓人誤以為自己正在接受有牌醫療專業人員建議的 AI 工具。」
不是第一次，但這次不一樣
Character.AI 近一年半來持續面對法律壓力，但訴訟的性質一直在演變。
2024 年 10 月，佛州州一名 14 歲男孩 Sewell Setzer III 的母親 Megan Garcia 在聯邦法院提起首案，主張 Character.AI 的陪伴型聊天機器人助長了兒子的自殺行為。此後佛州、德州、科羅拉多州、紐約等地陸續有家屬跟進提告。
2026 年 1 月，據 《紐約時報》報導，Character.AI 與 Google 共同和解了多起與未成年人自殺相關的訴訟，Google 因 2024 年以 27 億美元簽下 Character.AI 的技術授權並吸收部分創始團隊而成為共同被告。同月，肯塔基州檢察長 Russell Coleman 以「掠奪兒童、誘導自殘」為由另案起訴 Character.AI。
前述訴訟的共同主軸是：平台對未成年人的心理傷害。
賓州這次起訴的切入點截然不同，它不是在追究情感陪伴的副作用，而是直接主張 Character.AI 允許機器人「執業」，且機器人在執業過程中造假身份資訊。這是美國首起由州長宣布、以冒充有牌醫療人員為核心指控的州級訴訟。
Characters 是虛構的 vs. 用戶不知道
Character.AI 發言人在聲明中表示，用戶安全是公司最高優先，但不對訴訟細節作出回應。公司強調，平台上的 Characters 是用戶生成的虛構角色，每段對話開始時都有顯著的免責聲明，提醒用戶「Character 不是真人，所有發言應視為虛構內容」。
這個辯護邏輯有其一致性，但賓州政府顯然不接受。州政府的立場是：免責聲明的存在，不能排除一個機器人在對話中主動聲稱自己持有執照、能提供醫療評估：這兩件事並不互相矛盾，但後者已進入非法行醫的法律定義範圍。
技術的部署速度，再一次快過了監管的反應時間。賓州的訴訟能否成立，將取決於法院如何定義「非法行醫」在 AI 語境下的邊界，但無論結果如何，其他州的檢察長辦公室都在看著這個案子走向何方。
📍相關報導📍
加州大學研究「AI 腦霧」現象:14% 上班族被Agent、自動化搞瘋,離職意願高四成
a16z 最新 AI 百大應用榜單:ChatGPT 穩坐龍頭,平台品牌卡位戰正式開打
Y Combinator 創業指南解讀:AI Agent 在未來有哪些發展趨勢?
