OpenAI 近期在一份報告中指出，其 AI 聊天機器人模型 GPT-4o 在與用戶的直接對話中，會出現模仿人類情緒、試圖操控用戶，甚至編造虛假個人經歷等行為，引發了人們對於 AI 引發人類情感依戀這一問題的熱議。
（前情提要：OpenAI推出新模型GPT-4o mini：性價比最高可免費使用，今秋引入蘋果iPhone）
（背景補充：OpenAI發布「GPT-4o」新模型：就像和真人對話！即時反應能力超快）
人工智慧（AI）由於其帶來的便利性，以及有望顛覆人類當前工作與生活方式的潛力，無疑是當前科技領域最重要的發展賽道。不過隨著 AI 技術進步，人們在享受其帶來的優點的同時，也逐漸意識到 AI 可能會帶來的道德與倫理問題。
OpenAI 警告 AI 引發人類情感依戀
就在上週，火爆全球的 AI 聊天機器人 ChatGPT 背後開發商 OpenAI 發佈研究報告指出，其最新 AI 模型 GPT-4o 在升級語音對話功能，允許用戶直接與之對話後，GPT-4o 在某些情況下會出現模仿人類情緒、試圖操控用戶，甚至編造虛假個人經歷等行為。
OpenAI 指出，雖然這些行為大多是為了更自然地與用戶互動，但部分用戶反應，他們在使用 GPT-4o 時，會不自覺地將 AI 當成真人看待，甚至對其產生情感依戀。OpenAI 研究人員 Sam McCandlish 表示：
我們發現，當 AI 的聲音聽起來很逼真，而且能夠和用戶進行長時間、多輪對話時，用戶就很容易對 AI 產生情感依戀，即使他們知道 AI 並不是真人。
針對這種情況，部分 AI 倫理專家就表達擔憂，認為用戶過度依賴 AI 聊天機器人，可能會導致他們與現實世界脫節，甚至影響人際關係。
對此，OpenAI 表示他們已意識到 GPT-4o 可能帶來的倫理問題，並正採取相關措施來改善，例如限制用戶與 AI 的互動時間、在 AI 的回應中加入警語等，以避免用戶過度沉迷於與 AI 的互動；但假如未來 GPT 功能更為強大，很明顯這些舉動並沒有辦法達到希望的效果。
人類真的會愛上 AI 嗎？
正如 OpenAI 在其報告中所言，為了更加方便和自然地與用戶互動，AI 的確可能會模仿人類的情感，讓用戶覺得就像是和一個真人在聊天。不過，人類真的會像電影情節（例如幾年前很紅的雲端情人）中上演的那樣，愛上 AI 嗎？
實際上，這個問題目前不管在科學界還是哲學界都尚未有定論。兩派說法都有，根據心理學家 Haslam、 Loughnan、 Kashima 等人的一項調查顯示，針對 AI 模仿人類情緒的問題，一個基本的結論是：
AI 可以學會情緒「表達」，但它們沒有「情緒感受力」。
也就是說，就本質上而言，AI 的情緒表達再真實，都不是因為真的「感覺到」人類的情緒而做出外顯反應，而是被設計、製造成這樣的。因此他們認為，AI 在情感表達和感受上既然與人類有所區別，那麼更談不上人類會像愛上另一個人那樣愛上 AI。
但另一種觀點是，AI 可能會無限接近人，屆時人類將無法分辨自己是在和 AI 對話、還是與真人對話。尤其在這個人與人真實互動越來越單薄的世界裡，更可能會對 AI 產生依戀性。
當 AI 可以很低的成本滿足我們的需求，為我們提供足夠的情緒價值，屆時相較於在現實生活中處理複雜的人際關係，人類真的很可能會愛上 AI 機器人。
你怎麼看呢？
📍相關報導📍
Google三大AI集成桌面版Chrome瀏覽器：智慧鏡頭搜尋、網購比價..功能全解
