ChatGPT 誤導用戶上傳不合規格的資料,意外迫使互動樂譜平台 Soundslice 開發新功能,揭示 AI 幻覺對產品路線的衝擊與機會?
(前情提要:AI 在搶誰的工作?400 萬份聊天記錄揭曉了答案)
(背景補充:AI 真開始搶人類工作》全球大廠加速裁員、美國大學生畢業即失業..)
上百封夾帶 ChatGPT 截圖的客服信,在近期間淹沒互動樂譜平台 Soundslice,聲稱 GPT 告訴他們只要「把 ASCII 吉他譜丟進 Soundslice,就能立即轉為互動樂譜」。
但這短短一句看似熱心的 AI 指引,卻讓 Soundslice 連日陷入錯誤日誌海嘯。原來,ChatGPT 告訴用戶該平台支援的 ASCII Tab 轉譯功能事實上根本不存在。當數百名使用者照做卻屢屢碰壁,工程師才驚覺 AI 幻覺正在把幽靈需求推向真實世界。
原來 ChatGPT 是告訴人們去 Soundslice 建立一個帳戶,然後匯入 ASCII 標籤才能聽到音訊播放。所以這就解釋了!
AI 幻覺闖禍:從錯誤日誌到市場需求
Soundslice 是一項透過 OMR AI 技術掃描傳統樂譜生成互動學習素材的新創,但在 2025 年初,伺服器卻突然湧入大量失敗請求,全部指向「上傳 ASCII Tab」。
官方追查來源,發現不少使用者附上與 ChatGPT 的對話截圖,這才發現 AI 不只「捏造」功能還口氣篤定,導致品牌形象與用戶期待嚴重錯位。
Soundslice 原本提供的功能是用戶只要上傳五線譜(如下圖左方)就可將其轉換為可播放、編輯的數位樂譜,但被 GPT 誤導的用戶則是上傳 ASCII tab 樂譜(如下圖右方)。


被迫的產品迭代:三難決策
面對蜂擁而至的幽靈需求,Soundslice 有三條路:無視、澄清,或乾脆實作。
管理團隊思考過後認為,無視行不通、發公告雖能止血,卻恐使用戶失望,於是選擇順水推舟,將 ASCII Tab 解析功能加速推出(這在他們「預計 2025 年要開發的軟體」清單中排名靠後)。
共同創辦人 Adrian Holovaty 在個人部落格寫道:
據我所知,這是第一起因為 ChatGPT 錯誤地告知用戶該功能的存在而導致公司開發該功能的案例。 (是嗎?)我分享這個故事是因為我覺得它挺有趣的。
同時他也提出了一個引人思考的關點:
我對此感到很矛盾。我很高興能添加一個能幫助人們的工具。但我覺得我們的做法有點奇怪。我們真的應該開發一些功能來應對錯誤訊息嗎?
AI 幻覺新課題,治理與機會
其實 Soundslice 不是唯一受害者(或者說是受益者?)。GitHub Copilot 也曾產生不存在的程式庫名稱,引發開發者誤裝惡意套件的 slopsquatting 攻擊(詳見 SD Times 報導)。Coveo 報告也指出,AI 幻覺正侵蝕產品可靠度。
但既然 AI 幻覺現階段還難以避免,就要學會駕馭。企業或許可在錯誤日誌與社群對話中佈署「AI 觀測雷達」,即時捕捉錯誤推薦;同時在產品路線圖預留「幻覺緩衝池」一旦出現突如其來的熱門功能呼聲,能快速做 MVP 驗證。
Soundslice 的案例印證了幽靈需求也可能變現或發現用戶潛藏的需求,但就如共同創辦人 Adrian Holovaty 所說,他們這麼做是對的嗎?還需要管理團隊好好思考。
📍相關報導📍
馬斯克喊AI知識錯誤太多「Grok3.5要重建人類正確版」;CZ回應:歷史觀點單一化會有問題