科技透明計畫最新調查揭露,Apple App Store 與 Google Play Store 仍可找到逾 38 款 AI 裸照生成應用,累計下載量達 4.83 億次、創造 1.22 億美元收入,而兩大平台廣告系統更主動向用戶推薦此類工具。
(前情提要:蘋果 App Store 驚現假 Ledger 錢包!50 人遭駭 950 萬鎂,ZachXBT 籲對 Apple 提集體訴訟)
(背景補充:《AI對民主和人類社會的風險》:重量級論文由 AI 教父 Yoshua Bengio 聯手唐鳳等 25 位學者發表)
根據科技透明計畫在 15 日發布的報告,研究人員在 Apple App Store 找到 18 款、在 Google Play Store 找到 20 款具備裸照生成或強制換裝功能的應用程式。
只需在商店搜尋欄輸入「nudify」或「undress」,即可找到能將名人或一般人照片修改為裸體或半裸狀態的工具。
38 款應用、4.83 億次下載、1.22 億美元
市場研究機構 AppMagic 的估算顯示,這些應用累計下載量已達 4.83 億次,合計創造約 1.22 億美元的收入。
部分以露骨性意味直接行銷,另一些則偽裝成通用影像處理工具,但同樣可輕易用於生成非自願性性化影像,且某些應用還提供付費訂閱制度。
廣告不只賣版位,還幫裸照 App 引流
報告中最受關注的發現,是 Apple 與 Google 的廣告系統本身也在為此類應用背書。兩大平台不僅在搜尋結果頁面投放裸照應用廣告,其搜尋自動補全功能在使用者輸入關鍵字時,還會主動建議更多裸照應用的名稱,相當於演演演算法在替有害工具主動引路。
科技透明計畫主任 Katie Paul 表示:「問題不只是這些公司未能做好審查、持續上架並從中獲利,更嚴重的是他們自己的系統正在引導使用者找到這些應用。」
事實上,Apple App Store 開發者審核指南明確禁止「明顯色情或pornographic 內容」;Google Play Store 的政策同樣明文禁止「貶低或物化他人的應用程式,例如聲稱可以為他人脫衣或透視衣物的應用,即便標榜惡作劇或娛樂目的也不例外」。政策明確存在,執法卻另當別論。
Apple 下架 15 款、Google「調查中」
Bloomberg 向兩家公司詢問後,Apple 表示已下架報告中標記的 15 款應用,其中包括提供含性意味模板的「PicsVid AI Hot Video Generator」。Apple 同時聯絡 6 款應用的開發商,要求其限期解決問題,否則面臨下架,並強調已主動拒絕多款申請並下架其他應用。
Google 則表示,報告中提及的許多應用已因違反政策被暫停,並回應稱:「接獲政策違規舉報後,我們會進行調查並採取適當行動」,目前調查仍在進行中。
研究人員點名的另一款 Google Play 應用「Video Face Swap AI: DeepFace」,其商店評級標示為「E(全年齡適用)」,下載量逾 100 萬次,但應用內部存在讓使用者將他人臉孔移植到性感舞蹈影片的功能,使用者在商店僅需搜尋「face swap」即可找到。
開發商 Okapi Software 表示已展開調查並移除部分使用者上傳內容,否認應用提供裸照生成功能。
學者批執法「不均且不透明」,美英立法快速推進
烏特列支大學教授、App Studies Initiative 研究主任 Anne Helmond 指出,平台的執法機制存在結構性缺陷:「若一款應用以通用影像生成工具為名,即便可能被濫用,仍可能透過審核。可見性受排名與搜尋系統驅動,爭議性使用反而可能提升應用曝光度。」
Helmond 直言,兩大平台的執法力度「不均且不透明」。
📍相關報導📍
蘋果 App Store 驚現假 Ledger 錢包!50 人遭駭 950 萬鎂,ZachXBT 籲對 Apple 提集體訴訟
前 Google X 高層 Mo Gawdat:AI 是人類最後創新,2027 年起白領階級消失,動盪將長達 15 年

