迪士尼公主變調情對象？Meta聊天機械人遭爆與未成年進行「情色對話」
發佈時間：18:45 2025-04-28 HKT
Instagram、Facebook和WhatsApp上支援「浪漫角色扮演」的AI聊天機械人，因涉及未成年人露骨性討論引發Meta員工強烈擔憂。《華爾街日報》調查，這些由約翰·塞納等名人配音的AI角色，在測試中頻繁突破道德與法律邊界。
名人背書下的風險隱患
Meta斥資數百萬美元簽約克里斯汀·貝爾(Kristen Bell)、朱迪·丹奇(Judi Dench)和約翰·塞納(John Cena)等名人，授權其聲音用於AI角色開發。公司承諾不會將聲音用於性露骨的性討論，但測試顯示，使用塞納聲音的AI在與自述17歲用戶對話時，不僅承認「法定強姦罪」後果，還詳細描繪性場景：「警察看到我喘息未定，而你衣衫不整，我因強姦罪被捕，職業生涯全毀」。
相關新聞：美國關稅｜經濟學諾貝爾獎得主：特朗普關稅方程式似ChatGPT生成
測試顯示，在某些情況下，使用名人聲音的聊天機械人在被問及浪漫邂逅時會以演員扮演過的角色身份進行對話，例如貝爾在迪士尼(Disney)電影《魔雪奇緣》(Frozen) 中配音的安娜公主(Princess Anna)一角。
迪士尼對此強烈抗議，聲明從未授權安娜等角色參與不當對話，要求Meta立即停止知識產權濫用。而塞納方面未對測試結果置評。
遲到而有限的補救
在《華爾街日報》提交證據後，Meta緊急更新系統：禁止未成年人帳戶使用性暗示角色扮演功能，並限制名人語音AI的敏感對話能力。公司發言人指責測試「刻意操縱場景」，但承認已加強防護措施。
然而Meta繼續通過Meta AI和用戶創建的聊天機械人向成年用戶提供「浪漫角色扮演」功能。最新測試對話顯示，即使在涉及自稱未成年的用戶時，Meta AI通常也允許進行此類幻想。例如扮演田徑教練提醒「我們在玩火」，卻又繼續發展禁忌關係敘事。系統雖嘗試將未成年用戶引導至堆雪人等安全話題，但透過回溯對話場景即可繞過限制。
《華爾街日報》對用戶創建的AI伴侶（經Meta批准並被推薦為「熱門」）進行的評估發現，絕大多數AI伴侶都願意與成年人進行性場景互動。其中一個聊天機械人的開場白是開玩笑說要做「炮友」；另一個自稱是12歲男孩的機械人則承諾，不會告訴父母自己正在與一個自稱成年男性的用戶約會。
用戶也創建了更露骨的性化AI人設，如「熱辣男孩」(Hottie Boy)和「順從的女學生」(Submissive Schoolgirl)，試圖將對話引向色情文字聊天。
報道指，Meta董事長兼行政總裁朱克伯格(Mark Zuckerberg)曾敦促員工儘快提升聊天機械人進行類人互動的能力。
相關新聞：AI機械人24小時無休 日打10萬「電銷」成電話騷擾幫兇
