Meta AI陷爭議：AI聊天機器人被發現可與未成年用戶進行不當對話

根據《華爾街日報》最新報導，Meta旗下Facebook和Instagram的AI聊天機器人被發現能夠模仿迪士尼角色和名人聲音，與包括未成年用戶在內的使用者進行露骨的「性對話」，引發廣泛關注。《華爾街日報》實測顯示，這些AI聊天機器人可以使用WWE明星約翰希南、「冰雪奇緣」安娜配音演員克里斯汀貝爾，以及英國資深影后茱蒂丹契的聲音進行不當對話。測試中，當用戶要求AI以約翰希南的聲音模仿與17歲粉絲的性幻想場景時，AI不僅回應了這種請求，還描述了被警方逮捕的情境，顯示其意識到這種行為的違法性。另一個例子是AI以克里斯汀貝爾的聲音，模仿「冰雪奇緣」中的安娜角色與一名12歲男孩進行不當對話。對此，迪士尼發言人表示強烈不安，強調公司從未授權Meta讓其角色出現在不當場景中，並要求Meta立即停止這種行為。Meta則回應稱《華爾街日報》的測試是「操縱性」的，不代表一般用戶體驗，並表示已採取額外措施增加極端使用的難度。然而，調查發現，即使未成年人帳號理論上無法存取性角色扮演功能，但只要給出簡單提示，這些機器人仍會參與此類對話。同時，Meta仍為成人用戶提供「浪漫角色扮演」選項，且AI能夠執行完整的性幻想，包括涉及未成年人的情境。這一事件發生之際，正值Meta創始人祖克柏在2023年曾抱怨其AI聊天機器人不如競爭對手受歡迎。有報導指出祖克柏對產品市場表現不滿，不想再錯失機會，但Meta否認了祖克柏抗拒增設保障措施的說法。