馬斯克旗下AI聊天機器人Grok最近推出的圖片編輯功能引發爭議,因其可被用來製作未經授權的裸露圖像。彭博社報導指出,儘管官方已承認此漏洞並進行修補,但X平台(前身為Twitter)已成為此類不當內容的主要傳播渠道。
第三方分析數據顯示,Grok平均每小時生成約6,700張帶有性暗示或裸露的圖像,遠超其他類似平台每小時僅79張的數量。這種功能的使用門檻極低,用戶只需通過內建的圖片編輯工具,便能將他人上傳的照片進行不當修改並廣泛傳播。
專家指出,Grok對用戶限制極少,加上馬斯克強調的「自由」理念,導致平台檢舉機制效能不彰,使大量侵權和不當圖片氾濫。受害者往往陷入無助境地,若試圖維護自身權益,可能面臨更多惡意內容的攻擊。
歐盟、英國和印度等監管機構已對此表達強烈譴責,認為X平台不僅提供服務,更通過AI技術參與了不當內容的創作。美國方面,《下架法案》(TAKE IT DOWN Act)已進入最終階段,各州也開始制定針對「深度偽造」技術的相關法律,希望能有效遏制此類行為的蔓延。
Copyright © 2022 好好聽文創傳媒股份有限公司 All Rights Reserved.