英國政府敦促X平台處理Grok生成兒童不當圖像問題

英國政府已向馬斯克(ElonMusk)旗下社群平台X發出緊急呼籲，要求其立即採取行動解決AI工具Grok被用於製作兒童偽造色情圖像的問題。英國科技大臣肯達爾(LizKendall)在聲明中表示：「近期網路上出現的情況令人震驚，在文明社會中絕對不能接受。」Grok因其「辛辣模式」(spicymode)功能允許用戶生成女性與未成年人的深度偽造色情圖像，引發了國際社會的強烈反彈。歐盟執委會已宣布正在嚴肅審查相關投訴，英國通訊管理局(Ofcom)也表示正在調查X平台及Grok開發商xAI公司。根據英國2023年7月生效的「線上安全法」，所有可能承載有害內容的網站和平台必須實施嚴格的年齡驗證措施。該法案明確規定，製作或分享未經同意的私密圖像或兒童性虐待內容，包括AI生成的深度偽造色情內容，均屬違法行為。違規公司可能面臨全球收入10%或1800萬英鎊(約新台幣7.6億元)的罰款，以較高者為準。英國政府還計劃禁止所謂的「一鍵脫衣」工具，這類工具允許用戶為照片中的人物移除衣物。Grok開發方已於1月2日承認其AI工具存在「安全防護上的疏失」，並表示正在緊急修復問題。