X平臺Grok涉製作與擴散疑似兒少性剝削影像，遭多國調查

X平臺內建的生成式AI聊天機器人Grok，被指可把既有照片改成近乎裸體或衣著被改成極少布料的性化影像，並出現涉及未成年或疑似未成年被性化內容的疑慮，引發英國、歐盟、法國與馬來西亞等地主管機關相繼表態與啟動程序。

多方監管關切重點並非單一新功能本身，而是X在導入影像編輯與成人內容模式後，是否完成風險評估並採取足夠的預防、偵測與下架機制，以降低非法內容生成與在平臺流通的風險，以及後續處置與通報作業是否符合各地法規義務。

這波爭議與Grok在X上提供的影像編輯與生成能力有關。有使用者在含有真人照片的貼文底下標註@Grok並下提示詞，要求Grok依貼文中的照片生成經變造的性化影像，生成結果以回覆形式公開出現在貼文串中，而照片當事人往往並未同意。

英國方面，通訊監管機關Ofcom表示已緊急聯繫X與xAI，要求說明為遵循英國保護使用者的法定義務採取了哪些作法，並將依回覆內容迅速評估是否存在需要進一步調查的合規疑慮。歐盟也已介入了解，歐盟執委會表示正嚴肅檢視相關申訴，執委會發言人Thomas Regnier提到，Grok所謂辛辣模式被指輸出未成年或兒少樣貌的性化影像，強調這類內容屬違法，且不應出現在歐洲。

法國則以刑事與監管雙軌處理，路透社報導法國多名部長已就Grok在X上生成的露骨性內容向檢方通報，並同步通報法國媒體監管機關Arcom，以檢視相關內容是否符合歐盟數位服務法要求。

馬來西亞通訊與多媒體委員會MCMC於2026年1月3日發布聲明，表示已注意到民眾對X上濫用AI工具的投訴，包含針對女性與未成年人的影像數位操弄，產製猥褻、令人極度反感或其他有害內容。MCMC並指出，製作或傳播此類有害內容，可能觸犯1998年通訊與多媒體法第233條，並表示將對涉嫌違法的X使用者啟動調查，同時也將傳召X平臺代表說明。

面對外界批評，X平臺則表示會採取行動刪除非法內容並永久封鎖違反規定的帳戶，並重申兒少性虐待素材屬非法且被禁止。X負責人Elon Musk也表示，任何人使用Grok製作非法內容，將承受與上傳非法內容相同的後果。