美參議員痛批 Grok 生成色情內容！聯名致函蘋果、Google 要求下架 X 平台

火報記者 陳銳／報導

美國三名民主黨參議員近日致函蘋果與Google，要求將社群平台 X 及其內建的AI Grok 自應用程式商店下架，理由是平台上持續出現大量未經同意的色情影像，內容涉及女性與未成年人。

近期，X 平台因 Grok 生成功能遭到多國官員關切，外界關注的焦點在於，該人工智慧工具被用來製作大量未經當事人同意的圖像，畫面包含女性與未成年人身著暴露服裝，甚至呈現性化、侮辱性或暴力姿態，引發對數位性剝削的強烈批評。

信中指出，在相關違規問題獲得徹底解決前，蘋果與Google「有責任將這些應用程式從應用商店中移除」，否則將形同默許平台持續散播不當內容。

參議員在信中強調，Google的應用程式政策明確禁止任何助長兒童剝削或虐待的內容，而蘋果的審核規範同樣禁止色情或淫穢素材，他們指出，過去兩家公司皆曾迅速將違規應用程式下架，如今若對 X 的問題視而不見，將嚴重損害其審核制度的公信力。

截至目前，蘋果與Google尚未就此公開回應，X 則重申將針對平台上的非法內容採取行動，包括涉及未成年人的性剝削素材，並表示違規帳號將遭到處置。

不過，參議員對相關說法並不買帳，他們指出，平台創辦人馬斯克過去曾以戲謔態度回應人工智慧生成的不雅影像，並持續強調用戶須自行為非法內容負責，卻未能有效阻止相關內容在平台上擴散。

隨著外界壓力升高，X 與負責 Grok 的 xAI 近期似乎對部分影像生成功能進行限制，例如將某些編輯功能限定為付費用戶使用。然而，使用者仍可透過 Grok 生成具爭議性的影像並發布至平台，獨立運作的 Grok 應用程式也仍開放圖片生成功能，而參議員則表示，這些調整並未從根本解決問題，只是改變使用門檻，無助於防止未經同意的色情影像持續出現。