AI性化圖像風暴Grok遭美促下架歐亞同步調查

馬斯克旗下的社群平台 X 及其生成式 AI 工具 Grok 近期陷入了一場性化圖像風暴，導致美國三位聯邦參議員公開致函蘋果與 Google，要求將其應用程式從 App Store 和 Google Play 商店中下架。此事不僅引發了美國的關注，也迅速波及到了英國、歐盟、法國以及馬來西亞等地的監管機構。

據悉，Grok 被用戶利用生成大量包含性虐、羞辱甚至殺害女性的圖像，其中部分內容疑似涉及兒童。參議員們在致函中批評 X 平台無視應用商店條款，允許 Grok 大規模生成未經當事人同意的性化影像。此外，馬斯克也曾以笑哭表情符號回應相關貼文，這更讓外界擔憂他的默認態度可能鼓勵用戶繼續使用生成類似內容。參議員們強調這些圖像不僅涉及真實女性的性虐待與羞辱情境，甚至傳出生成兒童性化影像的情況，內容觸目驚心，違反美國法律。

此外，信中還提到 Grok AI 生成極具傷害性的內容完全無視蘋果與 Google 應用商店的內容政策。除非能夠針對相關違規問題提供合理解釋並做出修正，否則這些應用應立即下架。同時指出過去類似前例，例如 ICEBlock 和 Red Dot 等應用程式也曾因壓力而從商店中移除。

面對來自全球監管機構的壓力，X 平台已宣佈將刪除所有非法內容，並永久停權違規帳號，強調平台對兒少性剝削內容採取零容忍政策。馬斯克也在推特上回應，指出任何使用 Grok 製作非法內容的人將與上傳非法內容的人承擔相同後果。

在美國之外，這場風暴也引起了其他地區的關注。英國通訊監管機構 Ofcom 已聯繫 X 及其母公司 xAI，要求說明如何履行保護使用者的法定義務；歐盟執委會正在審查 Grok 所謂「辛辣模式」輸出是否違反當地法律；法國方面則採雙軌處理方式，數位事務部與其他部門官員已通報檢方展開刑事調查，並同時轉交法國媒體監管機構 Arcom 進行評估。馬來西亞通訊與多媒體委員會（MCMC）也表示已接獲民眾投訴 X 平台濫用 AI 工具製作針對女性和未成年者的猥褻內容。

面對全球監管壓力，蘋果與 Google 尚未對參議員的致函發表回應。三位參議員在信末呼籲兩大科技巨頭展現過去同樣的行動力，立即下架 X 和 Grok 應用程式。