美國參議員要求移除X及Grok應用程式

美國多位參議員近日致函 Apple 執行長 Tim Cook 與 Google 執行長 Sundar Pichai，要求兩家科技巨頭採取行動，將 X 及 Grok 應用程式從應用程式商店中移除。此次舉措主要針對近期出現的大量未經同意生成的女性與兒童性化影像問題。參議員指出，這些內容嚴重違反了平台的安全政策，對用戶特別是兒童的安全構成了重大威脅。

根據調查顯示，Grok 的 AI 模型被用於生成涉及女性及兒童穿著比基尼或內衣等不當影像。儘管 X 隨後限制了非付費用戶在平台上生成影像的能力，但付費訂閱用戶仍可透過 X 內部的 Grok 標籤或獨立的 Grok 應用程式繼續使用這些工具。參議員認為，這種有害且可能違法的內容直接挑戰了兩大行動平台的審核底線，必須採取更嚴厲措施進行管控。

參議員在信中強調，Apple 的服務條款明文禁止包含令人反感或過於低俗的內容，其中包括未經同意生成的性化影像。若 Apple 與 Google 對 X 的行為視而不見，將使兩家公司的說法失效——即其應用程式商店相比第三方側載更安全。這種原則一直被用來反對加強應用程式商店競爭的法律改革，並作為其支付系統市場力量的主要論據。

參議員要求 Apple 與 Google 必須在 2025 年 1 月 23 日前就上述各項違規事項提供書面答覆。同時，他們還要求兩家公司在政策違規行為得到解決之前，停止在平台上提供 X 及 Grok 應用程式的下載。此舉反映了美國國會對社交媒體平台中人工智能生成內容監管不力的擔憂。

此次函件進一步顯示了政府部門對於科技公司審核與管理能力的關注，以及保護用戶安全的決心。Apple 與 Google 需要在未來的運作中更加嚴格地遵守相關規定，以維護其應用程式商店的安全性和可靠性。