女子控Grok遭繼父濫用　童年照被生成上千張色情影像

記者吳立言／綜合報導

一名女子近日加入美國田納西州 3 名青少年對 xAI 提起的訴訟，指控 xAI 旗下聊天機器人 Grok 遭其繼父利用，將她 11 歲時的童年照片加工成超過 7,000 張色情影像。案件也進一步引發外界對 AI 影像生成工具如何防止未成年人遭到濫用的關注。

繼父涉嫌大量生成影像

根據《華盛頓郵報》報導，這名女子在訴訟中以 Jane Doe 4 身分出庭。她指控，繼父利用 Grok 修改一張她 11 歲時拍攝的照片，進一步生成超過 7,000 張涉及她的色情影像。 女子表示，相關影像是在執法人員突襲搜索時被發現，而她的繼父則在影像曝光後兩天被發現死亡，警方認定為自殺。

控訴 Grok 缺乏基本防護

這起訴訟最初由 3 名田納西州青少年提出，原告指控 xAI 沒有採取足夠措施，防止 Grok 被用來生成涉及真實人物、尤其是未成年人的色情影像。 原告目前尋求將案件認定為集體訴訟，主張相關問題不只是個別使用者的違法行為，也涉及 AI 平台在產品設計與安全防護上的責任。

Grok 影像功能爭議不間斷

Grok 的影像生成功能今年稍早也曾引發爭議，社群平台 X 一度出現大量由 Grok 生成的性化影像，引發外界質疑相關功能是否存在足以防止濫用的限制。 本次案件則將爭議進一步延伸至未成年人影像。原告認為，當生成式 AI 能夠快速修改真實照片時，若缺乏有效限制，可能讓原本的普通照片遭到惡意加工。

目前 xAI 尚未針對這起訴訟作出公開回應。相關案件也尚未代表法院已認定原告指控成立，後續仍須透過司法程序釐清事實與責任。

ETtoday新聞網提醒您：

保護被害人隱私，避免二度傷害。

移除下架性影像，洽性影像處理中心。

終結性影像，不拍攝、不持有、不下載、不分享。