記者吳立言／綜合報導
馬斯克旗下 AI 公司 xAI 首度對 Grok 用戶提起民事訴訟，指控一名美國南卡羅來納州男子涉嫌利用 Grok 生成兒少性虐待內容（CSAM）及未經當事人同意的深偽色情影像。此案被視為 AI 平台首度主動向涉嫌濫用生成式 AI 的用戶採取法律行動之一。
根據《路透》報導，xAI 已於美國時間 7 月 14 日向德州聯邦法院提出訴訟。遭起訴的 Terry Harwood 今年 2 月已因涉嫌性剝削未成年人遭到逮捕，xAI 則主張其違反 Grok 服務條款，並要求法院裁定賠償損失及永久禁止其使用 Grok。
指控利用照片製作深偽色情內容
xAI 在訴狀中表示，被告曾上傳成年人及未成年人的一般照片，並要求 Grok 生成以照片人物為對象的色情深度偽造（Deepfake）影像，同時也涉嫌製作未經成年人同意的色情圖片。訴狀指出，被告「經過蓄意策劃，把原告的工具變成犯罪武器」，因此除了求償外，也希望法院永久禁止其再次使用 Grok。
xAI 也揭露，公司截至 2026 年已因違反內容政策停權 52,222 個帳號，並向美國 國家失蹤與受虐兒童中心（NCMEC） 提交 73,604 件通報，相關通報已協助執法機關促成至少 244 人遭到逮捕。
這些數據也反映，AI 平台正持續加強對兒少性虐待內容及非法深偽色情的偵測、通報與執法合作。
AI 平台加強打擊非法生成內容
近年生成式 AI 能快速產生圖片與影片，也讓深偽色情及兒少性虐待內容的濫用問題受到各界關注。包括 xAI、OpenAI、Google 及 Anthropic 等業者，都持續更新內容安全機制，限制模型生成涉及兒少性虐待、未經同意的色情內容及其他違法素材。
此次 xAI 主動對涉嫌濫用 Grok 的用戶提起訴訟，也顯示 AI 業者除了透過技術防堵外，開始運用法律途徑追究涉嫌違規使用者的責任。
ETtoday新聞網提醒您：
保護被害人隱私，避免二度傷害。
尊重身體自主權，請撥打110、113。
發現兒少性剝削，請撥打110、113。
精彩短影
