記者吳立言／綜合報導
Grok 再度陷入深度偽造（Deepfake）爭議。英國工黨國會議員杰絲．阿薩托（Jess Asato）已向英國高等法院提起訴訟，指控馬斯克旗下 xAI 所開發的 Grok，被用來生成未經授權的色情偽造圖像，並對她本人造成嚴重傷害。
根據《路透社》報導，阿薩托於今（4 日）發表聲明表示，Grok 所產生的深偽色情內容已侵害數千名女性與未成年人的權益。她認為，相關功能並非單純遭到濫用，而是產品設計與安全機制不足所導致，因此決定透過法律途徑追究開發商責任。
指控違反資料保護與隱私權
阿薩托透過代理律師事務所 AWO 向法院提出訴狀，主張 xAI 涉嫌違反英國資料保護法規，並不當使用與處理個人資訊。除了要求損害賠償之外，她也希望法院正式認定相關行為違法，並發布禁制令，要求 xAI 停止涉及未授權色情深偽內容生成的相關功能。
AWO 法務主管拉維．奈克（Ravi Naik）表示，本案可能成為首批直接針對 AI 產品設計責任提出追究的案件之一，希望藉此建立先例，讓 AI 開發企業必須將安全保障納入產品設計初期，而非事後補救。
曾宣布限制功能 仍被發現可生成相關內容
今年 1 月，xAI 曾表示已針對 Grok 的圖片編輯功能加入限制措施，在相關行為屬違法的司法管轄區內，禁止生成穿著暴露服飾的人物影像。不過，路透社於 2 月測試發現，即使用戶明確表示圖中人物未授權，系統仍可能依照提示生成帶有色情性質的偽造影像，再次引發外界對 AI 圖像生成安全機制的質疑。
批評 Grok 後遭網友製作假影像
阿薩托辦公室指出，她在今年 1 月公開批評 Grok 後，網路上便出現多張她身穿比基尼的偽造照片，甚至還流傳一段虛構影片，內容描述她遭迷昏後即將遭受性侵，引發外界對 AI 深偽技術遭惡意利用的關注。
事實上，今年 3 月，美國馬里蘭州巴爾的摩市也曾對 xAI 提起訴訟，主張 Grok 能夠生成色情深偽影像的特性，涉嫌違反當地消費者保護相關法規。
生成式 AI 工具快速普及，各國監管機構也開始加強關注深偽技術可能帶來的隱私與人格權風險。此次英國議員對 xAI 提起訴訟，除了聚焦個人權益受損，也將 AI 開發者是否應對產品設計與安全防護負起法律責任，推向司法檢驗的新階段。
ETtoday新聞網提醒您：
保護被害人隱私，避免二度傷害。
移除下架性影像，洽性影像處理中心。
終結性影像，不拍攝、不持有、不下載、不分享。
