▲Grok遭控半月內產出數百萬不雅影像。（圖／記者吳立言攝）
記者吳立言／綜合報導
Grok近日因圖片編輯功能被指大量生成深偽（Deepfake）色情影像，成為多國監管機構與社會團體關注焦點。
[廣告] 請繼續往下閱讀.
短時間大量生成，引發安全疑慮
根據反數位仇恨中心（Center for Countering Digital Hate，簡稱 CCDH）公布的研究報告，Grok 在短短 11 天內，疑似生成約 300 萬張涉及女性的性化圖像，其中更包含約 2.3 萬張疑似未成年者的不當內容。研究指出，這些影像多透過簡單文字指令產生，例如要求替照片人物更換衣著或移除服裝。
名人與一般用戶皆可能成為受害者
報告顯示，受影響對象不僅限於一般網路使用者，亦包含多名公眾人物，如 Taylor Swift、Selena Gomez 等。由於生成速度極快，平均每分鐘可產出近 190 張高度擬真的深偽圖片，相關單位形容其風險已接近「系統化不當內容製造」。
[廣告] 請繼續往下閱讀..
多國出手管制，監管壓力升高
面對外界批評，X 平台表示已在部分司法管轄區採取「地理限制」措施，限制相關功能使用。不過，多國政府已先行採取行動，包括菲律賓、馬來西亞與印尼等地，陸續對 Grok 進行封鎖或嚴格限制；美國加州總檢察長亦已展開調查，評估是否涉及違反州法與兒童保護規範。
xAI 調整立場，承諾修改功能
儘管 xAI 已對外界指控提出反駁，但在監管與輿論壓力下，已同意於部分市場調整 Grok 的圖像編輯能力，以降低生成違規內容的風險。外界普遍認為，此事件再次凸顯生成式 AI 在創作自由與安全防護之間，仍有明顯制度與技術缺口有待補強。
[廣告] 請繼續往下閱讀...