Grok圖像功能急踩煞車 X全面封鎖「真人裸露影像生成」

▲▼馬斯克(Elon Musk)旗下人工智慧新創公司xAI聊天機器人Grok。(圖/達志影像/美聯社)

▲聊天機器人Grok。(圖/達志影像/美聯社)

記者吳立言/綜合報導 

X 官方安全帳號今(15日)發布最新說明,針對 Grok 圖像生成功能的使用規範進行多項調整,重申平台對兒少性剝削、未經同意的裸露內容及不當性內容採取「零容忍」政策,並同步強化技術與帳號層級的安全控管措施。

[廣告] 請繼續往下閱讀.

X 表示,平台持續主動移除高優先級違規內容,包括兒童性虐待素材(CSAM)與未經同意的裸露影像,並依據 X 規範對違規帳號採取相應處置;若涉及兒少性剝削,亦會在必要時通報執法機關。

Grok 圖像功能限制再升級

在最新調整中,X 已透過技術手段,全面禁止 Grok 編輯現實人物穿著比基尼等具暴露性的影像,且此限制不分免費或付費用戶,全面適用。此外,Grok 在 X 平台上的「圖像生成與編輯功能」,目前僅開放給付費訂閱用戶使用,藉此提高可追溯性,降低遭濫用的風險。

依法規進行地區封鎖、不影響既有 X 規範

[廣告] 請繼續往下閱讀..

針對不同司法管轄區的法規要求,X 也同步更新地理封鎖(Geoblock)機制。在相關法律禁止的地區,所有用戶皆無法透過 Grok 生成現實人物穿著比基尼、內衣或類似服裝的影像。

X 強調,上述調整並不改變現行的安全機制,所有 AI 提示詞與生成內容,無論是否公開發布、是否為付費用戶,都必須嚴格遵守 X 規範。平台安全團隊將持續全天候運作,強化防護措施、即時下架違規內容,並在必要時永久停權帳號,同時與地方政府及執法單位合作。

X 指出,生成式 AI 的快速發展為整個產業帶來新挑戰,平台正持續與用戶、合作夥伴及相關單位協作,以更即時的方式因應風險與爭議。

★ETtoday新聞網提醒您:

[廣告] 請繼續往下閱讀...

保護被害人隱私,避免二度傷害。
移除下架性影像,洽性影像處理中心。
終結性影像,不拍攝、不持有、不下載、不分享。