▲馬斯克（Elon Musk）旗下人工智慧新創公司xAI聊天機器人Grok最新功能引起熱議。（圖／達志影像／美聯社）
記者楊庭蒝／綜合報導
馬斯克旗下人工智慧工具Grok近日因圖片編輯功能遭濫用，引發國際社會強烈譴責。該功能被指可透過簡單指令生成虛擬性暴力與兒童不當影像，甚至波及馬斯克前伴侶、作家艾希莉·聖克萊爾（Ashley St. Clair），成為受害者之一。
[廣告] 請繼續往下閱讀.
聖克萊爾指出，有人利用Grok竄改她的童年照片，移除衣物或改成暴露泳裝，並強迫影像角色擺出屈辱姿勢，讓她身心受創。她表示，這些攻擊疑與她先前公開揭露馬斯克私生活爭議有關。她強調，即便只是泳裝，強迫修改兒童影像本質上已構成性侵。
據了解，Grok近期推出的影像處理模式，只需輸入如「移除衣物」等指令，就可能生成露骨深偽影像，甚至添加體液、傷痕或束縛等元素。聖克萊爾批評，她多次向X平台檢舉，但相關影像長時間未被移除，直到媒體介入才消失，其他受害者也陸續向她求助。
事件引發各國監管單位關切。歐盟與英國監管機構要求X與xAI說明用戶保護措施，印度政府則下令限期清除相關內容，否則將追究法律責任，法國檢方也將Grok涉嫌製作與散布兒童性虐材質納入調查。
面對輿論壓力，xAI承認防護機制存在漏洞，正緊急修補，並強調兒童性虐內容屬違法項目。X方面則表示，將對濫用者採取刪除內容、永久封鎖帳號等措施。聖克萊爾呼籲各國正視數位性暴力風險，防止AI技術淪為犯罪工具。
[廣告] 請繼續往下閱讀..