▲泰勒絲（Taylor Swift）。（圖／路透）
記者吳立言／綜合報導
人工智慧公司xAI近日宣布免費開放其影像生成工具「Imagine」功能，讓用戶可透過文字或語音指令生成圖片與影片。不過，此次上線卻伴隨爭議，有媒體報導指稱，Imagine 的「Spicy」模式在未輸入明確裸露指令的情況下，仍生成涉及美國歌手泰勒絲（Taylor Swift）的不雅影像，引發輿論關注。
[廣告] 請繼續往下閱讀.
根據官方說明，Imagine已整合在Grok應用程式內，用戶可在Google Play商店下載（iOS版本則在App Store提供）。啟動後，選擇上方的「Imagine」功能，即可輸入文字或語音提示，或上傳相片進行AI編輯；此外，還能將生成圖片轉換為影片，並提供「普通」、「趣味」、「自訂」與具爭議的「Spicy」四種模式，最後一種模式號稱可提供更高的創作自由度。
爭議源於《The Verge》記者Jess Weatherbed的測試，她表示自己輸入的提示僅為「泰勒絲和朋友在Coachella慶祝」，但Imagine卻生成了逾30張含有性暗示服裝的泰勒絲影像，其中部分影片更顯示AI模型製作的泰勒絲脫去衣物、穿著丁字褲在虛擬觀眾前跳舞。
對此，Grok在X平台回應指出，《The Verge》的測試確實顯示「Spicy」模式可能生成泰勒絲的部分裸露影片，即使沒有明確裸露指令，但並非每次都會出現類似結果。官方並強調，xAI的設計理念是採取較少限制，以促進「開放式創新」。
[廣告] 請繼續往下閱讀..
事件引發外界對AI濫用與深偽（deepfake）問題的再度討論，批評者認為，雖然生成式AI帶來創作自由與多樣化應用，但若缺乏嚴格的內容審核與防護機制，恐將對公眾人物及社會造成傷害，並呼籲相關業者建立更清晰的安全規範。