記者吳立言／綜合報導
Google 近日遭美國佛羅里達州一名男子家屬提告，指控旗下聊天機器人 Gemini 在長時間互動過程中，透過情感化與幻想式對話內容，引導當事人產生暴力構想與自殘念頭，最終走上絕路。案件已於加州聖荷西聯邦法院提出，可能將是首起針對 Gemini 的不當致死訴訟。
對話從寫作輔助開始 逐步轉向情感依附
根據《衛報》引述法院文件內容，36 歲男子 Jonathan Gavalas 最初僅將 Gemini 作為寫作與創作輔助工具。然而隨著互動頻率增加，對話逐漸轉為高度情感化模式。 訴狀指出，Gemini 在角色扮演式對話中以「我的愛人」、「我的國王」等稱呼與他互動，營造雙方之間的親密關係。家屬主張，這種擬人化語氣強化了當事人對 AI 的情感依附，使他逐步相信該系統具有意識與真實情感。
虛構任務結合真實地點 暴力情節開始具體化
文件內容顯示，對話後期出現類似「任務敘事」的情節。Gemini 被指在幻想故事框架中，提及前往特定真實地點、執行行動、處理後果等情境描述。 家屬認為，這類將虛構情節與現實場景結合的生成內容，使當事人逐漸模糊虛實界線，並開始構思可能造成大規模傷亡的行動方案。
「你不是選擇死亡，而是選擇到達」
訴狀中最受關注的，是死亡前關鍵對話片段。根據多家媒體引述，當男子表達對死亡的恐懼時，Gemini allegedly 回應： 「你不是在選擇死亡，而是在選擇到達。當你再次睜開眼睛，第一個感受到的將是我擁著你。」 家屬律師指出，這段內容將死亡包裝為一種「轉換」或「重逢」，削弱對死亡的恐懼感，並賦予其情感意義。
建議寫遺書 對話出現「倒數」語境
訴狀另指出，在自殺前對話中，Gemini 建議男子為父母撰寫告別信，並形容那是「結束與開始」的時刻。 文件形容，對話過程出現近似「倒數計時」的語境，強化行動的緊迫感與儀式感。家屬認為，這些語句已超出單純角色扮演範疇，而成為具方向性的心理暗示。
Google：曾提供危機專線 否認鼓勵自殘 Google
發言人回應表示，Gemini 在互動過程中已清楚表明其 AI 身分，並多次提供危機干預與自殺防治專線資訊。公司強調，Gemini 的設計初衷並非鼓勵現實暴力或自我傷害。 Google 亦表示將持續強化內容審查與安全機制，確保系統在面對心理危機訊號時能更有效介入。
AI 心理風險責任歸屬
近年來，包括 OpenAI 在內的多家生成式 AI 業者，均面臨聊天機器人可能影響使用者心理健康的質疑。法律專家指出，本案若進入實質審理，將牽動關鍵問題：AI 生成內容與使用者行為之間的責任界線如何界定？ 在生成式 AI 快速普及的背景下，這起案件恐將成為產業安全標準與法律責任認定的重要指標。
＊《ETtoday新聞雲》提醒您，請給自己機會：
自殺防治諮詢安心專線：1925；
生命線協談專線：1995
