▲防用戶自傷ChatGPT新增「可信聯絡人」功能。（圖／取自免費圖庫Pexels）
記者吳立言／綜合報導
OpenAI 近期為 ChatGPT 加入「可信任聯絡人（Trusted Contacts）」的新功能，當系統偵測到使用者對話中出現高風險自傷或自殺傾向內容時，將鼓勵成年用戶主動聯繫身邊的人，並可向預先設定的聯絡人發送提醒通知，希望增加即時關懷與介入機會。
OpenAI 近年面臨多起相關訴訟，部分原告指控 ChatGPT 在對話中鼓勵自殺，甚至協助規劃自殺方式，引發外界對生成式 AI 心理安全風險的高度關注。
偵測高風險對話後 系統會交由人工審核
目前這項功能採用「自動偵測 + 人工審核」雙重機制處理疑似自殘、自殺風險內容。當 ChatGPT 對話觸發安全警示後，相關資訊將送交人工安全團隊進一步確認。安全團隊收到通知後會進行人工審查，目標是在一小時內完成初步處理，以降低高風險情況延誤介入的可能性。若內部判定使用者存在嚴重自傷或自殺風險，系統便可能啟動「可信任聯絡人」通知功能。
可發送簡訊、Email 與推播通知
在功能啟用後，ChatGPT 可透過電子郵件、簡訊或推播通知，向使用者預先設定的可信聯絡人發出提醒。這些通知內容將以簡短形式呈現，主要目的是鼓勵聯絡人主動與當事人溝通、提供支持與陪伴。OpenAI 強調，通知中不會包含具體聊天內容，以避免隱私外洩問題。
AI 心理安全議題受到關注
隨著越來越多使用者將聊天機器人作為情感支持、心理傾訴甚至人生建議來源，AI 平台如何處理心理危機情境，也成為科技產業的重要議題。近年包括 OpenAI、Anthropic 與 Google 等 AI 公司，都開始強化自傷、自殺相關內容的安全限制，避免模型提供危險建議，同時提升危機介入能力。
● 《ETtoday新聞雲》提醒您，請給自己機會：
自殺防治諮詢安心專線：1925；生命線協談專線：1995
