▲AI成為新型心靈陪伴?Anthropic曝光Claude情緒對話數據。(示意圖/取自免費圖庫pexels)
記者吳立言/綜合報導
AI不只協助撰文與寫程式,還逐漸成為人們傾訴情緒與尋求建議的對象。人工智慧公司Anthropic最新公布的研究指出,在450萬筆來自Claude.ai(Free與Pro 用戶)的匿名對話中,有約2.9%屬於「情感性互動」,顯示AI作為情緒支援工具雖屬少數使用情境,但其心理影響值得關注。
這些所謂「情感性對話(affective conversations)」涵蓋了人際建議、情感教練、心理諮詢乃至心靈陪伴等類型。研究發現,大多數用戶尋求Claude的幫助,是出於職涯煩惱、感情困惑或內心孤獨等情緒需求,而有關性或戀愛角色扮演的對話比例則極低,佔總對話量不到0.1%。
研究也指出,在這類互動中,Claude大多不會對用戶請求產生阻力,僅有不到一成對話中出現AI「反駁」或「拒絕配合」的情形。這些情況主要發生在涉及潛在危害的內容,例如鼓勵自殘、極端節食建議或要求心理診斷等。
值得注意的是,用戶情緒在與Claude互動過程中,普遍呈現「由負轉正」的變化趨勢,顯示Claude並未強化負面情緒,反而可能具備一定程度的正向支持效果。然而該研究也強調,這類改善是否能延續至對話之外,仍需進一步研究。
Anthropic也坦言,尚無法評估這些互動是否會導致「情感依賴」等長期風險。該公司已與線上心理支援機構ThroughLine合作,強化AI在敏感對話中提供轉介建議的能力,並設立更多情緒安全機制。
儘管這些情感性使用僅佔總體使用的極小比例,但隨著語音與多模態介面等技術發展,AI在情緒層面的角色預料將更加重要。Anthropic表示,未來將持續追蹤使用趨勢,確保AI在人類情感生活中的角色,能夠健康、正向地發展。