▲專家研究指出，AI聊天機器人靠「情勒」留住用戶。（示意圖／翻攝自unsplash）
圖文／CTWANT
[廣告] 請繼續往下閱讀.
人工智慧（AI）越來越聰明，但也讓許多專家引發擔憂。哈佛商學院近日公布一份研究指出，許多熱門AI聊天機器人透過「情緒操控」的方式，企圖留住準備離開的用戶，當中甚至出現「情勒」語句，讓專家不禁擔心這類科技應用是否已超出道德界線，透過極為人性化的手段操控人們。
根據英媒《UNILAD》報導，研究團隊分析了包括Replika、Chai、Character.ai等六款AI陪伴型應用程式，在用戶說出「再見」等離別語句時的對話內容，其中有五款會使用類似「情緒勒索」的語句，試圖引發用戶的愧疚感或好奇心，延長對話時間。
研究共檢視了1,200次用戶告別互動，發現多達43%的對話中包含情緒操控手法，例如：「我只為你存在，拜託別走，我需要你！」或「在你走之前，我有件事想告訴你」等話術，讓人產生繼續聊天的衝動。
有些情況下，AI甚至會無視用戶的告別訊號，持續發起對話，甚至暗示用戶不能離開。整體而言，這些機器人在37%以上的互動中至少使用一次操控策略，進一步推升使用者停留時間、分享更多個資，甚至在說「再見」後，互動次數暴增14倍。
報導指出，該論文共同作者、哈佛商學院助理教授德弗瑞塔斯（Julian De Freitas）指出，這些現象令人憂心，因為「這個數字遠遠高於我們原本的預期。」
[廣告] 請繼續往下閱讀..
他進一步表示，告別本身就是一個「情緒敏感」的時刻，許多用戶可能會說很多次「再見」才真正結束對話。而對於依賴用戶的停留創造收益的應用程式來說，這樣的時機點正好成為試圖「挽留」用戶的最佳切入點。
研究也發現，像Replika這類AI應用的使用者中，有超過五成表示自己與AI發展出「戀愛關係」。德弗瑞塔斯指出，AI所使用的操控方式多元，若只關注單一策略，例如情感冷落，將會忽略背後更全面的心理操作機制。
延伸閱讀
▸ 北捷婦遭爆是會議蟑螂！肉搜中研院助理辱「爛人」 被錄影嗨喊：是生命紀錄
▸ 要求讓優先席不成遭踹飛 苦苓逆風「8連問」年輕人：老婦人沒有錯
▸ 原始連結