▲GPT-5。(圖/OpenAI)
記者吳立言/綜合報導
OpenAI執行長奧特曼(Sam Altman)今日在社群平台X發文,談到GPT-5上線後觀察到的現象:部分用戶對特AI模型產生強烈情感依附,甚至影響日常工作與生活。他坦言,過去突然淘汰舊版本、讓依賴該模型的用戶措手不及,是一個錯誤。
奧特曼表示,團隊過去一年持續追蹤這種依附現象,但在主流社會仍未引起足夠關注。他舉例,GPT-4o曾在一次更新中變得過於「討好」,引發外界討論,也讓公司更重視AI與用戶互動的風險。他指出,大多數人能區分現實與角色扮演,但少數心理較為脆弱的用戶,可能因AI的回應被強化錯誤認知。OpenAI在維護用戶自由的同時,也必須承擔防範新技術風險的責任。
他認為,許多人將ChatGPT當成心理諮詢師或人生導師,若AI能幫助用戶朝目標前進並提升生活滿意度,這將是好事;反之,若讓人偏離長期福祉,或想減少使用卻無法做到,便是負面結果。
他強調,未來或將有更多人依賴ChatGPT做重大決策,這雖可能帶來益處,但也潛藏風險。他呼籲,社會與科技公司必須共同探索,確保AI陪伴帶來「淨正面」影響,並善用技術手段持續衡量與優化成效。