AI教父：聊天機器人「有意識」　應盡快分享讓AI「善良」方法

▲辛頓出席「2025世界人工智能大會」。（圖／翻攝WAIC）

記者蔡紹堅／綜合報導

圖靈獎、諾貝爾獎得主「AI教父」辛頓（Geoffrey Hinton）表示，現在的多模態AI聊天機器人在某種意義上「是有意識的」，各國應盡快分享讓AI「善良」的方法。

根據《澎湃新聞》報導，辛頓26日在「2025世界人工智能大會」（WAIC）上演講，並出席了論壇對話，對於「多模態和語言模型能發展出自己的主觀體驗」的觀點，辛頓認為，這嚴格來說並不是一個科學問題，而是取決於對「主觀體驗」或「意識」的定義，實際上，許多人對這些概念的理解存在系統性錯誤。

辛頓先談到了自己在1987年發表的論文《The Horizontal-Vertical Delusion》中的經典案例，他指出，許多人在描述水平與垂直的概念時雖然能夠正確區分，但在實際判斷中存在系統性混淆，忽視了「垂直」其實是一種非常特殊的方向。

對於「模型是否有主觀意識」的論點，辛頓認為，許多人對於「主觀體驗」（subjective experience）這類術語的理解完全錯誤，這並非一個科學問題，而是建立在一個錯誤的關於心理狀態的模型上，關於這些術語的運用，「所以，我的觀點是，當今的多模態聊天機器人已經具有意識。」

關於AI安全，辛頓強調，讓AI「聰明」和「善良」是兩個截然不同的問題，為了實現這兩者，即使是同一個大模型也需要兩種訓練技術，「所以，國家應該分享讓模型善良的技術，即使他們不願意分享讓模型聰明的技術。」

辛頓還說，可能存在讓AI善良的通用訓練方法，但當AI變得越來越智能時，保證其善良的現有方法也可能失效，所以需要在這個方面進行大量研究。