中國擬為情感型AI設紅線　要求平台主動設置「防沉迷」機制

▲中國要求情感型AI平台建防沉迷系統。（圖／取自免費圖庫Pexels）

記者吳立言／綜合報導

中國官方進一步收緊人工智慧監管邊界。中國網路監管機構近日公布管理草案，針對能模擬人類性格、與使用者進行情感互動的 AI 服務設下規範，要求平台必須主動設置「防沉迷」機制，避免用戶對情感型 AI 產生過度依賴。

情感互動 AI 納入監管範圍

該草案由中國國家網信辦 於 12 月 27 日對外發布，並開放社會徵詢意見。適用對象涵蓋在中國境內，向大眾提供具備擬人化性格、思考模式與溝通風格，並能透過文字、圖片、語音或影像與使用者進行情緒互動的 AI 產品與服務。

平台須主動防沉迷與過度使用

草案明確要求，相關服務供應商須提醒用戶避免長時間或過度使用，並在系統層面設置防沉迷機制。若使用者出現高度依賴跡象，平台不得放任，而應採取必要干預措施。

要求辨識情緒狀態並介入、內容與行為劃出明確紅線

在心理風險管理方面，草案指出，業者需具備辨識使用者情緒狀態與依賴程度的能力。一旦發現用戶出現極端情緒反應或疑似成癮行為，平台應即時評估風險，並透過提醒、限制或其他方式介入。

此外，草案要求 AI 服務供應商須對產品「全生命週期」負起安全責任，包括建立演算法審查制度、強化資料安全與個人資訊保護機制，確保技術應用不對使用者造成長期風險。

在內容管理上，草案也劃出清楚紅線，規定情感型 AI 不得生成危害國家安全、散布謠言，或涉及暴力、淫穢等違法內容，顯示官方在鼓勵 AI 發展的同時，也同步強化風險控管。