中國出手管AI！擬人化互動設紅線　禁觸國安、個資外洩

▲中國開始管制「AI擬人化互動」，像虛擬角色、語音助理等都納入規範。（AI協作圖／記者董美琪製作，經編輯審核）

記者董美琪／綜合報導

中國針對AI擬人化內容加強管制。官方認為，近來網路上以人工智慧模擬真人互動的服務快速擴張，潛藏風險逐漸浮現，相關主管機關已出手規範。10日公布「人工智能擬人化互動服務管理暫行辦法」，明確列出不得生成危害國家安全或顛覆政權等內容，並採分級管理機制，預計自7月15日正式上路。

根據新華社報導，這項暫行辦法由中國國家網信辦會同國家發改委、工信部、公安部及市場監管總局等5個部門共同發布，目的在於引導AI擬人化應用朝合規方向發展，同時兼顧社會安全與公共利益，並強化對民眾權益的保障。

中國國家網信辦相關負責人指出，AI模擬人類互動的應用場景日益普及，但也伴隨多項隱憂，包括可能影響未成年人身心發展、衝擊網路資訊安全，甚至帶來倫理偏差等問題。因此，此次推出規範，主要在於回應現實風險，並建立可控的發展環境。

依據新規內容，AI擬人化服務不得產出涉及危害國家安全、損及國家利益或榮譽，以及鼓動顛覆政權、分裂國家等資訊；同時，也禁止透過系統誘導或蒐集國家機密、商業機密與個資隱私。

此外，相關服務亦不得生成鼓吹或暗示自傷、自殺的內容，或涉及言語霸凌等侵害人格尊嚴的訊息；也不得引導未成年人從事危險行為、培養不良習慣，或產生極端情緒。對於可能誤導使用者做出不利決策、侵害合法權益的內容，同樣列入禁止範圍。

官方表示，未來將採取「分類分級」的監理方式，並要求業者落實安全管理責任，同時強化對未成年族群與高齡使用者的保護措施，以及個人資料安全機制。

除了內容規範外，辦法亦納入安全評估制度、演算法備案機制，並推動建置AI安全服務平台，作為整體監管與風險控管的重要配套措施。