▲抖音啟動專項行動，嚴禁使用 AI 偽造他人形象直播。（圖／取自免費圖庫Pixels）
記者吳立言／綜合報導
近期多起 AI 假冒名人直播帶貨事件引發關注，部分直播間出現以演員或名人形象進行帶貨的畫面，但實際上是透過 AI 換臉與語音合成技術生成的虛假直播。部分民眾在留言區質問真偽時，甚至遭對方封鎖，掀起對AI技術濫用的廣泛討論。
根據《證券日報》等陸媒報導，中國演員溫崢嶸遭遇「AI換臉盜播」，她日前在抖音直播間發現多個帳號同時出現「她」的帶貨畫面，實際上卻並非本人操作。當她親自留言質問「你是溫崢嶸，我是誰？」時，竟被對方封鎖，引發熱議。此事也凸顯 AI 假冒名人行為已進入「即時直播」層面，技術濫用問題更為嚴重。
8 月時亦有網紅利用 AI 仿製奧運冠軍全紅嬋聲音販售農產品。隨著生成式 AI 技術快速普及，多家電商與直播平台近期已陸續啟動「AI 仿冒專項整治行動」，全面升級內容審核與防偽技術。
抖音副總裁李亮受訪時表示，雖然部分「AI 盜用臉直播」並非發生於自家平台，但平台已偵測到多起利用 AI 生成內容冒充名人進行帶貨的影片。為此，抖音啟動專項行動，嚴禁使用 AI 偽造他人形象直播，並強化檢測演算法以辨識不自然臉部與聲音特徵，同時建立侵權申訴與舉報機制。據官方統計，自 10 月起已封禁超過 1.1 萬個違規帳號、下架六千多項違規商品，整頓仍在持續進行中。
除了侵權問題，更嚴重的是消費者信任危機。AI 生成內容模糊真實與虛假的界線，使購買決策變得猶豫謹慎，復購率下降、用戶流失。部分假直播甚至被利用為詐騙手法，例如先前出現的 AI 假冒NVIDIA 執行長黃仁勳層「直播送投資報酬」事件，實際為誘騙轉帳陷阱。
AI 技術本身並非原罪，若能合法運用，仍能降低行銷成本、擴大中小商家觸及。然而，平台監督與法律規範仍待完善。專家也建議，應從三方面著手：建立 AI 生成內容標識制度、完善深度偽造檢測與預警系統、提高侵權賠償金額，並強化平台與技術提供方的連帶責任。
隨著生成式 AI 滲透至直播與電商領域，「真實」正成為新一輪競爭焦點。唯有同步強化法律約束、技術防線與行業自律，才能防止深偽亂象蔓延，重建消費者信任，讓電商產業回歸健康、可持續的發展軌道。
