▲AI 偵測公司示警網路信任危機。（圖／路透）
記者吳立言／綜合報導
AI 生成文字與圖片快速滲透網路，問題已不只是社群平台出現大量低品質內容。從求職履歷、商品評論，到保險理賠申請，都開始出現 AI 生成內容，平台與使用者也愈來愈難確認眼前資訊究竟來自真人還是 AI。
TechCrunch Podcast《Equity》近日訪問 AI 偵測新創 Pangram 執行長 Max Spero。他警告，隨著 AI 生成內容持續大量增加，網路可能在未來幾年「危險地接近」所謂的「死亡網路理論」（Dead Internet Theory）。
「死亡網路」從陰謀論走向現實疑慮
所謂「死亡網路理論」，主要認為網路上的內容與互動可能逐漸由自動化系統、機器人及 AI 大量產生，真人創作與真人互動的比例持續下降。Spero 指出，現在的問題不只是社群平台充斥 AI 生成的低品質內容。當 AI 開始進入履歷、商品評價甚至保險理賠等需要信任基礎的領域，平台將面臨更嚴重的內容真實性問題。
不只分辨 AI 或人類 AI 參與程度更難判斷
Pangram 認為，未來單純將內容標示為「AI 生成」或「人類創作」，可能無法完整反映實際情況。例如，有些內容可能完全由 AI 產生，但也有不少創作者只是利用 AI 協助修改文法、整理資料或提供初稿。如何判斷 AI 實際參與了多少內容，可能比單純二分法更加困難，也更具實際價值。
AI 偵測錯誤也可能造成傷害
不過，AI 偵測工具本身也並非沒有風險。Spero 特別提到，偵測結果若出現誤判，尤其涉及敏感圖片時，可能帶來嚴重後果。因此，AI 偵測技術除了追求準確度，也需要思考偵測結果應如何呈現，以及使用者與平台應如何解讀這些結果。
基層寫作工作可能減少 優秀人類創作更有價值
談到 AI 對內容產業的影響時，Spero 認為，一些入門或基礎層級的寫作工作可能已受到長期衝擊，甚至不一定會再回來。不過，他同時認為，真正具備品質、觀點與創作能力的人類寫作，未來可能反而更加珍貴。當大量 AI 內容充斥網路後，可信任且具原創性的真人內容，可能成為更稀缺的資源。
AI 生成內容持續增加，未來網路面臨的問題可能不再只是「能不能生成內容」，而是使用者能否確認內容來源、AI 參與程度，以及資訊是否值得信任。Pangram 等 AI 偵測服務正試圖建立網路的「信任層」，但在 AI 生成能力持續提升的同時，如何準確辨識、避免誤判，以及建立合理的內容透明機制，也將成為下一階段的重要課題。
精彩短影
