記者吳立言／綜合報導
一名資安研究人員近期展示一項名為 noRecognition 的實驗，利用 AI 生成特殊圖案覆蓋 Toyota Yaris 車身，測試能否干擾監控攝影機背後的電腦視覺系統。實測結果顯示，車輛雖然仍會出現在攝影機畫面中，但辨識軟體可能無法正確判定畫面中的物體是車輛。
▲Toyota Yaris「AI塗裝」實測。（圖／noRecognition）
Toyota Yaris 參與公開實測
noRecognition 創辦人 Bill Swearingen 與 Donut Media 合作，將特殊圖案套用到 2009 年 Toyota Yaris，並讓車輛駛過 Flock 的攝影機進行測試。Swearingen 表示，實驗已證實圖案具有干擾效果，相關測試影片預計後續公開。
這項技術並非透過遮蔽物讓攝影機「看不到」車輛，而是針對攝影機取得影像後的辨識軟體。換句話說，車輛仍會被拍攝下來，但後端系統可能無法將影像中的物體標記為汽車。
AI 不斷修改圖案尋找弱點
Swearingen 表示，他過去一年持續利用模型測試不同圖案，目前已進行約 3,100 萬次測試。系統會將圖案送進物件辨識模型，如果模型仍能辨識車輛，就再調整圖案後重新測試，透過反覆嘗試找出更容易造成誤判的設計。
這類方法屬於對抗式機器學習（adversarial machine learning）。由於電腦視覺模型分析影像的方式與人類不同，某些人眼看來只是特殊圖樣的視覺元素，可能讓 AI 模型錯誤分類或無法辨識目標。
已測試 11 種開源辨識模型
Swearingen 表示，目前生成的圖案已能對抗他測試的 11 種開源物件辨識演算法，涵蓋與 Flock 車牌辨識系統、Axon 隨身攝影機及 Clearview AI 等技術相關的辨識軟體。他也表示，目前模型能夠持續產生新的圖案，每分鐘都會進行新一輪嘗試；每次失敗的結果也會成為後續生成圖案的資料。
目標是降低自動化追蹤能力
noRecognition 的核心概念，是讓使用者透過服裝或其他物體上的特殊圖案，降低自動化攝影機系統辨識身分或物體的能力。Swearingen 認為，隨著監控攝影機與自動辨識技術普及，民眾需要有選擇不被自動追蹤的方式。
這類系統目前已廣泛用於公共空間，可協助執法機關搜尋影像、辨識車輛或人員，也可能被私人企業與地方政府用於停車場、道路等環境。不過，自動辨識系統出現誤判時，也可能造成後續追蹤或辨識結果錯誤，因此相關技術持續受到關注。
未公開最有效圖案
noRecognition 目前也透過募資方式開發印有相關圖案的 T-shirt 與帽 T，未來則可能進一步推出車輛外觀貼膜。Swearingen 表示，設計需要在足夠遠的距離下仍能發揮效果，同時維持服裝與車輛外觀的實用性。
不過，他目前並未公開效果最好的圖案，原因是擔心攝影機與辨識系統開發商能夠迅速針對這些圖案建立防禦機制。這也意味著，隨著對抗式圖案與辨識模型持續演進，監控系統與反辨識技術之間可能形成持續的攻防。
精彩短影
