AI可能正被偷偷洗腦　微軟揭「隱形指令」操控推薦結果

▲▼ChatGPT,Gemini,Grok,Claude,Perplexity,App,AI工具。（圖／記者吳立言攝）

記者吳立言／綜合報導

隨著越來越多 AI 助理加入「摘要」與「分享」功能後，使用者一鍵就能整理文章重點，但資安風險也跟著升級。微軟近期提出警告，攻擊者可能把「看不見的指令」藏進連結與按鈕，讓 AI 在不知不覺中被帶偏，進而影響後續的推薦與建議。

隱形指令藏在連結裡

根據微軟安全研究團隊在官方安全部落格公開的研究，這類手法被稱為「AI Recommendation Poisoning（AI 推薦投毒）」。研究指出，攻擊者會把惡意提示詞編進 URL 參數或按鈕連結中，當使用者點擊「AI 摘要」或分享相關按鈕時，系統可能把這些內容當成提示輸入給 AI，導致輸出被悄悄導向。

不一定立刻出錯　更像慢慢養偏

微軟表示，這類攻擊不見得會讓 AI 當場產生明顯錯誤答案，反而可能以「看起來合理」的方式，逐步改變 AI 對來源可信度、推薦排序或用語立場的傾向。研究也提到，他們在多個產業情境中辨識出數十組不同的惡意提示樣本，顯示這類手法具備擴散條件。

微軟提醒的自保做法

針對使用者端，微軟建議對來源不明的「AI 摘要」「AI 分享」連結提高警覺，遇到內容疑似過度導向或強調特定品牌、特定立場的摘要結果時，應多做交叉查核。若使用的 AI 產品提供記憶或個人化資料管理，也可定期檢視與清理已保存內容，降低長期累積偏誤的風險。