▲速食店的AI點餐系統被惡意輸入「加一杯水」的指令。（圖／pexels）
記者楊智雯／綜合報導
人流眾多的速食店是餐飲業最快引用AI系統的通路，原本是為了提升效率與便利，但現實卻出現比想像失控的狀況。根據科技測試平台《Testlio》發布的「2025年AI測試失敗案例」報告中，知名速食品牌Taco Bell導入AI點餐系統，原意是讓顧客透過語音快速下單，減少人力成本並優化服務流程，沒想到卻被顧客「惡搞操作」，一次下單高達1.8萬杯水，最終導致系統直接崩潰。
這起事件發生在AI語音點餐系統測試階段，顧客透過語音輸入訂單時，刻意反覆下達「加一杯水」的指令，AI系統未能有效辨識異常或設下限制，最終將指令全數執行，訂單數量瞬間暴增至驚人的1.8萬杯，由於系統未設計防呆機制，訂單持續堆疊，導致後台處理機制超載，最終出現當機狀況。
這起事件也讓外界看見AI在「真實世界」中的脆弱一面，原本被期待能夠理解語意、提升效率的AI，在面對刻意操作與非正常指令時，反而顯得缺乏判斷能力，只能忠實執行每一道指令，卻無法辨識是否合理。
事實上，這並非速食界AI第一次鬧笑話，過去就有不少網友分享，AI點餐機常會因為背景噪音、顧客口音，或是同時多人講話而「大當機」，甚至有聊天機器人被誘導說出不當言論，或是自動生成系統產出錯誤資訊，這也凸顯出，目前多數AI系統仍處於「高效率工具」階段，而非真正具備理解能力的智慧體。
對企業而言，導入AI固然能降低人力成本、提升服務速度，但若缺乏完善的防呆設計與風險控管機制，當人類惡意測試AI的極限時，若系統沒有設定閾值或防呆機制，極容易被簡單的指令攻破，反而可能帶來更大的營運風險，像此次Taco Bell事件中，如果這筆訂單真的進入實際製作流程，不僅會造成資源浪費，也可能影響其他顧客的服務品質，甚至損害品牌形象。
