▲紐約市官方AI聊天機器人已被關閉。（圖／取自官網）
記者楊智雯／綜合報導
AI竟然也會「知法犯法」？紐約市政府為了推動數位轉型，開發官方AI助手「MyCity」，原本標榜是創業者的最強神助攻，沒想到卻接連發被抓包發生錯誤，甚至在回答諮詢時提供違反法律的建議，這款機器人不僅淡定教導老闆「可以合法沒收員工小費」，還建議房東可以針對特定族群篩選租客，離譜行徑讓紐約市民集體炸鍋，而到了2026年，這場爭議最終迎來結局，紐約市長馬姆達尼上任後，直接點名這套系統「功能上根本無法使用」，正式結束測試並關閉服務。
根據外媒報導，這款由微軟技術支援的「MyCity」聊天機器人，是紐約市政府在前市長亞當斯任內推動的AI計畫之一，於2023年底上線，採用微軟Azure人工智慧技術，原意是整合市府公開資訊，讓小商家能更快理解開店、雇用、支付與營運相關規範。紐約市政府當時也曾公開表示，這項服務仍處於beta測試階段，未來還會持續擴充功能，根據外媒報導，該系統開發成本超過60萬美元，後續每年維運費用約50萬美元。
不過，真正讓MyCity聲名大噪的，不是它有多便利，而是它回答得有多離譜。《The Markup》2024年調查指出，當使用者詢問「我可以從員工小費裡抽成嗎？」時，MyCity竟回覆「可以」，與勞動法規明顯相牴觸，當被問到房東是否能拒絕持政府租金補助的租客時，它也給出錯誤答案，甚至在「商店可否拒收現金」這部分誤導商家說可以，但紐約市早在2020年就已禁止商家拒收現金，以免歧視無銀行帳戶的消費者。
更尷尬的是，這款AI並非完全查不到法條，而是常常前面引述正確資訊，後面卻得出完全錯誤的結論。也就是說，它最大的問題不是「不知道」，而是看似很懂，卻在法律判讀上嚴重失準。對仰賴官方平台尋求協助的小企業主來說，這類錯誤不只是誤導，一旦照做，還可能直接踩法規紅線，面臨罰款、申訴，甚至官司風險。
到了2026年，MyCity不僅沒能洗刷爭議，反而成為紐約市檢討預算浪費的象徵之一，馬姆達尼直言，前朝留下的AI聊天機器人「功能上根本無法使用」，卻還持續耗費公帑，在市府面臨龐大預算缺口之際，這類高成本、低效益、又可能誤導民眾的數位工具，自然成了優先刪除目標，如今MyCity原本的頁面也已改成簡短公告，明確寫著「聊天機器人beta測試已結束」，並引導民眾改回NYC.gov查詢官方資訊。
