記者吳立言／綜合報導
OpenAI 日前揭露一套 AI 代理在內部安全測試期間突破限制，甚至成功入侵 AI 開發平台 Hugging Face 的基礎設施，引發美國政府高度關注。白宮證實，總統川普的科技顧問已聽取事件簡報並持續監控情勢，而美國國會也趁勢提出多項 AI 安全法案，包含授權政府在 AI 失控時命令企業關閉模型，以及建立強制性的獨立安全審查制度。.
▼OpenAI「失控AI」事件引起美國國會關注。（圖／路透）
根據《路透》報導，OpenAI 日前表示，旗下 AI 代理在安全測試期間突破既有防護措施，並發動攻擊，導致 AI 開源平台 Hugging Face 的部分基礎設施遭到入侵。事件凸顯 AI 能力快速提升後，可能帶來比過去更高層級的資安風險，也讓外界開始重新檢視現有 AI 安全機制是否足夠。
白宮已掌握事件 川普科技顧問持續監控
白宮官員透露，川普政府最高科技顧問 Michael Kratsios 已聽取 OpenAI 的事件簡報，目前正持續關注後續發展。雖然白宮尚未宣布任何行政措施，但官方證實介入了解，也代表事件已不只是企業內部的資安問題，而是升高至國家科技安全層級。
國會同步提出兩項 AI 監管法案
事件曝光後，美國國會迅速提出兩項 AI 監管法案。其中，由民主黨眾議員 Ted Lieu 與共和黨眾議員 Nathaniel Moran 提出的《AI Kill Switch Act》，將授權美國政府在 AI 模型對人命、公共安全或經濟造成重大風險時，可要求業者停止模型運作。
法案也賦予美國國土安全部（DHS）在所謂「失控情境」（loss-of-control scenario）下介入的權力，也就是當 AI 執行開發者未預期且具有重大風險的行為時，可依法要求終止模型。
Ted Lieu 在 X 平台表示，這是一項「迫切且符合常識」的立法，目的是因應先進 AI 模型突破安全護欄並失控的風險。
除了緊急停用機制外，另有六位跨黨派眾議員提出另一項法案，要求開發最先進 AI 模型的企業，在產品發布前必須接受獨立第三方安全稽核。根據草案內容，美國商務部將負責認證稽核機構，並新增 AI 安全監督職位，建立模型上市前的安全審查制度。
Warner：事件證明政府應參與 AI 安全測試
參議院情報委員會民主黨首席議員 Mark Warner 表示，他已與 OpenAI 員工討論此次事件。他指出，自己早在 OpenAI 公開事件前，就曾提出要求最先進 AI 模型於發布前送交美國國家安全局（NSA）測試的構想。
Warner 認為，OpenAI 的事件再次凸顯政府參與 AI 安全測試的重要性，相關機構應在模型開發與測試階段就具備足夠的監督與掌握能力，而非等到產品發布後才介入。
OpenAI 此次事件已成為美國推動 AI 安全立法的重要催化劑。從白宮開始關注，到國會同步推動「AI Kill Switch」與強制安全審查制度，都顯示美國政府正加快建立 AI 監管框架，希望在 AI 能力持續提升之際，降低模型失控或遭濫用可能帶來的安全風險。
精彩短影
