▲OpenAI推出ChatGPT鎖定模式。（圖／OpenAI）
記者吳立言／綜合報導
隨著 AI 開始能瀏覽網頁、連接公司內部系統，安全風險也跟著提高。OpenAI 宣布，為 ChatGPT 新增「鎖定模式（Lockdown Mode）」與「Elevated Risk」風險標籤兩項機制，目的是降低一種新型攻擊手法「提示注入」所帶來的風險。
聚焦提示注入風險
OpenAI 指出，所謂提示注入，是指第三方在網頁或外部內容中植入惡意指令，誘導 AI 系統誤判為合法需求，進而執行不當操作或洩露敏感資訊。隨著AI工具可直接存取網路與企業應用，此類攻擊手法的重要性正快速提升。
公司表示，新措施建立在既有多層防護架構之上，包括沙箱機制、防堵基於 URL 的資料外洩、系統監測與執行機制，以及企業版既有的角色權限控管與審計日誌功能。
鎖定模式限制外部互動
鎖定模式為一項可選的進階安全設定，主要面向高度重視資安的企業高階主管與安全團隊。啟用後，系統將以確定性方式停用部分可能被濫用的工具與能力，藉此降低資料遭外部攻擊者利用的風險。
在該模式下，ChatGPT 的網頁瀏覽功能僅能讀取已快取內容，不會發出即時對外網路請求。若某些功能無法提供明確資料安全保證，則會在鎖定模式下完全停用。OpenAI 強調，此設定並非為所有用戶設計，多數使用者無需啟用。
目前鎖定模式適用於 ChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare 與 ChatGPT for Teachers，管理者可透過 Workspace 角色設定啟用，並可進一步細部控管哪些應用與操作在鎖定情境下仍可使用。
統一標示高風險能力
除鎖定模式外，OpenAI 也在 ChatGPT、ChatGPT Atlas 與 Codex 中導入「Elevated Risk」標籤，標示可能帶來額外風險的既有功能。
以Codex為例，若開發者授權系統進行網路存取，相關設定頁面將顯示風險提示，並清楚說明啟用後的變化與潛在影響。OpenAI表示，此舉目的在於提升風險透明度，讓使用者在處理私密資料時能自行評估是否開啟相關能力。
強化企業監管能力
OpenAI 並指出，Workspace管理者仍可透過更細緻的應用權限設定控管風險。此外，Compliance API Logs Platform可提供應用使用紀錄、資料共享情況與連線來源資訊，協助企業維持審計與監督能力。
公司表示，未來數月內將評估把鎖定模式擴展至一般消費者版本。隨著生成式AI持續深入企業運作核心，如何在功能擴展與風險控管之間取得平衡，已成為產業發展的重要課題。
