OpenAI近日宣布為旗下AI產品ChatGPT推出兩項重要安全升級，以應對日益嚴峻的“提示注入”攻擊威脅。這類新型攻擊通過構造惡意提示詞，誘導AI系統執行未經授權的操作或泄露敏感信息，尤其在AI與外部應用交互的場景中風險顯著增加。
針對高風險用戶群體，OpenAI推出了“鎖定模式”這一可選高級安全設置。該模式通過確定性禁用部分可能被利用的功能，大幅限制ChatGPT與外部系統的交互方式。例如，網頁瀏覽功能將被限制為僅訪問緩存內容，防止實時數據泄露；部分無法確保數據安全的功能則會被直接禁用。此功能目前面向企業版、教育版、醫療版及教師版用戶開放，管理員可通過創建特定角色在Workspace設置中啟用。
鎖定模式建立在OpenAI現有安全體系之上，包括沙箱隔離、URL數據泄露防護、監測執行機制及企業級訪問控制等。OpenAI強調，該模式并非面向普通用戶，而是為大型組織高管、安全團隊等需要應對高級威脅的群體設計。對于依賴外部應用的關鍵業務場景，管理員可獲得細粒度控制權，精確選擇允許在鎖定模式下使用的應用及操作。
另一項重要升級是引入“Elevated Risk”風險標簽系統。OpenAI承認，AI連接外部應用雖能提升實用性，但部分網絡相關功能會帶來尚未被行業完全解決的新風險。為保障用戶知情權，ChatGPT、ChatGPT Atlas及Codex等產品將對這類功能統一標注風險標簽，并提供詳細使用說明。
以編程助手Codex為例，當開發者授予其網絡訪問權限時，設置界面將顯示“風險提升”標簽，明確說明啟用后的變化、潛在風險及適用場景。OpenAI表示，此舉旨在讓用戶自主決定是否承擔風險使用特定功能，尤其在處理個人隱私數據時保持透明度。
