OpenAI近日宣布為ChatGPT推出兩項全新安全防護機制，以應(yīng)對AI系統(tǒng)在連接外部網(wǎng)絡(luò)和應(yīng)用時面臨的提示注入攻擊威脅。這類攻擊可能被不法分子利用，誘導(dǎo)AI執(zhí)行惡意操作或泄露用戶隱私數(shù)據(jù)。新措施在現(xiàn)有沙箱隔離、URL信息過濾等多層防護體系基礎(chǔ)上，進一步強化了安全管控能力。

首項推出的鎖定模式（Lockdown Mode）專為高安全需求場景設(shè)計，屬于可選的高級配置選項。該模式通過嚴格限制AI與外部系統(tǒng)的交互方式來降低數(shù)據(jù)泄露風(fēng)險，例如將網(wǎng)頁瀏覽功能限制在緩存內(nèi)容范圍內(nèi)，同時禁用所有缺乏安全保障的功能模塊。目前該功能已面向企業(yè)版、教育版、醫(yī)療版及教師版用戶開放，系統(tǒng)管理員可通過工作臺創(chuàng)建特定角色來啟用鎖定模式，并能精細控制允許訪問的外部應(yīng)用及操作權(quán)限。OpenAI透露，消費者版本用戶將在未來幾個月內(nèi)獲得該功能支持，配套的合規(guī)審計平臺可幫助管理員追蹤應(yīng)用使用情況和數(shù)據(jù)流動軌跡。

第二項安全升級是在ChatGPT、ChatGPT Atlas及Codex等產(chǎn)品中，為具有潛在安全風(fēng)險的功能統(tǒng)一添加"風(fēng)險提升"標識。這種標準化的風(fēng)險提示方式旨在幫助用戶更清晰地認知功能特性，特別是在處理敏感數(shù)據(jù)時做出審慎決策。以代碼生成工具Codex為例，當開發(fā)者啟用網(wǎng)絡(luò)訪問功能時，系統(tǒng)會通過醒目標識展示功能變更說明、潛在風(fēng)險及適用場景，同時提供風(fēng)險緩解建議。OpenAI強調(diào)，雖然網(wǎng)絡(luò)相關(guān)功能能顯著提升AI實用性，但某些風(fēng)險尚未被行業(yè)現(xiàn)有防護措施完全覆蓋，透明化的風(fēng)險提示機制有助于建立更可信的人機協(xié)作環(huán)境。

據(jù)技術(shù)文檔披露，鎖定模式實施后，受管控賬戶的外部交互將接受雙重驗證機制：系統(tǒng)不僅會檢查目標應(yīng)用的數(shù)字證書有效性，還會對傳輸數(shù)據(jù)進行動態(tài)加密處理。在風(fēng)險標識系統(tǒng)方面，OpenAI采用三級分類標準，根據(jù)功能對數(shù)據(jù)安全、系統(tǒng)完整性的影響程度進行差異化標注。這些安全增強措施已通過第三方機構(gòu)的安全評估，符合ISO/IEC 27001信息安全管理標準要求。