AIPress.com.cn報道
3月17日消息,隨著企業(yè)開始在業(yè)務系統(tǒng)中部署自主 AI 代理(Autonomous Agents),如何在提升自動化能力的同時確保安全與治理,正成為關(guān)鍵問題。近日,NVIDIA與Cisco發(fā)布聯(lián)合技術(shù)方案,通過開源代理運行時OpenShell與AI Defense安全平臺,為企業(yè)級 AI 代理提供基礎(chǔ)設(shè)施級的安全與驗證能力。
在這一架構(gòu)中,NVIDIA 推出的OpenShell是一個面向長期運行 AI 代理的開源運行時環(huán)境。該系統(tǒng)通過沙箱隔離、細粒度策略引擎以及隱私路由等機制,為代理提供基礎(chǔ)設(shè)施層面的安全邊界。例如,每個代理運行在獨立沙箱中,默認沒有任何權(quán)限,所有訪問都必須通過策略授權(quán);同時,代理調(diào)用外部工具或服務時也會受到網(wǎng)絡(luò)策略過濾,未經(jīng)驗證的軟件包會被阻止訪問。隱私路由機制可以在調(diào)用云端模型時對敏感信息進行匿名化處理,從而保護企業(yè)數(shù)據(jù)。
與此對應,Cisco 的AI Defense則提供行為驗證與安全審計能力,確保代理在運行過程中始終符合既定策略。系統(tǒng)會持續(xù)記錄代理的推理步驟、工具調(diào)用以及決策過程,并對 AI 技能(Skills)及 MCP 服務進行供應鏈安全審查,只有經(jīng)過驗證的工具才能被代理調(diào)用。兩者結(jié)合形成分層安全結(jié)構(gòu):OpenShell 限制代理“能做什么”,而 AI Defense 則驗證代理“實際做了什么”。
文章以一個企業(yè)安全場景進行了說明:當新的零日漏洞通告發(fā)布時,企業(yè)內(nèi)部的 AI 代理可以自動解析安全公告,并結(jié)合實時網(wǎng)絡(luò)知識圖譜識別受影響設(shè)備。這些知識圖譜由持續(xù)運行的上下文代理構(gòu)建,其中記錄了網(wǎng)絡(luò)設(shè)備配置、軟件版本以及依賴關(guān)系等信息,使系統(tǒng)能夠在漏洞披露后迅速定位風險。
在此基礎(chǔ)上,安全運營代理會自動執(zhí)行多個分析步驟,包括解析漏洞觸發(fā)條件、查詢知識圖譜匹配設(shè)備、評估潛在影響范圍,并生成按風險優(yōu)先級排序的修復方案。整個推理與分析流程均在 OpenShell 沙箱環(huán)境中執(zhí)行,確保代理無法越權(quán)訪問系統(tǒng)資源。
在執(zhí)行修復流程時,AI Defense 會進一步對代理調(diào)用的工具進行實時檢測。例如,當代理通過企業(yè)工單系統(tǒng)提交修復任務時,AI Defense 網(wǎng)關(guān)會檢查 MCP 調(diào)用請求。如果發(fā)現(xiàn)異常行為,例如試圖通過提示注入竊取設(shè)備配置數(shù)據(jù),系統(tǒng)會立即阻斷請求、記錄安全事件,并保證敏感數(shù)據(jù)不會離開企業(yè)環(huán)境。
通過這種機制,企業(yè)不僅可以獲得自動生成的漏洞影響設(shè)備列表和修復計劃,還可以獲得完整的審計記錄,包括代理的推理路徑、工具調(diào)用以及決策過程。
NVIDIA 與 Cisco 表示,這種架構(gòu)的目標是讓企業(yè) AI 系統(tǒng)擺脫“黑盒”狀態(tài),使組織能夠精確驗證 AI 代理在做什么以及為什么這樣做,從而在確保安全與合規(guī)的前提下推動 AI 自動化規(guī)模化落地。(AI普瑞斯編譯)





