AIPress.com.cn報道

1月31日消息，OpenAI 在一篇官方博客中介紹了其 AI 代理在訪問網頁時，如何降低惡意鏈接與提示注入（Prompt Injection）帶來的潛在威脅。

OpenAI 指出，AI 代理在代表用戶執行任務時，往往需要直接控制瀏覽器并與大量外部網站交互，而互聯網中存在的釣魚網站、惡意頁面及數據竊取風險，使代理系統必須具備基礎的安全判斷能力。

在設計上，OpenAI 并未采用僅允許訪問“白名單網站”的方式。公司認為，這種做法雖然安全性較高，但會顯著限制代理的可用性與靈活性。作為替代方案，OpenAI 構建了一套獨立的網絡索引系統，用于記錄已經公開存在于互聯網上的 URL 地址，該索引不依賴任何用戶數據。

根據這一機制，當 AI 代理嘗試訪問的鏈接已被記錄在獨立索引中時，系統將允許其正常打開；若該鏈接未出現在索引內，用戶則會收到提示，需明確授權后才能繼續訪問。OpenAI 表示，這一設計將安全判斷從“是否信任某個網站”轉化為“該具體地址是否以公開方式出現在開放網絡中”。

OpenAI 還提到，網頁可能通過“提示注入”等方式對 AI 模型進行隱蔽操控，誘導其執行非預期操作，例如請求敏感信息或破壞系統安全。公司在此前發布的研究論文中，對此類攻擊方式及其防范手段進行了更為技術化的說明。

OpenAI 強調，上述機制只是多層防護體系中的一環，并不能保證所有網頁內容都是安全的。部分網站仍可能包含社會工程手段或其他惡意設計，AI 代理在當前階段未必能夠完全識別。（AI普瑞斯編譯）