人工智能正步入規模化應用的新紀元,智能體作為集成了環境感知、自主決策及任務執行能力的智能化實體,其形態日益多樣化。然而,伴隨智能體的廣泛應用,相關的安全風險亦逐漸凸顯。
近日,360公司與清華大學攜手發布了全球首份從漏洞角度出發的《智能體安全實踐報告》。該報告通過深度剖析智能體全生命周期中的典型攻擊面及漏洞挖掘研究,揭示了智能體在不同應用場景下的安全風險。借助360安全智能體的高效代碼分析能力和專有特征庫,報告分析了超過20個智能體相關開源項目的漏洞,其中不乏在Github上廣受歡迎的高星級項目。此舉旨在為智能體安全生態的健康發展提供全面視角。
智能體架構中的開發框架,以其模塊化、可擴展性及快速編排能力為核心,極大簡化了智能體的構建與部署流程。然而,框架中的安全隱患卻為攻擊者提供了可乘之機。報告指出,無論是基于本地服務的框架,還是部署在云端的接口,均存在被遠程攻破的風險。本地服務框架往往默認所有請求可信,缺乏身份驗證及數據二次驗證機制,容易成為橫向滲透的目標;而云端接口一旦存在漏洞,則可能對整個業務系統構成威脅。
智能體系統的生態層同樣面臨挑戰。隨著業務復雜度的增加,智能體系統整合了多角色、多工具,導致安全邊界變得模糊。智能體依賴自然語言驅動的特性,使其易受外界干擾。報告中提到,大模型作為智能體的核心感知與決策模塊,其輸出結果對智能體行為具有決定性影響。因此,攻擊者可通過操縱大模型生成惡意或錯誤的響應,間接控制智能體行為。
MCP規范的提出,為大模型與工具之間建立了通用通信框架,極大地拓展了智能體的能力范圍。然而,這也帶來了MCP Server投毒、遠程風險及Client惡意請求等一系列新的安全風險。
為了保障智能體在應用過程中的安全性,沙箱隔離方案應運而生。通過將智能體調用工具的執行環境與真實系統分離,沙箱在保障工具調用安全方面發揮了重要作用。然而,當前主流沙箱在配置上存在精細化不足的問題,無法完全確保隔離效果。同時,沙箱自身的漏洞也可能成為新的攻擊入口,進一步威脅智能體的整體安全。
針對智能體全生命周期中的多維、隱蔽及系統性安全風險,360公司提出了“以模制模”的理念,并打造了首個實現實戰應用的安全智能體——360安全智能體。該智能體為核心的大模型安全解決方案,涵蓋了智鑒、智盾、智搜、智控等多款產品,利用AI技術檢測和防范大模型可能面臨的安全風險,確保AI落地應用的全生命周期安全可控。這一方案不僅解決了傳統網絡安全問題,還為應對AI安全新挑戰提供了有效路徑。
隨著人工智能步入發展新階段,智能體已成為推動產業變革的關鍵力量。在技術與產業融合的關鍵時期,唯有以創新思維重塑安全體系,將“以模制模”理念融入智能體發展的全生命周期,才能確保其安全運行,并充分發揮其在智能化浪潮中的核心作用。