人工智能技術的飛速發展,正引領著全球進入規模化應用的新紀元。智能體,這一集環境感知、自主決策、任務執行于一身的智能化實體,正展現出多樣化的應用前景。然而,與之俱來的安全風險亦日益凸顯,成為不容忽視的問題。
近日,360公司與清華大學攜手發布了全球首份從漏洞視角審視的智能體安全實踐報告。該報告通過對智能體全生命周期中各個場景的典型攻擊面進行梳理,并結合漏洞挖掘研究,深入剖析了潛在的安全風險。借助360安全智能體的高效代碼分析能力及專有特征庫,報告揭示了20多個智能體相關開源項目中的漏洞,其中不乏GitHub上備受歡迎的高星項目。此舉旨在為智能體安全生態的健康發展提供綜合性視角和有力支持。
智能體架構的構建往往依賴于模型、工具、編排三大核心組件,而開發框架則以其模塊化、可擴展性及快速編排能力簡化了智能體的構建與部署流程。然而,框架中的潛在安全問題也為攻擊者提供了可乘之機,使其可能成為網絡攻擊的“幫兇”。無論是基于本地服務的框架,還是部署在云端的接口,均存在被遠程攻破的風險。本地服務框架因缺乏身份驗證和二次驗證機制,易成為橫向滲透的目標;而云端接口一旦存在漏洞,則可能對整個業務系統構成威脅。
隨著業務復雜度的增加,智能體系統整合了多角色、多工具,導致其安全邊界愈發模糊。智能體通過自然語言進行交互的特性,使其易受外界干擾。在智能體系統中,大模型作為核心感知與決策模塊,其輸出結果在很大程度上決定了智能體的行為。因此,攻擊者可通過操縱大模型生成包含惡意內容或錯誤流程的響應,間接影響智能體的行為。隨著MCP規范的提出,智能體接入的工具愈發多樣,調用鏈條延長,隨之而來的安全風險也愈發復雜。
為了降低智能體在應用過程中的操作風險,通常采用沙箱隔離方案。然而,當前主流沙箱雖能快速構建隔離環境,卻缺乏對智能體應用場景的精細化配置,無法完全保障隔離效果。沙箱自身的安全漏洞也可能成為新的攻擊入口,進一步加劇智能體的安全風險。
面對智能體全生命周期中的多維、隱蔽、系統性安全風險,360公司提出了“以模制模”的理念,并打造了首個實現實戰應用的安全智能體——360安全智能體。該智能體為核心的大模型安全解決方案,涵蓋了智鑒、智盾、智搜、智控等多款產品,利用AI技術檢測和防范大模型可能面臨的安全風險,確保AI落地應用的全生命周期安全可控。這一方案不僅解決了傳統網絡安全問題,還為應對AI安全新挑戰提供了可行路徑。