人工智能技術的飛速發展正引領著全球進入規?;瘧玫男录o元,智能體作為這一領域的核心實體,憑借環境感知、自主決策和任務執行等強大功能,展現出多樣化的應用前景。然而,伴隨智能體的廣泛應用,其帶來的安全挑戰也日益凸顯。
近日,360公司與清華大學攜手發布了一份具有開創意義的報告——《智能體安全實踐報告》。該報告從漏洞視角出發,通過對智能體全生命周期中各個場景的典型攻擊面和漏洞挖掘的深入研究,揭示了智能體面臨的多種安全風險。借助360安全智能體的先進代碼分析能力和獨有的特征庫,報告分析了20多個智能體相關開源項目的漏洞,其中不乏在Github上廣受歡迎的高星項目。此舉旨在為智能體安全生態的健康發展提供全面的視角和有力支持。
智能體架構中的開發框架,作為模塊化、可擴展性和快速編排能力的基石,雖然簡化了智能體的構建與部署,但也引入了潛在的安全隱患。報告指出,無論是本地服務還是云端接口,智能體開發框架都存在被遠程攻擊的風險。本地服務框架通常默認信任所有請求,缺乏必要的身份驗證和數據驗證機制,容易成為攻擊者的目標。而云端接口一旦存在漏洞,則可能對整個業務系統的安全構成威脅。
智能體生態的復雜性也加劇了安全風險。隨著業務復雜度的提升,智能體系統整合了多角色、多工具,導致其安全邊界變得模糊。智能體通過自然語言進行交互的特性,使其容易受到外界的干擾和影響。攻擊者可以通過操縱大模型的輸出,生成包含惡意內容或錯誤流程的響應,從而間接控制智能體的行為。同時,隨著MCP規范的提出,智能體接入的工具更加多樣,調用鏈條延長,也帶來了新的安全風險。
為了避免智能體在應用過程中的操作風險,沙箱隔離方案被廣泛應用。然而,主流沙箱雖然能夠快速構建隔離環境,卻缺乏對智能體應用場景的精細化配置,無法完全保障隔離效果。沙箱自身的安全漏洞也可能成為攻擊者的新入口,進一步威脅智能體的安全。
面對智能體全生命周期中的多維、隱蔽和系統性的安全風險,360公司提出了“以模制模”的理念,并打造了首個實現實戰應用的安全智能體——360安全智能體。該智能體為核心的大模型安全解決方案,涵蓋了智鑒、智盾、智搜、智控等多款產品,利用人工智能技術檢測和防范大模型可能遇到的安全風險,確保AI落地應用的全生命周期安全可控。這一方案不僅解決了傳統網絡安全問題,還為應對AI安全新挑戰提供了切實可行的路徑。
隨著人工智能進入發展的新階段,智能體已成為推動產業變革的關鍵力量。在技術與產業融合的關鍵時期,唯有以創新思維重塑安全體系,將“以模制?!崩砟钊谌胫悄荏w發展的全生命周期,才能確保其安全運行,發揮核心作用,推動產業在智能化浪潮中穩健前行。