近期，一項來自Gartner的預測揭示了代理型人工智能（AI）市場即將迎來的新變革。據(jù)預測，至2030年，守護代理（Guardian Agent）技術有望占據(jù)該市場10%至15%的份額，這一技術專為構建可信、安全的AI交互而設計。
守護代理技術涵蓋了多種AI助手，它們能夠協(xié)助用戶進行內容審核、監(jiān)控、分析等任務。同時，也包括了能夠不斷進化的半自主或全自主代理，這些代理能夠根據(jù)預設目標制定并執(zhí)行行動計劃，甚至具備調整或阻止行動的能力。
隨著AI應用的日益普及，守護代理將承擔起管理各類交互和異常情況的重任。Gartner預計，到2028年，70%的AI應用程序將采用多代理系統(tǒng)，這將極大地推動守護代理技術的集成需求。
在一項針對147位首席信息官（CIO）和IT部門領導者的調查中，Gartner發(fā)現(xiàn)，已有24%的受訪者部署了少量AI代理（少于12個），另有4%的受訪者部署了超過12個AI代理。50%的受訪者表示正在研究和實驗該技術，而17%的受訪者雖尚未開展相關工作，但計劃在未來幾年內部署。
自動化信任、風險和安全控制措施是確保AI代理一致、安全運行的關鍵。調查結果顯示，這些因素正推動對守護代理技術的需求和增長。Gartner杰出研究副總裁Avivah Litan指出，缺乏適當?shù)姆雷o措施，代理型AI可能導致意想不到的結果。守護代理技術通過監(jiān)視和管理全部代理功能，實現(xiàn)了運行時決策與風險管理之間的平衡。
在受訪者中，52%的人表示其AI代理當前或未來將主要關注IT、人力資源、會計等內部行政職能相關的用例，而23%的受訪者則表示其AI代理將側重于面向外部客戶的職能。
Litan強調，AI代理的快速發(fā)展及其自主性的提升使得傳統(tǒng)的人類監(jiān)督模式已不足以應對。隨著企業(yè)轉向復雜的多代理系統(tǒng)，并且這些系統(tǒng)的通信速度驚人，人類已難以跟上錯誤和惡意活動的步伐。鑒于這一日益嚴峻的威脅形勢，企業(yè)迫切需要守護代理技術對AI應用和代理進行自動監(jiān)視、控制，并提供安全保障。
