隨著人工智能大模型的興起,安全防護策略正經歷著前所未有的變革。智能體技術在安全領域的運用日益成熟,為企業應對復雜網絡威脅提供了全新解決方案。
在Fortinet中國區技術總監張略的描述中,安全智能體的引入極大提升了企業安全運維的效率。他提到,借助這一技術,安全人員只需片刻時間,便能識別并解決以往需要數小時甚至更久的網絡安全隱患。然而,張略也強調,盡管智能體提供了高效的分析與預警,最終決策仍需依賴企業安全運營人員的專業判斷。
從行業整體來看,AI對安全領域的重塑已步入深水區。然而,從輔助工具向全自動駕駛級別的智能體轉變,安全行業仍需跨越重重障礙。
根據SUSE的數據統計,隱私與數據安全、以及由AI驅動的網絡攻擊,已成為生成式AI云安全的首要挑戰。僅有少數IT決策者認為不存在相關風險。Gartner的預測則指出,到2025年,生成式AI的廣泛采用將促使企業對網絡安全資源的投入激增,應用與數據安全支出預計將增長15%以上。
AI大模型在提供便利的同時,也為不法分子提供了更為高效的攻擊手段。對此,業界普遍認同的解決方案是以AI對抗AI。安全行業迅速成為首批積極擁抱大模型技術的領域之一,這一轉變也催生了安全行業從產品銷售向服務銷售模式的轉型。
面對日益復雜的安全挑戰,企業級安全理念與產品的迭代速度不斷加快。企業對于網絡安全防護的需求已從簡單的產品堆疊,轉向尋求統一平臺化的解決方案。在這一背景下,安全智能體的出現,開始幫助企業應對日益復雜的安全事件。
張略指出,安全行業應用AI技術已經歷了三個階段。初期,從2010年左右開始,機器學習與深度學習技術初步應用于安全領域,安全產品多以單打獨斗為主。隨后,生成式AI的出現促使AI深度融入攻防全鏈條,形成智能防御體系,但在此前,AI主要起單點輔助作用。第三階段,即當前及未來一段時間內,安全智能體將成為行業重點發展方向,AI技術將成為安全體系的“中樞大腦”,實現安全能力的整合與聯動。
隨著安全局勢的變化,企業逐漸認識到,傳統的安全產品堆疊難以應對復雜的網絡威脅。因此,整合多種安全功能于統一平臺的方案成為企業新需求,旨在增強威脅檢測與響應能力,降低管理復雜度,提升安全運營效率。
張略表示,構建一體化的安全體系已成為關鍵趨勢。在這一趨勢下,如何將安全服務商與IT服務商融合,實現萬物互聯,并以安全為目標的自動化和自主運營,將成為安全行業的重中之重。這一觀點并非Fortinet獨有,一體化安全防護體系已成為安全服務商的共同追求。
安全運營的概念雖已存在多年,但隨著安全智能體的成熟,其內涵已發生深刻變化。安全智能體不僅能快速篩查和解決安全問題,還能幫助企業將人力投資于業務發展。然而,看似簡單的智能體背后,實則涉及復雜的流程。
以服務器告警處理為例,安全智能體通過分析日志發現異常,自動查詢進程并識別可疑IP,通過威脅情報庫進行確認,隨后調查攻擊詳情,找出漏洞,并提供處理建議。安全運營人員根據建議進行操作,最終由智能體解決告警。安全智能體還能進行攻擊溯源,并將其納入知識庫,以防范未來類似事件。
盡管安全智能體前景廣闊,但目前仍面臨專業性和安全性兩大挑戰。大模型的安全性,包括避免幻覺、確保合規、防止倫理問題等,一直是行業難題。同時,大模型也面臨數據安全、網絡安全的挑戰。對于安全行業而言,確保智能體自身的安全及專業性至關重要。
為確保模型訓練數據的安全,行業普遍采用企業內部高質量數據進行監督學習。對于安全行業,安全服務商的安防經驗和實時攻防數據成為核心競爭力。安全智能體需深入理解行業特有風險模式,這需要通過安全服務商的行業經驗來補足。
張略指出,盡管安全智能體在自動化安全防護中表現出色,但最終決策仍需人工確認。目前,生成式AI仍屬統計學范疇,不具備自我糾錯能力,因此人工確認環節至關重要。