從一鍵修圖的智能工具到自動駕駛的交通革新，從復雜問題的即時解答到醫療診斷的精準輔助，人工智能（AI）已不再是科幻作品中的設想，而是深度融入社會生產生活的各個領域，重塑著人類與數字世界的交互模式。然而，技術進步的另一面，AI濫用問題也日益凸顯：部分用戶利用AI生成虛假“賣慘”視頻博取流量，某品牌廣告因AI設計失誤出現“花生長在樹上”的常識錯誤，這些現象不僅擾亂網絡秩序，更潛藏信息污染、認知誤導等風險，對網絡安全構成嚴峻挑戰。
如何為快速發展的AI技術劃定安全邊界？在2025年國家網絡安全宣傳周主論壇上，《人工智能安全治理框架》2.0版正式發布。該框架首次提出AI安全風險的分級評估原則，明確高、中、低風險場景的判定標準，并制定可信AI技術的基本準則，涵蓋數據隱私保護、算法透明性、結果可追溯性等核心要素。同時，框架從技術防御、法律監管、行業自律三個維度提出綜合治理方案，旨在為AI應用構建“預防-監測-處置”的全鏈條安全體系，確保技術發展既高效又可控。
本屆宣傳周以“網絡安全為人民，網絡安全靠人民——以高水平安全守護高質量發展”為主題，強調技術進步需以責任為前提。專家指出，AI的便捷性不應成為忽視安全的借口，從內容生成到決策支持，每一環節都需遵循客觀規律與專業知識。例如，醫療AI若缺乏臨床驗證，可能誤導診斷；金融AI若算法存在偏見，可能加劇不公平。因此，動態調整治理策略、構建安全可信的AI生態，成為此次宣傳周的核心議題。
安全防護網的織密，離不開多方協同。宣傳周期間，《人工智能安全行業自律倡議》由60余家機構聯合發布，涵蓋科研院所、互聯網企業、安全廠商等，形成覆蓋產業鏈上下游的治理合力。倡議明確將安全視為AI發展的生命線，提出建立數據安全共享機制、開展算法倫理審查、推動安全技術標準互認等具體措施，旨在通過行業自律填補監管空白，為全球AI治理提供“中國方案”。
開幕式上，12387網絡安全事件報告平臺正式上線。該平臺集舉報、處置、反饋于一體，鼓勵公眾參與網絡空間治理，形成“技術防御+法律約束+社會監督”的立體防護體系。專家表示，AI的健康發展需要每個人的參與：從抵制虛假信息到遵守技術倫理，從反饋安全漏洞到推動行業自律，只有全社會形成合力，才能確保AI真正成為賦能社會進步的工具，而非風險源頭。
