在2025年國家網絡安全宣傳周主論壇期間,一項備受行業關注的重要成果正式亮相——《人工智能安全治理框架》2.0版于9月15日面向全球發布。這一版本由國家互聯網應急中心牽頭,聯合國內多家權威科研機構、人工智能領域專業組織及頭部企業共同研制,并獲得國家網信辦的專業指導,旨在為快速演進的人工智能技術構建更完善的安全治理體系。
自2024年9月《人工智能安全治理框架》1.0版推出以來,人工智能技術呈現爆發式發展,其應用場景從智能醫療到自動駕駛,從金融風控到教育創新,不斷突破傳統邊界。然而,技術迭代帶來的數據隱私泄露、算法歧視、模型濫用等風險也日益凸顯。為此,2.0版框架在繼承1.0版核心原則的基礎上,深度融合了近一年來技術發展的新特征與行業實踐的新經驗,重點優化了風險分類體系,并首次提出風險分級管理機制,通過動態評估技術影響,實現治理措施的精準適配。
據國家互聯網應急中心負責人介紹,2.0版框架的制定充分體現了“技術驅動治理,治理反哺技術”的理念。一方面,框架緊跟全球人工智能技術前沿,將生成式人工智能、多模態大模型等新興領域的安全需求納入治理范疇;另一方面,通過建立跨國界、跨領域、跨行業的協同治理機制,推動形成全球共識的安全標準。例如,框架明確提出要構建“技術-倫理-法律”三位一體的治理框架,確保人工智能發展既符合技術創新規律,又堅守人類價值觀底線。
值得注意的是,2.0版框架特別強調了“普惠共享”的治理目標。通過建立開放透明的風險評估平臺,框架鼓勵各國科研機構和企業共享安全治理經驗,推動技術成果的全球流動。同時,框架還設計了多邊合作機制,支持發展中國家提升人工智能安全能力,避免因技術鴻溝導致治理失衡。這一設計得到了國際社會的廣泛認可,被視為推動全球人工智能治理體系變革的重要嘗試。
目前,該框架的完整內容已通過國家網信辦官方渠道對外發布,涵蓋風險識別、評估、處置的全流程指南,以及針對不同應用場景的差異化治理方案。業內專家指出,2.0版框架的推出標志著我國在人工智能安全治理領域從“跟跑”到“并跑”乃至“領跑”的轉變,其系統性和前瞻性為全球提供了可借鑒的“中國方案”。隨著框架的逐步落地,預計將有效降低人工智能技術濫用風險,為構建安全、可信、可控的人工智能生態奠定堅實基礎。