我國生成式人工智能領域迎來重要安全進展,科大訊飛星火大模型開放平臺近日通過國家權威安全認證,成為首批獲得《人工智能安全國家標準符合性自評估證書》的企業之一。這一成果標志著我國在AI安全治理方面邁出關鍵步伐,為行業樹立了新的安全標桿。
在標準制定過程中,科大訊飛發揮了重要作用。企業不僅深度參與標準編制,更將自身在安全攻防領域的實踐經驗轉化為技術方案。通過構建多層次安全防護體系,星火大模型實現了從數據預處理到內容輸出的全鏈條保護。該平臺集成數十項創新技術,支持中英文及多模態場景下的實時防護,有效抵御數據污染、模型竊取等新型攻擊手段。
針對AI生成內容的溯源難題,科大訊飛研發的隱式水印技術取得突破性進展。這項技術通過嵌入不可感知的數字標識,為每段生成內容賦予唯一"數字指紋"。實驗數據顯示,該技術可在不影響內容質量的前提下,實現99.7%的準確識別率,為打擊虛假信息、維護網絡空間秩序提供了技術支撐。
面對AI技術快速發展帶來的安全挑戰,科大訊飛持續加大研發投入。企業建立的安全實驗室已形成"攻防演練-漏洞修復-標準迭代"的閉環機制,累計發現并修復安全漏洞超2000個。這種以實踐驅動的安全治理模式,為行業提供了可復制的安全解決方案,推動我國生成式AI安全水平進入國際先進行列。











