國際權威機構IDC最新發布的《中國智算基礎設施服務市場(2024下半年)跟蹤》報告顯示,2024年中國智算基礎設施服務市場迎來爆發式增長,整體規模達124.1億元,同比增長57.7%。其中,百度智能云憑借GPU云服務的卓越表現,以及“基礎設施+平臺+場景”的閉環能力,正推動智算服務向產業化落地深化。在同步發布的《中國智算專業服務市場報告》中,百度智能云在解決方案實施服務市場中穩居行業第一。
IDC報告顯示,2025年,DeepSeek的快速出圈,創造了新的市場機遇,百度智能云不僅提供基礎設施交付、并通過 “規劃 - 建設 - 運營 - 生態” 的閉環能力,賦能智算中心全鏈路價值,同時,依托在AI領域的先發優勢,百度智能云在模型與行業AI場景方面處于領先地位。
硬核技術驅動高速增長
算力需求持續釋放,推動GenAI IaaS服務市場占比不斷提升。其中GenAI IaaS市場持續快速迭代,頭部格局加速收斂。百度智能云通過 “國產芯昆侖芯+百舸GPU算力平臺”的軟硬一體技術體系,為AI大模型訓練與推理提供高性能、高性價比的算力解決方案:
(1)昆侖芯超節點,訓推性能跨越式提升:通過硬件架構創新,昆侖芯超節點突破傳統單機8卡產品形態,超高密度設計使得單柜可容納32/64張昆侖芯AI加速卡。單柜內卡間實現全互聯通信,帶寬提升高達8倍,一個機柜的算力最高可達到傳統形態下8臺8卡服務器,實現對MoE大模型單節點訓練性能5-10倍、單卡推理效率13倍的大幅提升。
(2)百舸GPU算力平臺,極致的訓推加速優化:百舸平臺通過在各個層面的優化,在各種維度的指標上做到了業界領先水平。在萬卡任務上,百舸平臺可以保障有效訓練時長占比達到99.5%。在推理加速的極致優化上,百舸平臺基于大規模PD分離式推理系統以及多專家并行機制,支撐千帆平臺為40萬客戶提供服務。上線以來,千帆的推理吞吐提升了20倍,推理速度提升了50%以上。
這一獨特的技術優勢也助力百度智能云成功突破頭部科技企業及中腰部客戶市場,推動GenAI IaaS業務實現跨越式增長。
響應市場變革,引領“訓推拐點”
隨著DeepSeek等開源模型引爆企業級推理需求,2025年AI算力正從訓練主導轉向推理驅動。百度智能云也已完成率先布局:
(1)在算力層面,目前百度智能云成功點亮了昆侖芯P800三萬卡集群,也基于百舸GPU算力平臺適配了國產化P800芯片,來提供整個模型推理服務,為DeepSeek等開源模型提供優質且適配性強的環境,使模型發揮出更高的性能。以DeepSeek R1滿血版為例,百舸+昆侖芯的方案,對推理吞吐和時延等關鍵指標做了優化,單卡吞吐性能相比國內主流芯片方案可以高出90%;在大規模高并發場景下,模型推理速度可以提升40%以上。
(2)在平臺層面,針對DeepSeek等開源模型進行了極致的性能優化,比如通過高效的PD分離式推理架構,實現模型吞吐的大幅度提升,進而顯著降低模型推理成本。同時,針對有進一步應用需求的企業,千帆大模型平臺提供基于模型開發工具鏈進行一鍵部署、蒸餾這樣的能力,能讓企業客戶更好的將模型用起來,完成特定模型需求的再開發,帶來增益賦能。
(3)在應用層面,百度智能云也推出了“精選行業場景智能體家族”,包括營銷供電方案智能體、公路應急指揮智能體、座艙大模型智能體、智慧就醫智能體、生態環境監測智能體等,積極探索大模型在智能問數、公文寫作、理財助手、合規管理、醫療輔診等行業垂直業務場景中的能力拓展與應用進化。
智算未來,生態共贏
智算基礎設施服務市場增長超預期,GenAI IaaS市場已突破百億規模且預計2029年將突破千億規模。現階段來看,規模化不再成為模型性能提升的唯一出路,硬件迭代改進,底層算法調優,強化學習優化等技術突破也與算力擴張協同驅動模型發展,百度智能云也將持續推進GPU云戰略,實現國產芯片與智算基礎設施平臺協同發展,為人工智能產業提供高效算力支撐。
