“智能體概念雖火,落地卻困難重重。”如今,幾乎所有企業都在積極探索人工智能技術的實際應用,智能體更是被視為企業AI轉型的關鍵突破口。然而,在推進過程中,企業面臨著諸多阻礙,這些問題如同橫亙在智能化道路上的巨石,嚴重制約著企業的轉型步伐。
浪潮信息首席AI戰略官劉軍在相關交流中指出:“大模型時代,企業面臨的挑戰是多維度的。技術層面的問題首當其沖,數據質量參差不齊、模型適配困難、算力投入巨大,同時還要在成本與效益之間找到精準的平衡點。”這些挑戰,讓企業在智能體落地過程中舉步維艱。
為幫助企業突破智能體落地的困境,在近期舉辦的一場人工智能計算大會上,浪潮信息發布了面向智能體優化的AI計算系統,為企業指明了方向。
隨著模型參數量的急劇增長,企業面臨的壓力與日俱增。劉軍表示:“按照Scaling Law的發展趨勢,模型參數量會持續增大。如何在一臺機器上運行更大參數的模型,是企業必須攻克的難題。”從最初的幾億參數到如今的上萬億參數,模型的復雜度和計算需求呈指數級攀升,這對硬件的計算能力、系統的擴展性和穩定性都提出了前所未有的高要求。
在智能體商業化進程中,能力、速度和成本是決定成敗的三大要素。模型能力隨著大模型的發展不斷提升,但速度和成本問題卻成為企業亟待解決的痛點。劉軍在專訪中提到:“速度越快,客戶體驗就越好,能解決的場景問題也就越多。但速度提升往往伴隨著成本增加,企業需要在兩者之間找到最佳平衡點,才能實現商業化成功。”
在此背景下,企業迫切需要一種全新的計算系統架構來應對挑戰,面向智能體優化的AI計算系統應運而生。浪潮信息推出的元腦SD200超節點AI服務器和元腦HC1000超擴展AI服務器,正是為解決智能體產業化面臨的交互速度和token成本兩大瓶頸而設計,為多智能體協同與復雜任務推理的規模化落地提供了高速度、低成本的算力支撐。
劉軍介紹:“浪潮信息不會盲目追求技術和指標,而是緊密結合產業發展需求,聚焦算力應用中的核心挑戰、痛點和瓶頸,針對性地進行優化和設計,確保產品能有效解決客戶問題。”
在速度方面,浪潮信息通過技術創新,讓智能體響應進入“毫秒級”時代。劉軍將智能體交互比作高速公路上的車輛行駛:“智能體交互通常是小數據包,關鍵不在于道路寬度,而在于上下高速是否順暢。浪潮信息通過技術優化,讓數據直通上下高速,將延遲壓到極致。”
以元腦SD200超節點AI服務器為例,它成功將DeepSeek R1大模型的token生成速度降低至8.9毫秒,引領國內大模型token生成速度進入“10毫秒時代”。為實現極低的通信延遲,元腦SD200采用精簡高效的三層協議棧,原生支持多種內存語義操作,避免冗余數據拷貝,將基礎通信延遲降至百納秒級。同時,硬件化鏈路層重傳與分布式預防式流控進一步適配高吞吐、低延遲的AI推理場景。
在成本方面,浪潮信息通過多種方式實現從“昂貴”到“可承受”的轉變。一方面,將計算過程拆分解耦,提高每一部分資源的利用率,從而大幅節省成本;另一方面,在硬件設計上進行優化,降低能耗,提高計算模塊的效率。
具體到產品架構,元腦HC1000采用全對稱DirectCom極速架構,通過無損超擴展設計,聚合海量本土AI芯片,支持極大推理吞吐量。這種架構不僅提高了計算效率,還顯著降低了硬件成本。在降本和軟硬協同增效方面,浪潮信息創新16卡計算模組設計、單卡“計算 - 顯存 - 互連”均衡設計,大幅降低單卡成本和每卡系統分攤成本。據測算,元腦HC1000通過算網深度協同、全域無損技術,實現推理性能相比傳統RoCE提升1.75倍,單卡模型算力利用率最高提升5.7倍,最終實現了每百萬token成本首次擊破1元。
劉軍強調:“Token成本決定了智能體的盈利能力,只有降低成本,才能實現大規模的商業化應用。”
這兩款產品還針對不同行業的應用場景進行了優化。元腦SD200針對金融和能源等對延遲敏感的行業用戶,能夠快速響應客戶需求,提升客戶體驗;元腦HC1000則能以更低的成本提供更多的Token服務,滿足大規模商業部署的需求。
在數智化時代,智能體已成為企業數字化轉型的核心驅動力。它不僅能提高企業的運營效率,還能創造新的商業模式,幫助企業實現更高效的客戶互動、更精準的市場預測和更智能的決策支持。
浪潮信息通過元腦SD200和元腦HC1000,為醫療、能源等行業提供了強大的算力支持。在醫療行業,元腦SD200的高精度和高安全性計算架構,支持醫療影像分析和疾病診斷,大幅縮短診斷時間,提高醫療服務質量和效率;在能源行業,元腦HC1000的超擴展性和高可靠性,支持大規模的能源管理和優化,實現對能源生產、傳輸和消費的全鏈條智能監控與優化,提高能源利用效率,降低運營成本。
劉軍指出:“未來5年,需要實現單Token成本同等數量級的下降,才能保持Token消耗量增加的相對平衡。這不僅需要技術創新,還需要企業與生態伙伴的緊密合作。”浪潮信息通過開放生態,與上下游伙伴、生態伙伴和客戶緊密合作,共同推動數字化轉型,加速轉型速度,提高轉型成功率。











