近年來,我國在人工智能技術領域的進展顯著,多款新發布的大模型已達到國際頂尖水平,與此同時,AI芯片企業也積極行動,致力于與各大國產大模型進行適配,共同推動智能計算產業生態的構建。作為國家級的技術驗證平臺,中國信息通信研究院通過“人工智能芯片測試評估公共服務平臺”,建立了AI芯片與大模型協同適配的標準化體系,為產業鏈上下游的深度合作提供了重要支撐,并積極開展適配驗證工作,通過一系列措施促進了AI芯片與大模型的協同發展。
中國信息通信研究院近期宣布,摩爾線程自主研發的訓推一體計算卡MTT S4000與杭州深度求索人工智能基礎技術研究有限公司研發的DeepSeek-R1 671B大模型,在推理場景下的適配結果已經滿足“AI芯片和大模型通過性適配要求”,成功通過中國信通院的《AI芯片和大模型適配能力通過性評測軟硬件環境及測試細則》推理場景驗證。摩爾線程MTT S4000不僅運行穩定,滿足推理使用需求,還獲得了相應的檢測證書。目前,摩爾線程系列訓推一體計算卡正在進一步優化性適配驗證,相關結果將在后續公布。
MTT S4000是基于摩爾線程的全功能GPU架構設計的,是專為大模型打造的訓推一體通用計算卡。它支持多種計算精度,包括FP64、FP32、TF32、FP16、BF16和INT8,并配備了48GB的高性能顯存。憑借摩爾線程自研的MTLink1.0技術,MTT S4000可以實現多卡互聯及千卡集群部署,為千億參數大模型的訓練、微調和推理提供強大的算力支持。MTT S4000還具備先進的圖形渲染、視頻編解碼和超高清8K HDR顯示能力,能夠滿足人工智能、科學計算、多媒體處理等復合場景的需求。
摩爾線程能夠迅速完成DeepSeek R1-671B大模型的適配驗證,主要得益于其完善的MUSA生態軟件棧和高效的開發實踐。這包括vLLM_MUSA推理框架、MUTLASS、Triton-MUSA等,這些技術優勢不僅展示了MUSA軟件棧的高效適配能力,還使其整體性能達到了行業主流水平。這也進一步證明了摩爾線程在國產GPU技術創新和生態建設方面的強大實力。
最近,摩爾線程還推出了搭載MTT S4000的MCCX DeepSeek大模型一體機。這款產品深度融合了國產全功能GPU、深度優化的高性能推理引擎和軟件棧,全面支持從蒸餾版到671B參數全量版的DeepSeek模型部署需求。它可以靈活適配廣泛的行業、場景和應用,通過摩爾線程的自主技術鏈,實現開箱即用、安全可控的一站式大模型服務。這不僅為政企客戶提供了高效易用的國產化AI基礎設施,還顯著降低了大模型的應用門檻。