近期，新華三集團，紫光股份旗下的一員大將，攜手NVIDIA，共同揭曉了一項革新性的技術集成方案。該方案基于NVIDIA AI數(shù)據(jù)平臺參考設計，旨在構建一個更加智能化、靈活且安全的大數(shù)據(jù)處理架構，為AI推理場景帶來前所未有的效能提升。

在AI技術日新月異的今天，用戶對AI服務的即時響應需求愈發(fā)迫切。同時，AI推理若未能基于最新數(shù)據(jù)，便可能導致信息失真、邏輯混亂，極大影響其可信度和實用性。新華三此次推出的AI數(shù)據(jù)平臺解決方案，成功跨越了“算力”與“存力”之間的鴻溝，實現(xiàn)了從硬件底層到AI應用上層的全鏈路數(shù)據(jù)加速流通。這一突破不僅極大提升了AI推理的實時性、相關性和精確度，還顯著優(yōu)化了整體運行效率，為真實場景中的大模型應用帶來了更快的響應速度和更佳的用戶體驗。

新華三的AI數(shù)據(jù)平臺解決方案，是軟硬件深度協(xié)同的典范。它融合了新華三與NVIDIA的頂尖技術，打造了一個存算網高度集成的智能數(shù)據(jù)平臺。通過上層軟件平臺的協(xié)同優(yōu)化，為AI基礎設施注入了強大的動力，使得AI大模型的推理能力得到了顯著提升。

該方案集成了NVIDIA Spectrum-X AI以太網網絡平臺，包括高性能以太網交換機、BlueField-3 DPU數(shù)據(jù)處理器以及ConnectX SuperNIC，將普通以太網的帶寬利用率大幅提升至97%以上，有效應對流量高峰，確保存儲與計算節(jié)點間的高速連接。BlueField-3 DPU與新華三的Polaris X20000存儲系統(tǒng)完美融合，支持多項先進技術，如NVMe over Fabrics和NVIDIA GPU-Direct Storage，實現(xiàn)了存儲的卸載與加速，進一步提升了存儲性能并降低了能耗。

新華三的Polaris X20000系列存儲系統(tǒng)，專為AI智算場景設計，搭載了全新自研存儲引擎，能夠滿足AI/HPC場景下海量數(shù)據(jù)處理的高性能需求。其單節(jié)點即可實現(xiàn)120GB/s帶寬和200萬IOPS，集群性能更是近線性增長，完美契合AI大模型訓練中海量小文件高并發(fā)和百TB級帶寬的需求。同時，該系統(tǒng)將多種存儲協(xié)議集成于統(tǒng)一平臺，實現(xiàn)了數(shù)據(jù)采集、模型訓練到分發(fā)全流程的數(shù)據(jù)零遷移。其卓越的可靠性，如毫秒級故障上報與秒級切換，確保了訓練任務的不中斷，為企業(yè)提供了穩(wěn)定、高效的存儲支持。

在軟件層面，該方案同樣表現(xiàn)出色。在AI-Q NVIDIA Blueprint的加持下，代理式系統(tǒng)能夠無縫連接至Polaris X20000高性能數(shù)據(jù)存儲平臺。AI-Q利用NVIDIA NeMo Retriever加速數(shù)據(jù)的提取與檢索，這款軟件能夠高效處理海量結構化、半結構化及非結構化數(shù)據(jù)，如文本、PDF、圖像、視頻等，從而顯著提升了RAG（檢索增強生成）應用的響應速度。同時，NVIDIA NeMo Guardrails確保了推理問答交互的安全性、準確性和主題相關性。而新華三自主研發(fā)的靈犀使能平臺（LinSeer Hub）則作為上層管理平臺，提供了強大的AI智能體和推理引擎功能。

通過軟硬件的深度整合，新華三的AI數(shù)據(jù)平臺解決方案在提升大模型推理性能與Token處理速度方面取得了顯著成效。這一方案為企業(yè)提供了實時的數(shù)據(jù)洞察能力，助力其業(yè)務場景的智能化升級。隨著AI大模型的蓬勃發(fā)展，數(shù)據(jù)已成為AI生產力的核心。新華三作為存儲領域的佼佼者，憑借Polaris X20000系列的卓越性能和靈活性，進一步增強了AI數(shù)據(jù)平臺的能力。而NVIDIA則通過其硬件加速和軟件能力，充分釋放了Polaris存儲硬件的潛力，幫助新華三實現(xiàn)了從“數(shù)據(jù)倉庫”到“智能數(shù)據(jù)平臺”的華麗轉身，構建了完整的AI數(shù)據(jù)閉環(huán)和高效AI基礎設施。