英特爾于2024年推出的新一代AI加速器Gaudi 3，目前正以三種硬件形態(tài)進入市場。這款產(chǎn)品包含OAM模塊HL-325L、多卡基板HLB-325以及PCIe加速卡HL-338，但行業(yè)對其市場反響相對平淡。在已公開的合作案例中，僅有IBM宣布將該芯片部署至其云計算平臺。

戴爾科技近日宣布，其PowerEdge XE7740服務(wù)器成為首款集成Gaudi 3 PCIe加速卡的商業(yè)化產(chǎn)品。這款4U雙路至強6"Granite Rapids-SP"服務(wù)器平臺，現(xiàn)已將HL-338加速卡納入可選配置列表。該配置使企業(yè)用戶能夠直接獲取預(yù)裝AI加速能力的服務(wù)器解決方案。

在硬件規(guī)格方面，HL-338加速卡通過功耗優(yōu)化實現(xiàn)了600W的TDP控制，較HL-325L的900W功耗降低三分之一。盡管如此，其核心性能參數(shù)保持穩(wěn)定，仍配備128GB HBM2E高帶寬內(nèi)存，內(nèi)存帶寬維持3.7TB/s不變。這種設(shè)計在保證計算性能的同時，有效提升了能源使用效率。

系統(tǒng)集成層面，XE7740服務(wù)器展現(xiàn)出強大的擴展能力。單臺設(shè)備可安裝8張雙寬規(guī)格的HL-338加速卡，并通過選配兩組四路橋接器組建擴展單元。這種架構(gòu)設(shè)計使單機架的AI計算密度顯著提升，同時確保整體功耗不超過10kW的風(fēng)冷散熱閾值，為現(xiàn)有數(shù)據(jù)中心設(shè)施的升級提供了可行方案。

據(jù)技術(shù)文檔顯示，搭載HL-338的XE7740服務(wù)器在AI模型訓(xùn)練和推理場景中表現(xiàn)突出。其硬件配置特別適合需要大規(guī)模參數(shù)調(diào)整的微調(diào)任務(wù)，以及要求低延遲響應(yīng)的實時推理應(yīng)用。戴爾工程師通過優(yōu)化散熱設(shè)計和電源分配，成功在標準機架空間內(nèi)實現(xiàn)了計算性能與能耗的平衡。