戴爾公司近期在其先進(jìn)的AI工廠中正式揭曉了一款創(chuàng)新性的AI平臺,該平臺深度融合了英特爾最新推出的Gaudi3 AI加速器技術(shù),致力于為企業(yè)用戶簡化AI技術(shù)的采納、集成及擴(kuò)展流程。這一全面經(jīng)過驗證的端到端解決方案,將英特爾Gaudi3硬件的強(qiáng)大性能、開源軟件的靈活便捷,以及戴爾在企業(yè)級基礎(chǔ)設(shè)施領(lǐng)域的深厚積淀完美結(jié)合,為各行各業(yè)的企業(yè)提供了加速AI轉(zhuǎn)型的高效路徑。
英特爾數(shù)據(jù)中心AI戰(zhàn)略與產(chǎn)品管理部門的副總裁Saurabh Kulkarni表示:“與戴爾的攜手合作,成功地將英特爾Gaudi3的卓越性能融入到了企業(yè)級的整合解決方案之中。這一平臺不僅完美適配了現(xiàn)代AI的多樣化需求,從大型語言模型到邊緣推理應(yīng)用均游刃有余,同時還為企業(yè)用戶提供了所需的靈活性與開放性。”
對于眾多企業(yè)而言,AI部署常常需要在高性能、可擴(kuò)展性、靈活性以及成本效益之間尋求微妙的平衡。戴爾此次推出的AI平臺恰好直擊這一痛點(diǎn),其內(nèi)置的Gaudi3加速器在性價比方面相較于Nvidia H100展現(xiàn)出了70%的優(yōu)勢,特別是在Llama380B模型推理任務(wù)上的表現(xiàn)尤為突出。該平臺的可擴(kuò)展架構(gòu)設(shè)計能夠隨著企業(yè)需求的不斷變化而靈活調(diào)整,確保IT團(tuán)隊在滿足日益增長的業(yè)務(wù)需求時不會犧牲靈活性。
在支持AI工作負(fù)載方面,戴爾AI平臺的核心是精心優(yōu)化的PowerEdge XE9680服務(wù)器。這款服務(wù)器配備了八個英特爾Gaudi3加速器、高達(dá)128GB的高帶寬內(nèi)存(HBM)以及每秒3.7TB的驚人帶寬,特別適合于處理大型語言模型和計算機(jī)視覺等復(fù)雜任務(wù)。同時,它還搭載了第五代英特爾Xeon處理器,最多可支持64個核心,提供了強(qiáng)大的復(fù)雜計算能力。
為了進(jìn)一步提升開發(fā)者的工作效率,該平臺還集成了經(jīng)過預(yù)先驗證的開源軟件棧,全面支持PyTorch、Hugging Face等熱門框架,并引入了Kubernetes以實現(xiàn)資源的靈活調(diào)度和編排。戴爾企業(yè)中心還提供了一系列針對英特爾Gaudi3優(yōu)化的模型,助力開發(fā)者快速實現(xiàn)應(yīng)用部署。
戴爾Omnia作為一款高性能集群管理的開源工具,能夠動態(tài)分配資源,使IT團(tuán)隊和開發(fā)者能夠迅速適應(yīng)并優(yōu)化不斷變化的工作負(fù)載。通過與多種工具和框架的無縫集成,這一平臺為企業(yè)用戶提供了可靠性與靈活性的雙重保障。
如果您對英特爾Gaudi3 AI加速器的更多功能感興趣,歡迎在2025年5月19日至22日舉辦的戴爾科技世界大會上,親臨英特爾展位654或戴爾展位833進(jìn)行參觀和體驗。