NVIDIA首席執行官黃仁勛在臺北電腦展上發表重要演講,正式揭曉了一款面向企業級及工業級AI計算領域的重磅產品——RTX PRO服務器。這款服務器的推出,標志著NVIDIA在高性能計算領域邁出了嶄新的一步。
RTX PRO服務器內置了八塊最新的RTX PRO 6000 Blackwell服務器版專業顯卡,每一塊顯卡都具備驚人的24064個CUDA核心,并搭載了512位寬的96GB GDDR7顯存。這樣的配置,使得RTX PRO服務器的總CUDA核心數逼近20萬大關,而顯存容量更是高達800GB,顯存帶寬也達到了令人咋舌的13TB/s。
在顯卡的連接方面,RTX PRO服務器采用了ConnectX-8 SuperNIC Switch,實現了八塊顯卡之間的全向800GB/s帶寬連接,確保了數據傳輸的極致流暢。然而,如此強大的性能也帶來了不小的功耗挑戰,單塊顯卡的功耗就達到了600W,整機功耗更是預計超過5000W。
盡管功耗較高,但RTX PRO服務器的性能表現卻足以令人震撼。在FP4數據格式下,其AI性能高達每秒3億億次(30PFlops),而圖形渲染性能也達到了每秒3千萬億次(3PFlops)。這樣的性能水平,使得RTX PRO服務器能夠輕松應對各種高性能AI大模型的運行需求,為企業和工業界提供前所未有的計算能力。
NVIDIA的RTX PRO服務器還吸引了眾多OEM和ODM合作伙伴的關注,包括思科、戴爾、慧與、聯想等知名企業。這些合作伙伴將基于RTX PRO服務器推出各自的產品,進一步拓寬其應用場景和市場覆蓋。
在演講現場,黃仁勛還展示了來自華擎和微星的RTX PRO服務器樣機,這些樣機的亮相不僅展示了RTX PRO服務器的實際應用潛力,也為其未來的市場推廣奠定了堅實的基礎。