近日,京東云城市大會在上海順利舉行,會上發布JoyAgent智能體2.0、JoyBuild大模型開發計算平臺、JoyScale AI算力平臺等九大產品,三大垂直行業一體機,助力企業全面重構AI基礎設施,生成企業專屬數字員工,加速邁向深度應用。

隨著AI應用深入,對基礎設施帶來了一系列全新的技術挑戰,都指向需要一套AI Native的基礎設施:
· 一方面,以CPU為中心的架構在支持AI原生應用方面存在棘手的問題,需要以GPU為中心重塑基礎設施,在國內還需要解決GPU本身型號多樣帶來的異構問題。
· 另一方面,應用的深化激發了更多推理的需求,計算資源持續增加,企業需要思考資源投入產出的問題,希望智算資源像過去一樣得到極致的效率。
面向大模型訓練、推理的算力需求,京東云發布全新的JoyScale AI算力平臺——以GPU為核心,高效異構計算,強大推理性能。它具備兩大核心優勢:
· 極致的算力性能。面向大模型訓推需求,JoyScale支持單集群萬卡調度、全局超10萬卡調度能力,支持跨智算中心橫向擴展,通過軟硬件協同優化,將大模型算力利用率MFU從45%提升至75%。
· 靈活的異構算力管理。JoyScale全面適配十余家國產算力,支持異構算力統一納管、精細化運維,通過集群算力池化調度,提升集群利用率70%。
當前,基于京東集團復雜場景實踐,京東云構建了一站式大模型產品矩陣,從底層的智算基礎設施,到中間層的模型服務和工具,再到上層的Agent應用開發,支持企業快速部署大模型及應用。

大模型浪潮洶涌澎湃,京東云將持續深耕技術,以更開放、更協同的生態理念為引領,不斷拓展和深化大模型技術的邊界與應用。同時,憑借在京東內部場景千錘百煉的深度應用經驗,打造出的極致性能、極致性價比的技術與產品,助力更多企業重塑AI生產力。