中外專家共探高性能計(jì)算與AI融合新路徑
近日,CoDesign 2025國(guó)際研討會(huì)在日本大阪舉辦。研討會(huì)由田納西大學(xué)圖靈獎(jiǎng)得主杰克·唐加拉(Jack Dongarra)、中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員孫凝暉與大阪大學(xué)教授劉麗君共同發(fā)起,中外專家學(xué)者齊聚一堂,圍繞極大規(guī)模計(jì)算與大數(shù)據(jù)挑戰(zhàn)下的軟硬件協(xié)同設(shè)計(jì)深入探討。
研討會(huì)聚焦算法、應(yīng)用系統(tǒng)、系統(tǒng)軟件與中間件、軟硬件協(xié)同架構(gòu)設(shè)計(jì)四大核心方向,涵蓋高性能與可擴(kuò)展計(jì)算關(guān)鍵領(lǐng)域。同時(shí),會(huì)議設(shè)置了算法與計(jì)算模型、系統(tǒng)與體系結(jié)構(gòu)設(shè)計(jì)等五大熱點(diǎn)研究主題,并安排兩場(chǎng)重要圓桌討論,分別探討“未來百億億次計(jì)算的發(fā)展方向”及“HPC與AI結(jié)合推動(dòng)科學(xué)研究”。
會(huì)議期間,多位專家學(xué)者帶來精彩的主題報(bào)告與技術(shù)分享。
盧宇彤教授圍繞“高效能計(jì)算的協(xié)同設(shè)計(jì)與碎片化挑戰(zhàn)”指出,系統(tǒng)碎片化影響算力協(xié)同與開發(fā)效率,軟硬件及運(yùn)行環(huán)境的協(xié)同設(shè)計(jì)是關(guān)鍵,還展望了高性能計(jì)算發(fā)展的十大趨勢(shì)。
Shuaiwen Leon Song教授介紹了Together AI的“AI加速云”平臺(tái),其自研的推理引擎和優(yōu)化策略表現(xiàn)優(yōu)異,體現(xiàn)出構(gòu)建全球級(jí)AI計(jì)算基礎(chǔ)設(shè)施的野心。
Thomas C. Schulthess教授展示了瑞士CSCS建設(shè)的云原生超算平臺(tái)ALPS,該平臺(tái)支持彈性資源調(diào)度,秉持“科學(xué)即服務(wù)”理念,將支撐多個(gè)大型科研項(xiàng)目。
Xian-He Sun教授聚焦“內(nèi)存墻”問題,提出相關(guān)理論和模型,介紹的Hermes系統(tǒng)通過優(yōu)化數(shù)據(jù)流動(dòng)方式突破性能瓶頸,強(qiáng)調(diào)未來計(jì)算系統(tǒng)應(yīng)“以數(shù)據(jù)為中心”。
專家學(xué)者還就大模型訓(xùn)練優(yōu)化、超級(jí)計(jì)算機(jī)架構(gòu)、調(diào)度算法、內(nèi)存問題解決、數(shù)據(jù)壓縮工具應(yīng)用等方面分享了前沿技術(shù)成果與研究進(jìn)展。(記者 戰(zhàn)釗)