日本精品一区二区三区高清 久久

ITBear旗下自媒體矩陣:

百度智能云昆侖芯超節(jié)點(diǎn)發(fā)布:算力飛躍,企業(yè)AI應(yīng)用成本大降

   時(shí)間:2025-04-25 17:41:36 來源:ITBEAR編輯:快訊團(tuán)隊(duì) IP:北京 發(fā)表評(píng)論無障礙通道

在湖北武漢,百度AI開發(fā)者大會(huì)Create 2025盛大啟幕,以“模型的世界,應(yīng)用的天下”為主題,匯聚了眾多業(yè)界精英與開發(fā)者。百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖在會(huì)上分享了百度智能云在智能基礎(chǔ)設(shè)施建設(shè)領(lǐng)域的最新進(jìn)展,并發(fā)布了一系列算力、模型及應(yīng)用方面的創(chuàng)新產(chǎn)品。

沈抖指出,大模型的高效落地離不開從底層算力到應(yīng)用的全棧、系統(tǒng)級(jí)支持。百度智能云憑借多年在大模型研發(fā)與產(chǎn)業(yè)應(yīng)用的深厚積累,打造了新一代系統(tǒng)級(jí)智能基礎(chǔ)設(shè)施,旨在為企業(yè)提供最佳的大模型應(yīng)用解決方案。

數(shù)據(jù)顯示,百度智能云在2024年全年大模型相關(guān)中標(biāo)項(xiàng)目數(shù)、行業(yè)覆蓋數(shù)以及央國企中標(biāo)項(xiàng)目數(shù)方面均位居榜首,尤其在能源、政務(wù)、金融三大行業(yè)的中標(biāo)項(xiàng)目數(shù)領(lǐng)先所有廠商。截至目前,百度千帆平臺(tái)的企業(yè)用戶數(shù)量已超過40萬,組件數(shù)量突破1000個(gè),企業(yè)在平臺(tái)上已開發(fā)出超過100萬個(gè)應(yīng)用。

沈抖強(qiáng)調(diào),系統(tǒng)的價(jià)值不僅在于解決單一問題,更在于賦予企業(yè)創(chuàng)造的能力。企業(yè)可以結(jié)合自身的數(shù)據(jù)、流程和邏輯,利用百度智能云的系統(tǒng)級(jí)能力,打造專屬的AI基礎(chǔ)設(shè)施。

在算力方面,百度智能云通過自研的昆侖芯P800芯片及百舸大規(guī)模推理加速能力,實(shí)現(xiàn)了算力性能與成本的雙重突破。會(huì)上,百度正式點(diǎn)亮了昆侖芯P800的三萬卡集群。招商銀行等金融機(jī)構(gòu)已基于昆侖芯P800展開算力合作,在智能客服、多模態(tài)數(shù)據(jù)分析等場(chǎng)景實(shí)現(xiàn)了效能顯著提升。昆侖芯P800算力已在國家電網(wǎng)、中國鋼研等央企,以及同濟(jì)大學(xué)、北京大學(xué)等高校和一批互聯(lián)網(wǎng)企業(yè)進(jìn)行了規(guī)模化部署。

為了進(jìn)一步降低算力使用成本,百度智能云正式發(fā)布了昆侖芯超節(jié)點(diǎn)。該超節(jié)點(diǎn)支持將64張昆侖芯AI加速卡置于同一機(jī)柜,實(shí)現(xiàn)單節(jié)點(diǎn)的超強(qiáng)性能,一個(gè)機(jī)柜即可媲美過去100臺(tái)機(jī)器的性能。與以往方案相比,昆侖芯超節(jié)點(diǎn)通過更快的機(jī)內(nèi)通信替代機(jī)間通信,有效降低了帶寬成本,實(shí)現(xiàn)了卡間互聯(lián)帶寬提升8倍、單機(jī)訓(xùn)練性能提升10倍、單卡推理性能提升13倍,并降低了95%的成本。

百度智能云還全面升級(jí)了百舸推理加速能力,通過大規(guī)模分布式推理的PD分離,支持客戶根據(jù)不同場(chǎng)景的業(yè)務(wù)特點(diǎn)自適應(yīng)設(shè)置PD配比,并做到token級(jí)別的PD負(fù)載均衡。針對(duì)MOE模型,百舸實(shí)現(xiàn)了大規(guī)模多機(jī)專家并行的極致優(yōu)化,大幅降低了MOE模型推理的通信開銷,并對(duì)核心鏈路上的每一個(gè)細(xì)節(jié)進(jìn)行了系統(tǒng)級(jí)工程優(yōu)化,大幅提升了GPU的有效利用率。

在模型服務(wù)與應(yīng)用開發(fā)方面,百度千帆平臺(tái)提供了超過100個(gè)模型,包括文心4.5Turbo、文心X1 Turbo等百度自研模型,以及DeepSeek、Ilama、Vidu等第三方模型。同時(shí),千帆平臺(tái)還提供了全面的模型開發(fā)工具鏈,支持深度思考模型、多模態(tài)模型的定制與精調(diào)。以智聯(lián)招聘為例,該平臺(tái)利用千帆的模型蒸餾工具鏈,在人崗匹配場(chǎng)景中實(shí)現(xiàn)了小參數(shù)模型效果媲美大模型,并降低了30%的成本。

在應(yīng)用開發(fā)層面,千帆平臺(tái)全面升級(jí)了企業(yè)級(jí)Agent開發(fā)工具鏈,并發(fā)布了全新推理式智能體——智能體Pro。該智能體從快問快答升級(jí)到深思熟慮,并支持企業(yè)定制專屬智能體。以污水寶為例,基于千帆Agentic RAG能力,智能體能夠結(jié)合企業(yè)私域數(shù)據(jù)和企業(yè)知識(shí)庫,制定檢索策略,大幅降低模型幻覺。同時(shí),智能體Pro還支持Deep Research深度研究模式,能夠自主完成復(fù)雜任務(wù)的步驟規(guī)劃、信息篩選和整理,支持探索式知識(shí)收集、繪制圖標(biāo)和撰寫專業(yè)報(bào)告。

百度智能云還正式發(fā)布了國內(nèi)首個(gè)企業(yè)級(jí)MCP服務(wù),首批已有超過1000個(gè)MCP Servers供企業(yè)及開發(fā)者靈活選擇。開發(fā)者可以在千帆上開發(fā)自己的MCP Server,并發(fā)布到MCP廣場(chǎng),享受免費(fèi)托管服務(wù)。百度搜索也會(huì)索引這些MCP Server,使它們被更多開發(fā)者引用。

在金融領(lǐng)域,民生銀行與百度智能云合作,探索大模型在商業(yè)銀行的落地應(yīng)用,成功完成了金融領(lǐng)域第一個(gè)端到端涵蓋算力、平臺(tái)、模型、應(yīng)用四層架構(gòu)的項(xiàng)目。而在百度內(nèi)部,千帆平臺(tái)作為算力底座,為40萬客戶提供服務(wù),上線以來推理吞吐提升20倍,推理速度提升50%以上。外部客戶如招商銀行、中國石化、長安汽車等也借助百舸滿足了超大規(guī)模算力需求。

百度智能云還升級(jí)了兩大自研AI應(yīng)用產(chǎn)品,面向智能營銷和視覺AI領(lǐng)域。客悅·ONE在金融營銷場(chǎng)景中實(shí)現(xiàn)了高精準(zhǔn)獲客、“高情商”客服及高效的流失預(yù)警,已服務(wù)50余家金融企業(yè),落地10余個(gè)場(chǎng)景。而一見5.0則在標(biāo)準(zhǔn)化高、規(guī)則清晰的任務(wù)中,僅需一句自然語言即可秒級(jí)生成專業(yè)級(jí)視覺AI應(yīng)用,大幅降低了視覺AI模型訓(xùn)練門檻和應(yīng)用成本,加速了視覺智能的規(guī)模化落地。

目前,百度智能云從算力、平臺(tái)到應(yīng)用的系統(tǒng)級(jí)能力已在多個(gè)企業(yè)場(chǎng)景中穩(wěn)定運(yùn)行。中國鋼研與百度智能云聯(lián)合打造的全棧智能基礎(chǔ)設(shè)施,基于昆侖芯和百舸搭建了專屬智算平臺(tái),在千帆上進(jìn)行模型精調(diào),使用大小模型結(jié)合的方式獲得最佳效果,并結(jié)合一見視覺平臺(tái),快速完成了表面缺陷檢測(cè)、金相分析等核心場(chǎng)景的應(yīng)用開發(fā)。

舉報(bào) 0 收藏 0 打賞 0評(píng)論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  RSS訂閱  |  開放轉(zhuǎn)載  |  滾動(dòng)資訊  |  爭議稿件處理  |  English Version
 
主站蜘蛛池模板: 交城县| 松桃| 买车| 安新县| 庄河市| 泾阳县| 临武县| 莫力| 威海市| 拜泉县| 锡林浩特市| 鄂托克旗| 阜阳市| 庆安县| 山丹县| 德阳市| 伊吾县| 尉犁县| 瑞昌市| 赣榆县| 方城县| 木里| 建德市| 同德县| 柳州市| 吉木乃县| 什邡市| 濉溪县| 延安市| 青铜峡市| 青神县| 龙门县| 修武县| 汤阴县| 南昌市| 凤庆县| 灵宝市| 上饶县| 邻水| 三江| 洮南市|