隨著2025年春季的到來，國內(nèi)大模型技術(shù)如DeepSeek正迅速滲透至各行各業(yè)的應(yīng)用場景中，推動(dòng)企業(yè)級(jí)AI私有化部署邁向新高度。為了深入了解當(dāng)前大模型在企業(yè)用戶中的部署需求及現(xiàn)狀，特別是針對(duì)云化部署的實(shí)際需求，工業(yè)和信息化部云計(jì)算標(biāo)準(zhǔn)與應(yīng)用重點(diǎn)實(shí)驗(yàn)室聯(lián)合全國信標(biāo)委云計(jì)算和分布式平臺(tái)分委會(huì)云建設(shè)與應(yīng)用標(biāo)準(zhǔn)工作組，攜手云軸科技ZStack，共同發(fā)起了一項(xiàng)企業(yè)級(jí)私有化大模型應(yīng)用現(xiàn)狀與私有化部署需求的專項(xiàng)調(diào)研。

該調(diào)研自啟動(dòng)以來，受到了全國范圍內(nèi)企業(yè)的積極響應(yīng)，截至3月底，已收集超過400份有效問卷，覆蓋了制造、教育科研、醫(yī)療健康、金融、信息技術(shù)、交通運(yùn)輸、公共事業(yè)、傳媒、能源等多個(gè)行業(yè)。工作組還舉辦了專題研討會(huì)，邀請了多位行業(yè)專家，圍繞大模型私有化部署的技術(shù)挑戰(zhàn)、應(yīng)用場景及未來發(fā)展等話題進(jìn)行了深入探討。

調(diào)研數(shù)據(jù)顯示，自DeepSeek開源大模型引起市場廣泛關(guān)注以來，企業(yè)對(duì)于私有化部署的意愿顯著提升，從最初的33.25%躍升至88.75%。這一轉(zhuǎn)變主要受到數(shù)據(jù)隱私保護(hù)和成本降低兩大因素的驅(qū)動(dòng)，促使各行各業(yè)加速布局AI技術(shù)。然而，調(diào)研也揭示了大模型企業(yè)私有化部署面臨的主要挑戰(zhàn)，包括算力資源調(diào)度與多種模型管理，以及標(biāo)準(zhǔn)制定、國內(nèi)硬件與智算云平臺(tái)的選擇。

在參與調(diào)研的企業(yè)中，500人以上的大型企業(yè)占比達(dá)到57.70%，顯示出對(duì)大模型私有化部署的濃厚興趣。同時(shí)，201-500人和200人以下的中小型企業(yè)占比也超過40%，反映出大模型私有化部署需求在中小企業(yè)中逐漸顯現(xiàn)。從行業(yè)分布來看，制造、信息技術(shù)、教育科研、醫(yī)療健康、金融五大行業(yè)占比高達(dá)72.74%，不同行業(yè)對(duì)大模型私有化部署的需求呈現(xiàn)出差異化特點(diǎn)。

在技術(shù)挑戰(zhàn)方面，企業(yè)普遍面臨技術(shù)能力不足、投入成本較高以及管理平臺(tái)缺失三大問題。特別是在算力管理、模型管理和運(yùn)營管理方面，企業(yè)需要實(shí)現(xiàn)異構(gòu)硬件的高效調(diào)度、提升資源利用率，以及對(duì)多種模型的全生命周期管理，以滿足AI應(yīng)用的落地需求。針對(duì)DeepSeek的私有化部署，企業(yè)反映的主要難點(diǎn)集中在算力管理、模型管理和運(yùn)維管理等方面。

在專家觀點(diǎn)環(huán)節(jié)，來自上海市閔行區(qū)數(shù)據(jù)局、中電工程顧問集團(tuán)、中糧信科運(yùn)維中心、天府絳溪實(shí)驗(yàn)室、東方明珠新媒體股份有限公司、中國科學(xué)院計(jì)算技術(shù)研究所、中石油集團(tuán)東方地球物理勘探有限公司、中國中醫(yī)科學(xué)院西苑醫(yī)院、國家圖書館、國任財(cái)產(chǎn)保險(xiǎn)股份有限公司、中國建設(shè)銀行運(yùn)營數(shù)據(jù)中心、中國農(nóng)業(yè)農(nóng)村部信息中心以及中國電子技術(shù)標(biāo)準(zhǔn)化研究院的專家紛紛發(fā)表了自己的看法。

上海市閔行區(qū)數(shù)據(jù)局局長吳畯表示，區(qū)數(shù)據(jù)局正積極探索大模型技術(shù)在政務(wù)服務(wù)領(lǐng)域和城市治理的應(yīng)用場景，通過構(gòu)建數(shù)字生態(tài)聯(lián)盟，促進(jìn)資源共享與優(yōu)勢互補(bǔ)，推動(dòng)區(qū)域數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展。中電工程顧問集團(tuán)的王燦則認(rèn)為，在電力工程設(shè)計(jì)行業(yè)，人工智能與傳統(tǒng)設(shè)計(jì)工具的融合是剛需，但需要深入理解各類人工智能路線和需求是否適配。

中糧信科運(yùn)維中心的王龍軍指出，持續(xù)量化應(yīng)用價(jià)值如同在迷霧中找路標(biāo)，供應(yīng)鏈優(yōu)化、多模型混合管理、數(shù)據(jù)治理將成為大模型企業(yè)應(yīng)用的長遠(yuǎn)命題。天府絳溪實(shí)驗(yàn)室的吳懷谷副主任則介紹了實(shí)驗(yàn)室在打造新一代多模態(tài)泛在智能基礎(chǔ)平臺(tái)方面的研究成果，以及為專業(yè)行業(yè)用戶提供智能知識(shí)問答、精準(zhǔn)意圖理解等服務(wù)的“智能大裝置”。

東方明珠新媒體股份有限公司云計(jì)算研究院的陸趣副總經(jīng)理分享了公司通過生成式人工智能媒體融合創(chuàng)新平臺(tái)對(duì)不同類型大模型進(jìn)行生命周期管理的經(jīng)驗(yàn)，以及AIGC內(nèi)容生產(chǎn)工具、AI客戶服務(wù)平臺(tái)等在不同場景下的應(yīng)用。中國科學(xué)院計(jì)算技術(shù)研究所的王煜煒高級(jí)工程師則強(qiáng)調(diào)了科研需求多樣化帶來的挑戰(zhàn)，以及從國標(biāo)制定者視角重構(gòu)智算標(biāo)準(zhǔn)的重要性。

中石油集團(tuán)東方地球物理勘探有限公司的賴能和總工程師、中國中醫(yī)科學(xué)院西苑醫(yī)院的陳海強(qiáng)信息管理中心主任、國家圖書館的謝強(qiáng)主任、國任財(cái)產(chǎn)保險(xiǎn)股份有限公司的葉進(jìn)團(tuán)隊(duì)經(jīng)理、中國建設(shè)銀行的申文武以及中國農(nóng)業(yè)農(nóng)村部信息中心的吳疆副處長等專家也分別就各自領(lǐng)域的AI應(yīng)用現(xiàn)狀和挑戰(zhàn)發(fā)表了觀點(diǎn)。