近日，一份深入探討2025年智能應(yīng)用平臺(tái)在證券行業(yè)應(yīng)用前景的報(bào)告引起了廣泛關(guān)注。該報(bào)告以長(zhǎng)江證券的“長(zhǎng)江靈曦”大模型平臺(tái)為藍(lán)本，詳細(xì)剖析了大模型技術(shù)在券商領(lǐng)域內(nèi)的探索與實(shí)踐。

報(bào)告指出，自2022年底ChatGPT發(fā)布以來(lái)，大模型技術(shù)迅速進(jìn)入發(fā)展快車道。特別是在2023年2月至2025年初的這段時(shí)間里，大模型的數(shù)量呈現(xiàn)出爆發(fā)式增長(zhǎng)。面對(duì)這一趨勢(shì)，長(zhǎng)江證券選擇了微調(diào)開(kāi)源模型的開(kāi)發(fā)模式，以期在降低成本的同時(shí)，快速推進(jìn)大模型技術(shù)的應(yīng)用。然而，這一過(guò)程中也面臨著成本高、模型種類繁多以及業(yè)務(wù)需求復(fù)雜等多重挑戰(zhàn)。

為了解決這些問(wèn)題，長(zhǎng)江證券推出了“長(zhǎng)江靈曦”大模型平臺(tái)。該平臺(tái)通過(guò)應(yīng)用層、能力層和模型開(kāi)發(fā)層的架構(gòu)設(shè)計(jì)，實(shí)現(xiàn)了對(duì)大模型技術(shù)的全面整合。其中，統(tǒng)一算力納管平臺(tái)有效降低了成本，多源異構(gòu)GPU納管和PD分離分布式推理則大幅提升了推理性能。大模型統(tǒng)一路由系統(tǒng)的引入，使得本地和云端GPU集群以及商用API能夠高效協(xié)同工作。

在模型管理方面，“靈曦”大模型評(píng)估平臺(tái)通過(guò)從通用、金融、業(yè)務(wù)等多個(gè)維度對(duì)模型進(jìn)行評(píng)估，成功解決了模型種類繁多的問(wèn)題。同時(shí)，該平臺(tái)還能夠根據(jù)業(yè)務(wù)場(chǎng)景的需求，精準(zhǔn)匹配最合適的模型。而在應(yīng)用開(kāi)發(fā)方面，“靈曦”大模型應(yīng)用開(kāi)發(fā)框架則采用了工作流編排等低代碼開(kāi)發(fā)模式，大大降低了開(kāi)發(fā)門檻。目前，已有超過(guò)400名員工利用該框架開(kāi)發(fā)了1300多個(gè)智能體。

在應(yīng)用場(chǎng)景方面，“長(zhǎng)江靈曦”大模型平臺(tái)同樣表現(xiàn)出色。在辦公領(lǐng)域，該平臺(tái)能夠智能處理會(huì)議紀(jì)要，高效生成PPT等文檔。在營(yíng)銷領(lǐng)域，它輔助了1000多名銷售人員，有效節(jié)省了60%的工作時(shí)間。在知識(shí)檢索領(lǐng)域，它提升了運(yùn)營(yíng)回答的準(zhǔn)確率，并加速了知識(shí)庫(kù)的積累速度。而在投研領(lǐng)域，該平臺(tái)則顯著提高了研究員的檢索整理效率和年報(bào)點(diǎn)評(píng)寫作效率。

報(bào)告還展示了“長(zhǎng)江靈曦”大模型平臺(tái)在多個(gè)具體場(chǎng)景中的應(yīng)用實(shí)例。例如，在智能會(huì)議紀(jì)要處理方面，該平臺(tái)已經(jīng)成功處理了超過(guò)12000個(gè)音頻文件。在WPS插件生成PPT方面，它也展現(xiàn)出了強(qiáng)大的自動(dòng)化能力。這些實(shí)例充分證明了“長(zhǎng)江靈曦”大模型平臺(tái)在證券行業(yè)內(nèi)的廣泛應(yīng)用價(jià)值和巨大潛力。

長(zhǎng)江證券的“長(zhǎng)江靈曦”大模型平臺(tái)在券商典型場(chǎng)景的探索與實(shí)踐中取得了顯著成果。它不僅解決了成本高、模型多、業(yè)務(wù)繁等多重挑戰(zhàn)，還在多個(gè)應(yīng)用場(chǎng)景中展現(xiàn)出了強(qiáng)大的應(yīng)用價(jià)值和潛力。隨著技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷拓展，“長(zhǎng)江靈曦”大模型平臺(tái)有望為證券行業(yè)帶來(lái)更多創(chuàng)新和變革。