百度于近日隆重推出了其最新的文心大模型4.5系列,此次開源涵蓋了10款模型,其中亮點包括擁有47B和3B激活參數的混合專家模型(MoE),以及參數量為0.3B的稠密型模型。這一舉措不僅意味著開發者可以免費獲取這些高性能模型,百度還貼心地提供了預訓練權重和推理代碼,極大地方便了開發者的應用探索。
在文心大模型4.5系列發布的同一天,英特爾也迅速展示了其強大的技術支持實力。通過OpenVINO工具套件,英特爾迅速完成了對文心大模型端側版本的適配,并在酷睿 Ultra平臺上成功實現了部署。OpenVINO作為英特爾自主研發的開源工具,專注于提升深度學習模型的推理性能,實現跨平臺部署,并能充分利用英特爾硬件資源。
回顧過去,自2021年起,百度飛槳團隊與英特爾OpenVINO團隊已建立了深厚的合作關系。雙方攜手對多個模型進行了適配,涵蓋了PaddleOCR、PaddleSeg和PaddleDetection等。這一合作成果使得開發者能夠輕松地將飛槳模型通過OpenVINO進行推理和部署,甚至還能借助OpenVINO的模型優化器將模型轉換為IR格式,進一步提升部署效果。
文心大模型4.5系列的發布,標志著百度在多模態理解、文本生成和邏輯推理等領域取得了又一里程碑式的突破。這一系列模型的表現在多項測試中甚至超越了GPT4.5,而API調用的成本卻僅為后者的百分之一。這無疑為希望將AI技術融入各類產品和服務的開發者提供了一個極具吸引力的新選擇。