中國信息通信研究院（中國信通院）近期完成了可信AI框架下的《大模型推理平臺通用能力成熟度》首輪評估工作，這一舉動標志著國內大模型推理平臺能力的標準化評估邁出了重要一步。
在這場備受矚目的評估中，商湯大裝置的萬象大模型開發平臺脫穎而出，榮獲當前最高評級——4+級，成為國內首家達到此高度的平臺。這一成就不僅彰顯了商湯在大模型推理技術上的深厚積累，也預示著國內AI大模型應用的新里程碑。
中國信通院攜手七十多家單位，依托人工智能關鍵技術和應用評測重點實驗室及中國人工智能產業發展聯盟AI Infra工作組，共同制定了《大模型推理平臺技術要求》標準。此次評估正是基于這一標準展開，覆蓋功能、性能、穩定性等多個維度，特別是針對部署、推理、服務與管理等關鍵環節，旨在推動大模型推理平臺向低時延、高吞吐、可擴展、高易用、低成本方向發展。評估內容細致入微，共涉及88個能力項，其中基本功能34項，高級功能54項。
評估結果顯示，商湯大裝置的萬象大模型開發平臺在模型部署、推理、服務等多個方面均表現卓越。該平臺不僅提供高性價比、靈活易用的服務，還集成了前沿的模型、算法、推理引擎、知識庫等套件，為開發者構建行業模型及應用提供了強有力的支持。萬象平臺的全鏈條開發工具，從大模型開發到應用構建一應俱全，為企業大模型的落地提供了一站式高效服務。
萬象平臺在硬件兼容性方面也表現出色，能夠兼容GPU、NPU等多種異構推理加速卡。其內置的自研高效推理引擎，更是將推理成本降低了50%以上。平臺還配備了完整的安全機制，確保企業大模型在落地過程中的安全性。
目前，商湯大裝置的萬象大模型開發平臺已在交通、消費、政務、自動駕駛、智能家居、醫療等多個行業廣泛應用，展現了其強大的跨行業適應能力。在交通領域，萬象平臺助力某客戶構建了工程勘察設計領域的智能平臺，有效解決了知識傳承困難、融合性差等問題。在消費領域，通過萬象平臺的調用大模型、檢索增強生成技術等，某企業成功提升了員工的知識獲取效率。而在政務領域，萬象平臺及其配套服務大大簡化了部署工程，實現了企業的開箱即用。
國際數據公司（IDC）在近期發布的《中國模型即服務(MaaS)及AI大模型解決方案市場追蹤（2024H2）》報告中指出，商湯大裝置的萬象平臺憑借13%的市場份額，穩居國內AI大模型解決方案市場第二位，再次彰顯了其在行業內的領先地位。
