近期,字節跳動旗下火山引擎公司宣布了一項重要進展,其豆包1.5·深度思考模型已經成功部署至邊緣大模型網關,并向用戶提供高達500萬tokens的免費試用配額,此舉迅速吸引了AI領域內的廣泛關注。
豆包1.5·深度思考模型是火山引擎精心打造的一款高性能AI模型,尤其在數學、代碼和科學推理等領域展現出了卓越的能力,其表現已達到或接近國際頂尖水平。不僅如此,該模型在非推理任務如創意寫作方面也展現出了強大的適應性和泛化能力,適用于更多元化和復雜的應用場景。此次推出的豆包1.5包含兩個版本,一個是專注于推理的大語言模型Doubao-1.5-thinking-pro,另一個則是融合了視覺推理功能的多模態版本。
火山引擎的邊緣大模型網關為豆包1.5·深度思考模型提供了堅實的支撐。用戶現在可以通過這一網關輕松訪問豆包全系列模型,并享受200萬tokens的免費使用額度。特別地,若用戶在網關訪問密鑰中集成了豆包大模型,還有機會將免費額度提升至500萬tokens。
邊緣大模型網關通過統一的API接口,使用戶能夠便捷地訪問多家大模型供應商的模型和智能體。借助遍布全球的邊緣計算節點,它實現了模型的快速就近調用,從而顯著提升了模型訪問速度,為用戶帶來了更加迅速和可靠的AI服務體驗。用戶可以通過兩種途徑調用豆包1.5·深度思考模型:一是直接使用網關預置的模型,二是將第三方模型平臺的密鑰托管至網關,并通過網關訪問密鑰進行模型調用。
豆包1.5·深度思考模型采用了先進的MoE架構,擁有200B的總參數和僅20B的激活參數,這一設計使其在訓練和推理成本上具有顯著優勢。基于高效算法,該模型能夠提供極高的并發處理能力,同時實現20毫秒的超低延遲。其深度思考和視覺理解的復合能力,使得豆包1.5·深度思考模型在解決問題時更加高效和智能。
通過邊緣大模型網關調用豆包1.5·深度思考模型,用戶將享受到一系列優勢,包括調用加速、成本控制、自動重試和故障轉移等。這些功能不僅提升了服務質量,還降低了運維成本,確保了服務的連續性和穩定性。
目前,火山引擎的邊緣大模型網關已經適配了超過100種主流大模型和智能體。為了推廣豆包1.5·深度思考模型,邊緣大模型網關推出了特別優惠活動。用戶在網關中創建訪問密鑰并關聯最新的豆包模型后,即可申請將免費使用額度提升至500萬tokens。
火山引擎的這一戰略舉措不僅為AI開發者提供了強大的工具支持,也為AI技術的普及和應用推廣注入了新的動力。通過邊緣大模型網關,用戶可以更加便捷地使用豆包1.5·深度思考模型,推動AI技術在更多領域內的創新和應用。