近日,小紅書在人工智能領域邁出了重要一步,正式對外公布了其自主研發的首個大型模型——dots.llm1。這款模型的問世,標志著小紅書在Mixture of Experts(MoE)文本大模型技術上取得了顯著進展。
dots.llm1是一個中等規模的大模型,由小紅書的人文智能實驗室(hi lab)團隊傾力打造。該模型的總參數量高達142B,而激活參數則達到了14B,這樣的配置使其在處理文本信息時能夠展現出強大的能力。
小紅書此次開源dots.llm1,無疑將為自然語言處理領域注入新的活力。該模型不僅在參數規模上達到了新的高度,更在技術上實現了諸多創新,為行業內的研究者們提供了寶貴的參考和借鑒。
據了解,dots.llm1的研發過程充滿了挑戰。小紅書hi lab團隊在模型設計、訓練和優化等方面投入了大量的時間和精力,最終才成功打造出了這款性能卓越的大模型。此次開源,也是團隊對業界的一次回饋和貢獻。