谷歌近期推出了一款名為Gemma 3n的多模態(tài)AI模型,這款模型的主要目標(biāo)是讓大型多模態(tài)AI功能在邊緣設(shè)備上得以應(yīng)用。
據(jù)外媒介紹,Gemma 3n的設(shè)計(jì)核心在于其移動(dòng)優(yōu)先的理念。它能夠在無(wú)需連接云端的情況下,直接在本地設(shè)備上處理和理解文本、圖像、音頻及視頻信息。這一突破性的架構(gòu),標(biāo)志著谷歌在智能手機(jī)、可穿戴設(shè)備和智能相機(jī)等設(shè)備上實(shí)現(xiàn)隱私保護(hù)和實(shí)時(shí)AI體驗(yàn)方面取得了重要進(jìn)展。
Gemma 3n系列包括兩個(gè)版本:Gemma 3n E2B和Gemma 3n E4B。這兩個(gè)版本經(jīng)過(guò)精心優(yōu)化,性能分別可與傳統(tǒng)5B和8B參數(shù)模型相媲美,同時(shí)資源占用更少。這些模型融入了創(chuàng)新的架構(gòu)設(shè)計(jì),顯著降低了內(nèi)存和功耗需求,使得邊緣設(shè)備能夠進(jìn)行高質(zhì)量的本地推理。
具體而言,Gemma 3n的創(chuàng)新之處在于其能夠在邊緣設(shè)備上高效運(yùn)行,無(wú)需依賴云端資源。這不僅提升了數(shù)據(jù)處理的實(shí)時(shí)性,還大大增強(qiáng)了用戶的隱私保護(hù)。對(duì)于依賴即時(shí)響應(yīng)和高度隱私保護(hù)的應(yīng)用場(chǎng)景而言,Gemma 3n無(wú)疑是一個(gè)理想的選擇。
Gemma 3n系列模型還通過(guò)優(yōu)化架構(gòu)設(shè)計(jì),實(shí)現(xiàn)了資源的高效利用。這意味著,即便是在資源有限的邊緣設(shè)備上,Gemma 3n也能保持出色的性能和穩(wěn)定性,為用戶提供流暢的AI體驗(yàn)。
谷歌的這一創(chuàng)新之舉,無(wú)疑將推動(dòng)邊緣設(shè)備上AI技術(shù)的發(fā)展和應(yīng)用。隨著Gemma 3n的推出,我們有理由期待未來(lái)會(huì)有更多基于邊緣設(shè)備的智能應(yīng)用涌現(xiàn),為用戶帶來(lái)更加便捷、高效和安全的體驗(yàn)。