在科技界的一次重大動作中,meta與OpenAI之間的競爭似乎已進入白熱化階段。近日,meta在首屆LlamaCon開發者大會上正式推出了其針對ChatGPT的智能助手——meta AI App,并預覽了面向開發者的官方Llama API服務。
meta AI App不僅支持語音和文本交互,還引入了全雙工語音交互功能,允許用戶在對話中實時打斷和并行處理,提供了更加自然流暢的交互體驗。這款智能助手能夠連接用戶的社交媒體賬戶,如Facebook和Instagram,通過用戶的互動歷史了解其偏好,并記住上下文信息。
meta同時發布的Llama API服務提供了包括Llama 4在內的多款模型,這些模型與OpenAI SDK兼容,意味著使用OpenAI API服務的產品可以無縫遷移到Llama API。meta在新API中還提供了用于模型微調和評估的工具,使開發者能夠根據自身需求打造定制化模型。meta宣布與AI芯片企業Cerebras和Groq合作,提供快速推理服務,以支持Llama 4 API服務的算力需求。
meta首席產品官Chris Cox在大會上分享了meta開源AI的最新進展。他提到,盡管兩年前meta內部對開源的商業化前景和優先級持懷疑態度,但如今開源AI已成為行業趨勢。Llama及其衍生模型的下載量在短短兩個半月內從10億增長到12億,這證明了開源AI的廣泛影響力和受歡迎程度。
Llama模型已被廣泛應用于meta旗下的多個應用,如WhatsApp和Instagram,這些場景中的Llama模型經過定制處理,以滿足對話性、簡潔性和幽默感等特定需求。meta AI App的推出,旨在為用戶提供更豐富的AI體驗,特別是在語音交互方面。
meta AI App中的全雙工語音實驗模式,通過訓練人與人之間的自然對話數據,提供了更為自然的音頻輸出。這一模式允許用戶在對話中聽到自然的打斷和笑聲,就像真正的電話對話一樣。然而,目前這一模式還處于早期階段,尚未具備工具使用、網絡搜索等能力。
Llama API服務提供了一鍵式API密鑰創建和簡單的代碼調用方式,支持Python和Type SDK開發者以及OpenAI SDK。開發者可以在meta提供的交互式游樂場中嘗試不同的模型,更改模型設置,并測試不同的配置。Llama API還支持基于JSON的結構化響應和工具調用等預覽功能。
meta還為開發者提供了便捷的微調服務,支持對Llama 3.3 8B進行自定義。開發者可以上傳用于微調的數據,或使用meta提供的合成數據工具包生成后訓練數據。在微調過程中,開發者可以切分部分數據用于評估定制模型的表現,并隨時查看訓練進展情況。微調完成后的模型可供下載,并在任何場景中運行。
自Llama 1發布以來,meta已經推出了四個主要版本的Llama系列模型,并開源了數十款不同參數規模、不同架構的模型。這些模型的開發意味著巨大的投入,meta已經主動與微軟、亞馬遜等公司接洽,希望建立合作關系,共同分擔開發成本。此次Llama API與meta AI App的發布,標志著meta在探索Llama系列開源模型商業化的道路上邁出了重要一步。