字節跳動旗下的AI應用豆包,在今年的功能升級中展現出了令人矚目的交互能力。從春節期間的實時語音通話,到5月份新增的視頻通話功能,豆包如今已經能夠通過多模態交互方式,實現與用戶的無縫溝通,仿佛真人一般。
想象一下這樣的場景:當你打開視頻通話功能,隨意對準一面歐洲小國的國旗,豆包便能結合音視頻信息,迅速給出正確答案。在通話過程中,你可以自由停頓、思考、甚至改變話題,豆包總能準確把握回復的時機,而當你想要打斷它提出新要求時,它也總能立刻響應。
即便在地鐵站、電梯、地下車庫等網絡環境復雜的場景下,豆包的實時交互能力也并未受到影響。它能夠保持穩定的響應速度,給出的回答既正確又清晰。這一切的背后,離不開火山引擎RTC(Real Time Communication,實時音視頻)技術的支持。
RTC技術專為低延遲互動設計,它涉及音視頻的采集與編解碼、網絡傳輸、網絡自適應等多個模塊,確保用戶從攝像頭、麥克風采集的數據能夠清晰流暢地傳送至接收方,同時用戶也能及時收到對方的音視頻反饋。與基于TCP協議的WebSocket方案相比,RTC采用UDP傳輸,允許一定程度的丟包以保證速度,因此具有更低的延遲和更強的抗弱網能力。
火山引擎的RTC技術自2017年開始研發,最初用于滿足抖音直播連麥等需求,隨后在字節內部的音視頻通話、社交娛樂、游戲、在線會議等場景廣泛應用。隨著生成式AI的爆發,RTC技術迎來了新的發展機遇。2024年初,火山引擎推出了基于RTC的對話式AI技術方案,為豆包的交互體驗升級提供了重要支撐。
在豆包的對話式AI場景中,RTC技術不僅實現了低延遲、高質量和抗弱網的音視頻交互體驗,還針對人與機器交流的特點進行了針對性的升級和優化。例如,在視頻處理層面,豆包需要分析幀間聯系與時序,保證語義連續,因此火山引擎對視頻理解與關鍵幀提取算法進行了不斷優化。在對話處理層面,引入了智能語義判停與聲紋降噪算法,使AI能夠準確判斷用戶話語的完整性,并在嘈雜環境中聚焦目標說話者,屏蔽環境人聲及噪聲干擾。
這些改進讓豆包在音視頻通話中展現出了更接近人類的特征,用戶在與豆包對話時能夠獲得更加流暢、自然、貼近真實互動的使用感受。隨著大模型與AI應用的日漸成熟,音視頻已成為新一代AI交互中不可或缺的一部分。在虛擬陪伴、智能玩具、智能家居、智能教育等廣闊場景中,用戶對于低延時、高質量、自然流暢的人機對話需求與日俱增。
火山引擎的RTC技術作為能夠支撐復雜場景實時音視頻交互的底層傳輸技術,正是保障這些用戶體驗的關鍵。它不僅在豆包中得到了應用,還為所有AI時代的產品提供了重要價值。企業通過火山引擎接入RTC,使用的就是與抖音、飛書同款的算法、架構與策略。這大大降低了企業自建集成方案的門檻,減少了網絡傳輸與音視頻處理能力的投入,同時也降低了云服務資源消耗和深度音頻算法調優的成本。
火山引擎還為開發者提供了每月10000分鐘的免費額度,進一步降低了開發者的前期驗證與迭代成本。開發者無需從零開始搭建復雜架構,即可實現用戶與AI的實時音視頻互動,構建契合業務場景的AI實時對話能力。這一切使得RTC技術成為對話式AI場景中的優選方案,讓企業能夠更加專注業務創新,以更低成本、更快速度落地語音與音視頻能力。