隨著AI大模型技術的持續(xù)迭代,AI芯片市場正迎來新一輪發(fā)展機遇。近日,Arm公司推出了面向旗艦智能手機和下一代個人電腦的Arm Lumex計算子系統(tǒng)(CSS)平臺,該平臺集成了搭載第二代可伸縮矩陣擴展(SME2)技術的最高性能CPU、GPU及系統(tǒng)IP,旨在加速終端設備的AI體驗。據(jù)介紹,依托SME2技術的Arm CPU可實現(xiàn)五倍的AI性能提升,為端側AI應用提供了強大的算力支撐。
Arm高級副總裁兼終端事業(yè)部總經理Chris Bergey在接受專訪時表示,AI智能體將成為下一個重要領域,這一趨勢將持續(xù)發(fā)展。他指出,隨著技術進步,智能體將變得更加智能,因此提升計算能力并以高效方式實現(xiàn)是關鍵。Chris Bergey強調,Arm正將SME2技術擴展至所有CPU平臺,預計到2030年,該技術將為超過30億臺設備新增超100億TOPS的計算能力。
此次推出的Arm Lumex平臺是Arm面向終端市場品牌更名后的首個產品系列。今年5月,Arm首席執(zhí)行官Rene Haas宣布了新的產品命名體系,其中針對移動終端市場的體系被命名為Arm Lumex。Chris Bergey解釋稱,平臺的核心理念是“平臺思維”而非“組件思維”。他表示,合作伙伴不僅需要高性能硬件,更需要完整的軟件棧協(xié)同運作。Arm通過投資Kleidi等開發(fā)者項目,與安卓等領先企業(yè)合作,確保方案優(yōu)化,因此推出全新品牌體系。
在AI大模型時代,芯片與硬件產業(yè)鏈的聯(lián)動愈發(fā)緊密。vivo高級副總裁、首席技術官施玉堅透露,2024年vivo與Arm成立了聯(lián)合實驗室,成為首家與Arm合作建立聯(lián)合實驗室的終端品牌。vivo從2023年開始研究SME2的場景應用,分析各類AI任務,明確不同算法的最優(yōu)硬件路徑,實現(xiàn)軟硬一體化設計。目前,vivo計算加速平臺VCAP已全面支持SME2指令集。
Chris Bergey分析稱,科技界存在不同的生態(tài)系統(tǒng),如蘋果的全棧式生態(tài),而安卓生態(tài)則依賴多方協(xié)作。他指出,雖然多方協(xié)作模式在某些方面可能受限,但在AI領域,多元參與者能催生大量創(chuàng)新。Arm與vivo的合作正是基于這一理念:Arm擅長打造CPU和GPU,調動開發(fā)者生態(tài),但不了解具體應用場景;vivo則能提供用戶需求和創(chuàng)新方向。通過合作,雙方能實現(xiàn)技術可能性與創(chuàng)新價值的互補。
Arm終端事業(yè)部產品管理副總裁James McNiven進一步解釋,SME2是SME的新一代版本,新增更多指令集,支持2 bit和4 bit等小數(shù)據(jù)類型,適合移動設備。隨著高度量化模型增多,這類小數(shù)據(jù)類型在移動生態(tài)中的重要性日益凸顯。Chris Bergey強調,SME2直接集成到CPU中,具備高度可擴展性,不僅能應用于高端手機,還能下沉到不同價位段,推動AI技術普及。
對于手機市場的增長趨勢,Chris Bergey認為,雖然出貨量增長趨于平緩,但消費者在旗艦和高端市場的支出持續(xù)增加,反映出對先進功能的重視。他指出,AI正帶來巨大機遇,計算設備在日常生活和工作中的價值將持續(xù)上升。AI對算力性能、內存帶寬和功耗效率提出高要求,推動技術創(chuàng)新。Arm通過提升CPU性能,與NPU協(xié)同,滿足智能體等AI應用的需求。
在智能體落地方面,Chris Bergey表示,Arm能做的最佳選擇是持續(xù)提升計算能力。他舉例稱,支付寶在vivo新一代旗艦手機上完成了基于Arm SME2技術的大語言模型推理驗證,預填充和解碼階段的性能分別提升超過40%和25%。這類第三方供應商尋求廣泛布局,不受限于單一手機制造商或芯片公司,因此高度重視與Arm的合作。
除手機外,混合現(xiàn)實(MR)眼鏡市場也在興起,Arm通過Lumex平臺的組件提供算力支撐。Chris Bergey分析稱,智能眼鏡行業(yè)充滿活力,Arm推出了Arm C1-Pro、Arm C1-Nano CPU及全新GPU產品,供客戶靈活選擇。他指出,市場需求仍在演變,Arm的策略是與領先客戶深度合作,確保工作負載匹配精準。若市場對CSS平臺產生需求,Arm將順勢而為。
對于MR眼鏡的產業(yè)生態(tài),Chris Bergey認為,XR的吸引力在于提供某些服務。大型語言模型使傳統(tǒng)用戶界面在眼鏡設備上實現(xiàn)難度降低,用戶界面將迎來變革。他指出,手機仍將在生態(tài)系統(tǒng)中扮演重要角色,受限于功耗,眼鏡可能需要借助手機或專用設備作為中間計算單元。Arm正著力于生態(tài)系統(tǒng)層面,充分利用手機的普及優(yōu)勢,實現(xiàn)本地處理任務。
隨著AI大模型技術的發(fā)展,模型元素不斷變化。Chris Bergey表示,CPU的靈活性使其能充分利用創(chuàng)新成果,提供最大程度的適配性。隨著創(chuàng)新標準化,AI加速處理成為可能。Arm的核心價值在于提供終極靈活性,幫助開發(fā)者施展創(chuàng)意,擁有更廣大的創(chuàng)新空間。隨著模型日益精簡高效,在CPU上運行也變得越來越具吸引力。