英特爾在MLPerf Client v0.6基準(zhǔn)測(cè)試中取得突破，成為首家全面支持NPU的企業(yè)。這一成就標(biāo)志著客戶端NPU在大語(yǔ)言模型（LLM）性能評(píng)估方面的標(biāo)準(zhǔn)化邁出了重要一步。

在5月5日的公告中，英特爾透露了其在MLPerf Client v0.6基準(zhǔn)測(cè)試中的卓越表現(xiàn)。測(cè)試結(jié)果顯示，英特爾酷睿Ultra 200處理器在GPU和NPU上的處理速度遠(yuǎn)超人類平均閱讀速度，這一成績(jī)無(wú)疑為行業(yè)樹立了新的標(biāo)桿。

英特爾客戶端PC產(chǎn)品營(yíng)銷部門的副總裁兼總經(jīng)理丹尼爾·羅杰斯對(duì)此表示：“我們非常自豪能夠引領(lǐng)行業(yè)，實(shí)現(xiàn)客戶端PC平臺(tái)的全NPU加速和領(lǐng)先的GPU性能。這一成就不僅展示了英特爾的技術(shù)實(shí)力，更為未來(lái)客戶端計(jì)算體驗(yàn)的提升奠定了堅(jiān)實(shí)基礎(chǔ)。”

為了更具體地展現(xiàn)其性能優(yōu)勢(shì)，英特爾還公布了詳細(xì)的測(cè)試配置。測(cè)試分別在AMD平臺(tái)和英特爾平臺(tái)上進(jìn)行，使用了華碩Zenbook S 16和Zenbook S 14兩款筆記本。其中，英特爾平臺(tái)搭載了酷睿Ultra 9 288V處理器、32GB LPDDR5內(nèi)存、英特爾Arc 140V顯卡以及1TB存儲(chǔ)空間。這一配置在LLama 2 7B模型的四項(xiàng)內(nèi)容生成與摘要測(cè)試中，展現(xiàn)了出色的性能。

測(cè)試數(shù)據(jù)顯示，英特爾在NPU上創(chuàng)造了最快的響應(yīng)速度，首個(gè)詞元生成僅需1.09秒。同時(shí)，NPU的吞吐量也達(dá)到了最高的18.55個(gè)詞元/秒。英特爾內(nèi)置的Arc GPU在首token生成速度上也超越了競(jìng)品。這些成績(jī)充分證明了英特爾在NPU和GPU技術(shù)方面的領(lǐng)先地位。

值得注意的是，MLPerf Client基準(zhǔn)測(cè)試是由MLCommons聯(lián)盟成員聯(lián)合開發(fā)的，其中包括英特爾、AMD、微軟、英偉達(dá)和高通等知名企業(yè)。此次測(cè)試首次突破了以GPU為核心的測(cè)試模式，新增了專用NPU的基準(zhǔn)評(píng)估。這一變化不僅反映了行業(yè)對(duì)NPU技術(shù)的日益重視，也為未來(lái)客戶端計(jì)算性能的提升提供了新的方向。