Akamai，這家曾以CDN服務聞名的企業(yè)，如今已成功轉(zhuǎn)型為全球領(lǐng)先的云服務、安全服務與CDN服務綜合提供商。通過一系列戰(zhàn)略收購，如Linode，Akamai構(gòu)建了全球最分布式的計算平臺，其服務覆蓋全球130個國家，擁有超過1200個運營商網(wǎng)絡(luò)、4000多個邊緣節(jié)點、26個核心云計算節(jié)點及10個分布式節(jié)點。

面對生成式AI應用的井噴式增長，Akamai迅速響應市場，推出了AI推理解決方案。該方案旨在優(yōu)化AI推理工作負載的效率與成本，滿足日益增長的推理需求。Akamai大中華區(qū)總經(jīng)理李昇指出，未來AI推理的計算需求或?qū)⑦h超訓練需求，且大量推理任務將在邊緣端進行。Akamai的高度分布式架構(gòu)設(shè)計，正是應對這一趨勢的理想選擇，能夠助力客戶在更接近用戶的地方部署生成式AI模型。

Akamai亞太區(qū)云計算專家團隊負責人李文濤進一步介紹，Akamai的AI推理服務能夠提升3倍的推理吞吐能力，降低60%的推理時延，相比傳統(tǒng)云計算廠商的基礎(chǔ)設(shè)施，使用成本可降低高達86%。這一方案包括四大組成部分：經(jīng)典計算產(chǎn)品線，提供CPU、GPU及專屬芯片VPU虛擬機，滿足多樣化的AI推理需求；數(shù)據(jù)管理，通過與VastData合作，結(jié)合Akamai的全球分布式邊緣云平臺，實現(xiàn)實時數(shù)據(jù)處理，加速AI推理服務；容器化服務，通過托管式K8s服務LKE企業(yè)版，支持容器化環(huán)境運行推理服務；邊緣云計算和網(wǎng)絡(luò)能力，利用集成的云平臺和骨干網(wǎng)，降低最終用戶推理時延，提高吞吐效率，并與Fermyon合作，提供WebAssembly支持，構(gòu)建無服務器應用支持AI推理。

李文濤強調(diào)，Akamai的邊緣時延極低，處于互聯(lián)網(wǎng)的最后一跳，能夠很好地解決AI企業(yè)面臨的“最后一公里”時延問題。Akamai還在持續(xù)提升AI模型的安全能力。在今年的RSA Conference上，Akamai發(fā)布了基于AI的防火墻，保護用戶AI模型免受惡意攻擊，如資源消耗型攻擊和惡意Token注入攻擊等。

Akamai在中國的業(yè)務主要聚焦于幫助中國企業(yè)“出海”。李昇表示，Akamai在助力客戶有效執(zhí)行和部署AI戰(zhàn)略的同時，也將確保AI模型的安全性，為客戶提供全方位的服務支持。