周一,英偉達公司推出了一款名為Lepton的全新軟件平臺,旨在構建一個集中化的AI計算力市場,以應對其高性能GPU需求的持續激增。
Lepton平臺的設計初衷,是將提供英偉達GPU的云服務商與尋求AI模型訓練計算能力的軟件開發者連接起來。英偉達GPU在人工智能工作負載領域,被業界廣泛視為行業標準。
近年來,諸如CoreWeave和Nebius Group等專注于租賃英偉達GPU給開發者的“新云”服務商如雨后春筍般涌現。這些公司,以及Crusoe、Firmus、Foxconn、GMI Cloud、Lambda、Nscale、SoftBank Corp和Yotta Data Services等,已成為首批加入Lepton市場的企業。
盡管需求高漲,但獲取可用GPU的過程仍然效率低下,英偉達云業務副總裁亞歷克西斯·比約林表示。“這幾乎就像每個人都在互相打電話,詢問可用的計算能力。”她說,“我們正努力使其無縫銜接,以擴展生態系統,并向英偉達開發者社區開放訪問。”
值得注意的是,在Lepton發布時,微軟、亞馬遜網絡服務(AWS)和谷歌云等大型云服務商并未參與。不過,比約林表示,該平臺對他們開放,如果他們愿意,可以在上面列出自己的計算能力。
Lepton未來將支持地理篩選功能,使開發者能夠在特定國家定位GPU,以滿足數據駐留和存儲要求。它還將使已經擁有英偉達硬件的公司能夠輕松找到額外的租賃容量。
IDC集團副總裁馬里奧·莫拉萊斯認為,這一平臺是英偉達的一項戰略舉措。“他們擁有近500萬開發者。這是為了讓他們更廣泛、更便捷地訪問英偉達技術。”他指出。
英偉達尚未透露Lepton的商業模式,包括是否會收取傭金或費用。不過,比約林證實,開發者將繼續與他們簽約的計算服務商保持直接關系。