蘋果公司在其專為Apple Silicon芯片設(shè)計(jì)的機(jī)器學(xué)習(xí)框架MLX上取得了重大進(jìn)展,宣布將支持英偉達(dá)的CUDA技術(shù)。這一創(chuàng)新舉措為人工智能開發(fā)者帶來(lái)了前所未有的靈活性和成本效益,標(biāo)志著跨平臺(tái)開發(fā)的新紀(jì)元。
據(jù)Appleinsider的最新報(bào)道,開發(fā)者現(xiàn)在可以利用MLX框架在搭載Apple Silicon的Mac設(shè)備上開發(fā)AI應(yīng)用,隨后將代碼無(wú)縫遷移至支持CUDA的英偉達(dá)顯卡或服務(wù)器環(huán)境中運(yùn)行。這意味著開發(fā)者可以在macOS系統(tǒng)上輕松構(gòu)建和測(cè)試模型原型,然后在部署階段無(wú)縫過(guò)渡到英偉達(dá)平臺(tái),充分利用其強(qiáng)大的計(jì)算能力。
在此之前,MLX框架主要依賴于蘋果自家的metal框架,限制了其在非macOS系統(tǒng)上的運(yùn)行。開發(fā)者若想在更廣泛的環(huán)境中部署應(yīng)用,往往需要購(gòu)買昂貴的英偉達(dá)硬件進(jìn)行適配和測(cè)試,這無(wú)疑增加了開發(fā)成本和門檻。然而,隨著CUDA支持的加入,這一局面將得到顯著改善。
此次CUDA支持的實(shí)現(xiàn)得益于GitHub開發(fā)者@zcbenz的辛勤付出。他花費(fèi)了數(shù)月時(shí)間進(jìn)行開發(fā)、拆分和整合相關(guān)模塊,最終成功將代碼合并到MLX的主分支中。值得注意的是,這一更新并不意味著Mac設(shè)備將直接支持CUDA或能夠通過(guò)外接顯卡運(yùn)行基于英偉達(dá)的MLX應(yīng)用。其核心在于提供了“代碼導(dǎo)出兼容性”,為跨平臺(tái)部署奠定了堅(jiān)實(shí)基礎(chǔ)。
對(duì)于開發(fā)者而言,這一更新帶來(lái)了顯著的成本控制優(yōu)勢(shì)。他們可以在性能強(qiáng)大且成本更低的Apple Silicon Mac上完成開發(fā)流程,僅在必要時(shí)轉(zhuǎn)移到昂貴的英偉達(dá)硬件上進(jìn)行部署或訓(xùn)練大型模型。這對(duì)于初創(chuàng)團(tuán)隊(duì)和個(gè)人開發(fā)者來(lái)說(shuō),無(wú)疑大大降低了入門門檻,使他們能夠更專注于創(chuàng)新和研發(fā)。
由于英偉達(dá)硬件在AI訓(xùn)練任務(wù)中的卓越表現(xiàn),MLX框架在遷移至CUDA平臺(tái)后,預(yù)計(jì)將獲得遠(yuǎn)超Mac本地的性能提升。這將極大提高訓(xùn)練效率和模型精度,為開發(fā)者帶來(lái)更加高效和準(zhǔn)確的AI解決方案。
這一兼容性拓展不僅保留了Apple Silicon開發(fā)的高效體驗(yàn),還極大地拓展了部署層面的開放性。它可能成為MLX框架邁向更廣泛應(yīng)用生態(tài)的重要里程碑,為人工智能開發(fā)者提供更加靈活和便捷的開發(fā)環(huán)境。