加拿大多倫多的近內存計算AI推理芯片創新者Untether AI,在其官方網站上公布了一項重大決定,該決定源自與AMD達成的協議。根據協議條款,Untether AI的整個團隊將整合進AMD,標志著Untether AI將停止對其speedAI和imAIgine SDK的供應和技術支持。
AMD方面也在向媒體CRN發布的聲明中確認了這一戰略收購,強調此次合作使AMD獲得了一支由杰出AI硬件與軟件工程師組成的團隊。
值得注意的是,Untether AI的speedAI240,作為其第二代AI推理加速器芯片,在內存架構中融入了1400個定制的RISC-V內核,能夠提供高達2PFLOPS的推理性能,能效比更是達到了驚人的20 TFLOPS/W。基于這款芯片的AIC卡設計緊湊,僅為單槽厚度,且TDP僅為75W。
當前,AI推理工作負載面臨的一大挑戰在于內存訪問和數據移動的效率。近內存計算和內存內計算作為前沿技術,為解決這一問題提供了新思路。這些架構不僅能夠顯著提升AI性能,還能有效減少數據傳輸帶來的能耗。在存儲領域,三星電子和SK海力士也已推出了基于處理內存(PIM)理念的產品。
AMD此次對Untether AI團隊的吸納,無疑將極大豐富其AI芯片技術棧,進一步增強其與英偉達AI GPU及其他ASIC產品的競爭力。