AMD在近日舉行的AMD Advancing AI 2025活動中，正式揭曉了其備受矚目的下一代開源軟件棧技術——ROCm 7。這一發布標志著AMD在加速AI與提升開發者生產力方面邁出了重要一步。
ROCm 7的問世，是AMD繼ROCm 6之后的又一次重大更新。自AI計算興起以來，ROCm軟件棧經歷了多次迭代與優化。此次ROCm 7的發布，帶來了多項關鍵功能的增強：
首先，ROCm 7引入了最新的算法與模型，為AI應用提供了更為強大的計算基礎。其次，AMD在ROCm 7中加入了擴展AI的高級功能，進一步提升了軟件的靈活性和適用性。ROCm 7還首次支持了MI350系列，為這一系列的用戶提供了更為全面的軟件支持。集群管理和企業級功能的加入，也使得ROCm 7更加適合大規模部署和復雜應用場景。
AMD在ROCm 7中特別強調了其軟件堆棧中日益增長的推理能力。為此，ROCm 7堆棧中包含了增強型框架，如vLLM v1、llm-d和SGLang等，這些框架旨在提供多種優化，以滿足不同場景下的需求。ROCm 7還引入了新的內核和算法，包括GEMM自動調優、MoE、Attention以及基于Python的內核編寫，這些新技術的加入將進一步提升軟件的性能和靈活性。
在數據類型支持方面，ROCm 7也取得了顯著進展。AMD宣布對其MI350系列提供FP6和FP4支持，同時ROCm 7也全面支持FP8、FP6、FP4和混合精度等高級數據類型。這些支持的加入，將使得ROCm 7在處理復雜AI任務時更加得心應手。
從性能表現來看，ROCm 7同樣不負眾望。AMD表示，ROCm 7將推理作為重點，為AI工作負載帶來了高達3.5倍的性能提升。具體來說，相較于ROCm 6，ROCm 7在Llama 3.1 70B上的性能提升了3.2倍，在Qwen2-72B上提升了3.4倍，在DeepSeek R1上更是實現了3.8倍的性能飛躍。
這些顯著的性能提升和新增功能，無疑將使得ROCm 7成為AI領域的一股強勁力量。對于開發者而言，ROCm 7的發布無疑將為他們提供更多的選擇和可能性，助力他們在AI領域取得更加輝煌的成就。
