AMD 推進 AI 2025：ROCm 7 - 利用 AI 創新
AMD 大力投資開發開放軟體生態系統，並在 Advancing AI 2025 活動上釋出了 ROCm 版本 7。
高效能硬體只是 AI 成功的一半，另一半則在於配套的軟體。軟體平臺在最大限度地發揮硬體潛力的同時，也為開發者打造友好高效的開發環境，發揮著關鍵作用。Radeon 開放計算平臺（ROCm）證明了 AMD 在硬體和軟體方面始終準備就緒，並專注於構建開放的生態系統。
文章目录
AMD ROCm 7 的效能改進
AMD 推出了效能強勁的 ROCm 7。與 ROCm 6 相比，ROCm 7 的推理能力提升了 3.5 倍，訓練能力也提升了 3 倍。AMD 的內部測試表明，主流 AI 模型的效能得到了顯著提升。例如，使用 Llama 3.1 70B 模型，推理效能提升了 3.2 倍；使用 Qwen2-72B 模型，推理效能提升了 3.4 倍；而使用 DeepSeek R1 模型，與使用 ROCm 6 相比，效能提升了 3.8 倍。
AMD 指出，這些效能飛躍源於多種因素，包括平臺可用性的提升、底層效能最佳化以及對 FP4 和 FP6 等低精度資料型別的更好支援。ROCm 7 還改進了通訊堆疊，從而最佳化了 GPU 利用率和系統元件之間的資料移動。
不過，需要注意的是，與“ROCm 6”的效能比較可能是 AMD 針對該型號首次支援時的 ROCm 6 版本進行的，不一定是最新的穩定版本 ROCm 6.4.1。然而，不可否認的是，ROCm 近年來取得的效能提升是顯著且令人鼓舞的。
ROCm 7 功能和更新
ROCm 7 不僅注重效能，還帶來了許多重要的功能和更新。首先，ROCm 7 支援新的資料型別，增強了對 FP8、FP6、FP4 資料格式以及混合精度計算的支援。這些對於最佳化效能並降低現代 AI 推理任務的記憶體需求至關重要。
ROCm 7 的一大亮點在於其強大且開放的分散式推理方法。AMD 與開源社群以及 SGLang、vLLM 和 llm-d 等熱門框架密切合作，共同開發通用介面和原語。這使得推理應用程式能夠在多個 AMD GPU 之間高效擴充套件。
ROCm 7 增加了新的計算核心和最佳化演算法，包括 GEMM（通用矩陣乘法）自動調整、對混合專家（MoE）模型的支援、高階注意力機制以及允許開發人員在 Python 中建立自定義核心的系統。
ROCm 7 也提升了開發者體驗。該平臺旨在滿足生成式 AI 和 HPC 應用日益增長的需求，同時通過提升可訪問性、提高生產力和促進社群協作來徹底改變開發者體驗。ROCm 7 為 PyTorch 和 TensorFlow 等行業標準 AI 框架提供了更強大的支援。此外，ROCm 7 還提供全新的開發工具、驅動程式、應用程式程式設計介面 (API) 和庫，以加速 AI 解決方案的開發和部署。
擴充套件硬體和作業系統支援
在“推進人工智慧 2025”峰會上，與 ROCm 7 相關的最重要的公告之一是顯著擴充套件了硬體相容性和作業系統支援。AMD 正在通過將 ROCm 支援擴充套件到資料中心之外，實現其“ROCm 無處不在，人人共享”的願景。開發者很快就能在搭載 Radeon GPU 的 PC 和搭載 Ryzen AI APU 的筆記型電腦上構建和執行 AI 應用程式。這將建立一個從客戶端到雲端的一致開發環境，預計將於 2025 年下半年廣泛普及。
另一個值得注意的亮點是，ROCm 7 將使 Windows 成為一款獲得官方全面支援的作業系統。這是一個戰略舉措，因為它為 ROCm 打開了大門，使其能夠接觸到目前主要在 Windows 環境中工作的大量開發人員和使用者，確保原始碼在個人和企業設定中的可移植性和效率。
可以看出，ROCm 是 AMD 在 AI 市場份額爭奪戰中的戰略利器，直接制衡了 NVIDIA CUDA 平臺。多年來，CUDA 的成熟度和普及度一直是競爭對手面臨的一大障礙。憑藉 ROCm 7，AMD 正積極努力縮小這一差距。
“ROCm 無處不在，人人共享”戰略，以及提供 HIPIFY 實用程式（這使得將原始碼從 CUDA 轉換為 ROCm 變得相對容易）等工具，是鼓勵開發人員探索並遷移到 AMD 平臺的重要舉措。長期以來，軟體缺陷一直被認為是 AMD 在 AI 市場上最大的限制之一，但隨著 ROCm 7 的強勁改進，情況正在發生積極變化。
AMD 開發者雲
AMD 開發者雲旨在支援開發者，加速公司 AI 平臺的普及。該服務無需任何初始硬體投資，即可立即訪問 AMD Instinct MI300（即將推出 MI350 系列）GPU、預配置的開發環境以及免費的開發者積分。預裝常用 AI 軟體的 Docker 容器可顯著縮短初始設定時間。
AMD 開發者雲有望幫助降低進入門檻，擴大全球開發者社群、開源專案，尤其是資源有限的個人、初創企業或研究機構獲取下一代 AI 計算能力的渠道。這不僅是一項提供計算資源的服務，也是 AMD 收集使用者早期反饋的戰略工具，從而改進產品並推動 ROCm 平臺和 Instinct 硬體的更廣泛應用。
ROCm 7 的重大改進，尤其是在效能以及擴充套件對 Windows 和主流 Radeon GPU 的支援方面，是 AMD 在 AI 領域與 NVIDIA 保持長期競爭力的關鍵。強大的硬體固然重要，但成熟、易用、高效能且得到廣泛支援的軟體生態系統足以讓開發者和使用者保持參與。NVIDIA 的 CUDA 在這方面擁有巨大的領先優勢。然而，如果 ROCm 7 的改進真的能帶來承諾的競爭效能和體驗，再加上 AMD 硬體潛在的價效比優勢，AI 軟體市場的力量平衡可能會開始發生轉變。Windows 支援將開啟一個巨大的使用者和開發者市場，而此前 ROCm 基本上無法觸及這個市場。
“ROCm 無處不在，人人共享”的戰略以及對熱門開源框架（例如 vLLM、SGLang 以及與 Hugging Face 的合作）的積極支援表明，AMD 不僅試圖自主構建一切，而且還致力於組建一個由開發者、公司和組織組成的“聯盟”，他們渴望找到一個真正開放且強大的 CUDA 平臺替代方案。這種方法不僅加速了 ROCm 的開發和成熟，而且還建立了一個更加多樣化和靈活的生態系統，吸引了那些支援開源理念並希望避免被單一供應商束縛的人們。
