MI300 系列產品概覽
MI300A：CPU 與 GPU 的整合加速處理器（APU）
MI300A 是全球首款將 CPU 和 GPU 整合於單一封裝的資料中心級 APU。
它結合了 24 顆 Zen 4 CPU 核心與 228 個 CDNA 3 GPU 計算單元，配備 128GB 的 HBM3 記憶體，提供高達 5.3 TB/s 的記憶體頻寬。
這種設計適用於需要高效能且低延遲的 HPC 工作負載，如氣候模擬、基因組學和先進材料研究。
MI300X：專為生成式 AI 設計的 GPU 加速器
MI300X 是專門針對大型語言模型（LLM）和生成式 AI 應用設計的加速器。
它擁有 304 個 CDNA 3 計算單元，搭載 192GB 的 HBM3 記憶體，記憶體頻寬達 5.3 TB/s。
這使得 MI300X 能夠在單一 GPU 上處理如 Mixtral 7x8B 等超大型模型，提升推論效率並降低成本。
| 型號 | 組成 | HBM3 容量 / 頻寬 | 峰值 FP8/FP16（TFLOPS） | 針對工作負載 |
|---|---|---|---|---|
| MI300A | 24× Zen 4 CPU + 228× CDNA 3 CU（APU） | 128 GB / 5.3 TB/s | 330 / 165 | HPC (氣象、CFD)、AI 推論 |
| MI300X | 304× CDNA 3 CU（純 GPU） | 192 GB / 5.3 TB/s | 380 / 190 | 70B 參數以上 LLM 訓練/推論 |
主要應用場景
-
生成式 AI
-
單卡 192 GB HBM3 可一次性載入 Mixtral-8x7B、Llama-3-70B 等模型，減少多卡切分與 NVLink 交換延遲。
-
在 512 token 批次的推論測試中，MI300X × 8 相對 H100 × 8 提供約 1.1–1.3× 吞吐，且 GPU 數量更少。
-
-
超級電腦 / HPC
-
美國能源部 El Capitan 超算（> 2 ExaFLOPS）全部採 MI300A，預估 2025 Q4 上線。
-
CPU+GPU 整合架構省去 PCIe/InfinityLink 交換延遲，對迴圈密集的科學模擬尤為有利。
-
-
雲端推論即服務
-
Azure「MAIA AI VM」將 MI300X 作為分片記憶體池，提供多租戶 LLM 推論；AWS、OCI 已在測試。
-
與 NVIDIA H100 的比較
與 NVIDIA 的 H100 相比，MI300X 在以下方面具有優勢：
優勢：單卡大容量、性價比高、El Capitan 超算背書。
劣勢：CUDA 生態優勢仍在；部分 LLM Kernels 尚需手動優化。
| 指標 | MI300X | NVIDIA H100 SXMe | NVIDIA B100 | Intel Gaudi-3 |
|---|---|---|---|---|
| HBM 容量 | 192 GB | 80 GB | 192 GB | 128 GB |
| HBM 頻寬 | 5.3 TB/s | 2.0 TB/s | 5.2 TB/s | 4.8 TB/s |
| FP8 峰值 | 380 TF | 400 TF | 800 TF | 183 TF |
| 每 GB 記憶體成本* | 2.3 $/GB | 5.0 $/GB | 3.8 $/GB | 2.6 $/GB |
| 軟體生態 | ROCm 6（PyTorch 主線支援） | CUDA 12.x | CUDA 12.4 | OneAPI / Habana Gaudi stack |
* 以 2025 Q2 雲端採購批量報價推算。
主要客戶與市場接受度
MI300 系列已被多家大型科技公司採用，包括：
-
Microsoft Azure：在其雲端平台中部署 MI300X 以支援 AI 工作負載。
-
Meta：用於訓練和推論其內部的 AI 模型。
-
Amazon Web Services：將 MI300 系列整合至其雲端基礎設施中。
此外，AMD 於 2024 年收購了 ZT Systems，以加速其 AI 基礎設施的部署，進一步擴大 MI300 系列的市場影響力。
| 客戶 | 部署規模 | 工作負載 | 狀態 |
|---|---|---|---|
| Microsoft Azure | >20 萬顆 MI300X | MAIA VM、Phi-3 訓練 | 2024 Q4 部署中 |
| Meta | 15 萬顆 MI300X | Llama-3 訓練／推論 | 2025 Q1 量產 |
| Oracle Cloud (OCI) | 5 萬顆 | GenAI Service | 已上線 |
| Lawrence Livermore El Capitan | 60 萬顆 MI300A | 核模擬、氣候 | 2025 Q4 啟用 |
| Dell + Supermicro | 機櫃 (8–16 GPU) | 企業私域 LLM | 接單生產 |
營收貢獻
MI300 系列自 2023 年底推出以來，已成為 AMD 成長最快的產品之一。
2024 年第二季，MI300 系列的銷售額超過 10 億美元，佔據 AMD 資料中心業務收入的三分之一以上。
AMD 預計 2024 年 MI300 系列的總營收將達到 40 億美元，顯示出市場對該系列產品的高度需求。
未來展望
成長動能
-
MI325X / MI350 系列（HBM4） 2026 H1 量產，維持容量優勢。
-
ROCm 7.0 引入 Triton compiler、Flash-Attention 3 原生支援，軟體落差加速縮小。
-
開放互聯 UALink 1.0（與思科、博通）可直接串接 1,024 GPU，與 NVLink 4 抗衡。
風險
-
CUDA 生態黏著：雲端客戶大模型遷移成本高。
-
TSMC 3 nm / HBM3E 供應：產能再次吃緊恐限制 MI325X 放量。
-
中國出口限制：MI309 推遲 (H100-CN 替代) 壓縮可銷售區域。
-
Intel Gaudi-3 價格戰：若大型 CSP 大規模導入 Gaudi、壓低租算價格，MI300 ASP 可能下修。
投資者該怎麼看 MI300？
| 指標 | 觀察頻率 | 判讀重點 |
|---|---|---|
| AMD 法說 AI GPU 指引 | 每季 | 是否持續上調；目標 2025 全年 > 85 億美元 |
| Azure / Meta 資本支出 (CapEx) | 每季 | 對「AI 伺服器」項目增減最直接反映拉貨步調 |
| ROCm GitHub 貢獻數 | 每月 | 社群活躍度及主流 LLM kernel merge 進度 |
| TSMC CoWoS 稼動率 | 每季 | 若>90 %，表示仍短缺；放緩則供應改善 |
| 競品 ASP 走勢 | 不定期 | H100/H200降價或 Gaudi-3 折扣將壓縮 AMD 定價空間 |
口袋存股3步驟，5分鐘立即開戶👇
