三個重點速覽
1)兩條路線、一個目標:CloudMatrix 走「超大規模資源池化+對等互連」的系統路線,把 CPU/NPU/DPU/記憶體/儲存做成可組合的超節點;NVL72 則以 GB200(Grace+Blackwell)為核心,用 NVLink Switch 把 72 顆 GPU 與 36 顆 CPU 串成低延遲「像一顆超大型 GPU」的單櫃域。
2)規模 vs. 能效/生態:CloudMatrix 384 可把 NPU 數量與總記憶體堆到極大,適合以空間與電力換規模的場域;NVL72 以單位能效、軟體生態與維運成熟度領先,對大多數雲與企業用戶更易落地。
3)在地替代 vs. 全球主流:在中國境內,CloudMatrix 具「可取得+可擴量」優勢,會承接高階在地需求;在全球市場,NVL72 憑 CUDA/工具鏈與供應網絡仍占優。最終勝負取決於三件事:能效、軟體遷移成本與電力可得性。
CloudMatrix 是什麼?
CloudMatrix 是華為把自家 NPU(Ascend)、CPU(Kunpeng)、光互連 與 軟體調度 打包成「超大規模一體化運算節點」的方案,強調資源池化、對等互連(peer-to-peer)與可組合計算(composable)。重點是「把很多算力像同一台超級電腦那樣運作」。
CloudMatrix 384 的代表性實作
-
算力組成:384× Ascend 910C NPU + 192× Kunpeng CPU。
-
互連方式:自研 UB(Unified Bus)全對全(all-to-all)光互連,兩層 Clos 類型路由,低延遲跨節點通訊。
-
資源形態:CPU/NPU/記憶體/儲存/DPU 皆可池化並依工作負載動態編組。
-
工作負載:大規模 LLM、MoE、專家平行(Expert Parallelism)、INT8 等低精度推理與巨量 token 場景。
NVL72 是什麼?
NVL72 是 NVIDIA 以 GB200(Grace CPU+Blackwell GPU)為核心,用 NVLink Switch System 把 72× GPU 與 36× CPU 串成一個單一 NVLink 網域,讓大模型訓練與推論像在「一顆超大型 GPU」上運行,並承接 CUDA 工具鏈與 DGX/NIM 生態。
架構與設計哲學:白話對照表
| 面向 | CloudMatrix | NVL72 |
|---|---|---|
| 設計哲學 | 系統層創新+資源池化:超大規模對等互連,像資料中心級資源網格 | 單櫃低延遲一體化:把單櫃變成「一顆大 GPU」,一致性與延遲極低 |
| 單節點構成 | CM384:384× NPU+192× CPU(可擴更高) | 72× Blackwell GPU+36× Grace CPU |
| 互連網路 | 光互連、UB、兩層 Clos、全對全 | 第 5 代 NVLink+NVLink Switch、單櫃約 130 TB/s GPU-GPU 帶寬 |
| 記憶體規模 | 強調總記憶體量級可非常巨大(非官方多來源估算) | 官方單櫃最高約 13.4 TB HBM3e,一致性與頻寬成熟 |
| 散熱與能效 | 大規模光互連與高密度帶來供電/散熱壓力,能效觀點分歧 | 液冷成熟、每瓦算力與能效領先(依多數工作負載) |
| 軟體生態 | 昇騰軟體棧、MindSpore 等,成長中 | CUDA、TensorRT、cuDNN、NIM、DGX Cloud 等高度成熟 |
| 適用場景 | 硬體可得、願以空間與電力換規模;資源池化利於 MoE/專家平行 | 要求低延遲、能效、生態完整的主流雲與企業場景 |
重點差異:CloudMatrix 推的是「規模與池化」,NVL72 推的是「單櫃低延遲一體化+生態成熟」。
能效、軟體、生態:實際上線會遇到的事
-
能效與 TCO:CloudMatrix 可用堆量換總算力,但功耗/散熱/光模組成本要佔;NVL72 在每瓦算力、散熱設計與上線成熟度上有優勢。
-
軟體遷移成本:NVL72 依靠 CUDA/NIM/DGX 的工具鏈與合作網路,開發與維運人力成本較低;CloudMatrix 生態在追趕,但適配/調優人力需求較高。
-
運維與排程:規模越大,同步通訊、故障域、排程效率、網路拓撲與擁塞控制的重要性越高;CloudMatrix 的池化網格與 NVL72 的單櫃網域,運維挑戰型態不同。
商業與地緣:中國市場與全球市場的兩種敘事
-
中國境內:受出口限制與在地供應鏈政策,CloudMatrix 的「可取得+可擴量」本身是競爭優勢;在特定園區/專案拿到電價補貼時,短期 TCO 具相對性。
-
全球市場:多數企業/雲客戶看重能效、軟體生態、全球維運經驗;NVL72 仍具主導力。CloudMatrix 要走出去,還有認證、供應鏈、軟體生態等關卡。
對資料中心與供應鏈的啟示
-
硬體競賽轉向「系統+互連+資源池」:焦點不只在單卡 TFLOPS,而是整體通訊拓撲、調度與池化效率。
-
互連與光模組關鍵度攀升:400G/800G、LPO、光背板、兩層 Clos、低延遲網域設計將成為資料中心「血管」。
-
散熱與電力工程前置:液冷規劃、機櫃密度、配電與變電容量、PUE 目標,將影響部署時程與 TCO。
-
軟體與人力是隱形成本:生態成熟度直接決定啟動時間、故障率與維運人/時;遷移成本要提前評估。
-
在地化選擇增多:中國境內 CloudMatrix 的可擴量方案會影響本地採購;境外市場仍以 NVL 系列與其生態串聯為主。
常見問題
Q1:CloudMatrix 有沒有比 NVL72「更厲害」的地方?
有。CloudMatrix 在「資源總量與池化」上能做得非常大,適合願意用空間與電力換規模的場景;但在單位能效與生態上,NVL72 目前更成熟。
Q2:只看電價,中國一定便宜嗎?
不一定。補貼與電價政策因地而異,還要加上併網、冷卻、PUE、升級投資等成本。
Q3:為什麼大家強調 NVIDIA 的生態?
因為 CUDA/NIM/驅動/合作伙伴 能把「紙面效能」更快轉換為「可用產能」,降低開發與維運成本。
觀察清單(非投資建議)
-
客戶成功案例:CloudMatrix 在頭部客戶的實際上線數量、稼動率、能效與維運數據。
-
第三方能效實測:每瓦算力、網路延遲、PUE、故障域管理;能效差距是否收斂。
-
軟體生態進度:主流框架對昇騰的適配速度、遷移工具完善度、人才供給。
-
電力與補貼:資料中心電價、接入時程與補貼政策是否延續或擴大。
-
NVL 路線圖:NVL72/144/576 的交付速度、軟體堆疊迭代與 OEM 方案普及。
如何購買 Nvidia 的股票 ?
想買 Nvidia 超簡單,只要有一個美股帳戶就搞定!
推薦你使用 口袋證券,不僅有超優惠的手續費,使用「台幣也能交易美股」,不用另開銀行戶,無論是新手或老手,都能輕鬆投資!
👇點擊下方了解手續費👇
🔥 口袋證券手續費率超划算!
📌 電子下單:交易總額 0.12%(最低3美金)
📌 美股存股:交易總額 0.1%(最低0.1美金)
📌 人工下單:交易總額 1%(最低50美金)
-
用 5 分鐘開口袋證券帳戶,填資料、驗身份。
-
直接下單買 NVDA:
-
打開App「下單匣」,輸入「NVDA」下單(可選擇市價單或限價單)。
-
想要更輕鬆的存股?到 App 內「口袋存股」,搜尋「NVDA」設定扣款金額和頻率,一鍵搞定!
-

⚠️ 小提醒:美股採「圈存」制,下單前請確認口袋錢包有足夠餘額喔!
結語
CloudMatrix 與 NVL72 代表兩條不同的系統演化路徑:前者從「規模與池化」切入,嘗試把異質資源縫成一體化超節點;後者從「單櫃低延遲一體化+成熟生態」出發,強調把訓練/推論變成可複製、可維運的標品。
短中期內,兩者很可能在不同地理與政策環境下並存:CloudMatrix 在中國內需市場具可取得性與擴量優勢;NVL72 在全球市場憑能效與生態保持領先。最終勝負不僅看算力與價格,更取決於 能效、軟體生態與電力可得性 這三件事。



