CloudMatrix 是甚麼?有機會超越 Nvidia 的 NVL72 嗎?

口袋學堂編輯團隊
口袋學堂編輯團隊市場分析師更新於 2025/11/12

AI 速讀・三點掌握全文

  • •CloudMatrix走資源池化路線而NVL72強調單櫃低延遲
  • •NVL72憑藉成熟的軟體生態與高能效在全球市場占優勢
  • •CloudMatrix在中國市場具備可取得與可擴量的在地優勢
CloudMatrix 是甚麼?有機會超越 Nvidia 的 NVL72 嗎?

三個重點速覽


1)兩條路線、一個目標:CloudMatrix 走「超大規模資源池化+對等互連」的系統路線,把 CPU/NPU/DPU/記憶體/儲存做成可組合的超節點;NVL72 則以 GB200(Grace+Blackwell)為核心,用 NVLink Switch 把 72 顆 GPU 與 36 顆 CPU 串成低延遲「像一顆超大型 GPU」的單櫃域。

2)規模 vs. 能效/生態:CloudMatrix 384 可把 NPU 數量與總記憶體堆到極大,適合以空間與電力換規模的場域;NVL72 以單位能效、軟體生態與維運成熟度領先,對大多數雲與企業用戶更易落地。

3)在地替代 vs. 全球主流:在中國境內,CloudMatrix 具「可取得+可擴量」優勢,會承接高階在地需求;在全球市場,NVL72 憑 CUDA/工具鏈與供應網絡仍占優。最終勝負取決於三件事:能效、軟體遷移成本與電力可得性。

 

CloudMatrix 是什麼?

 

CloudMatrix 是華為把自家 NPU(Ascend)、CPU(Kunpeng)、光互連 與 軟體調度 打包成「超大規模一體化運算節點」的方案,強調資源池化、對等互連(peer-to-peer)與可組合計算(composable)。重點是「把很多算力像同一台超級電腦那樣運作」。

 

CloudMatrix 384 的代表性實作

 

  • 算力組成:384× Ascend 910C NPU + 192× Kunpeng CPU。

  • 互連方式:自研 UB(Unified Bus)全對全(all-to-all)光互連,兩層 Clos 類型路由,低延遲跨節點通訊。

  • 資源形態:CPU/NPU/記憶體/儲存/DPU 皆可池化並依工作負載動態編組。

  • 工作負載:大規模 LLM、MoE、專家平行(Expert Parallelism)、INT8 等低精度推理與巨量 token 場景。

 


NVL72 是什麼?

 

NVL72 是 NVIDIA 以 GB200(Grace CPU+Blackwell GPU)為核心,用 NVLink Switch System 把 72× GPU 與 36× CPU 串成一個單一 NVLink 網域,讓大模型訓練與推論像在「一顆超大型 GPU」上運行,並承接 CUDA 工具鏈與 DGX/NIM 生態。

 


架構與設計哲學:白話對照表

 

面向 CloudMatrix NVL72
設計哲學 系統層創新+資源池化:超大規模對等互連,像資料中心級資源網格 單櫃低延遲一體化:把單櫃變成「一顆大 GPU」,一致性與延遲極低
單節點構成 CM384:384× NPU+192× CPU(可擴更高) 72× Blackwell GPU+36× Grace CPU
互連網路 光互連、UB、兩層 Clos、全對全 第 5 代 NVLink+NVLink Switch、單櫃約 130 TB/s GPU-GPU 帶寬
記憶體規模 強調總記憶體量級可非常巨大(非官方多來源估算) 官方單櫃最高約 13.4 TB HBM3e,一致性與頻寬成熟
散熱與能效 大規模光互連與高密度帶來供電/散熱壓力,能效觀點分歧 液冷成熟、每瓦算力與能效領先(依多數工作負載)
軟體生態 昇騰軟體棧、MindSpore 等,成長中 CUDA、TensorRT、cuDNN、NIM、DGX Cloud 等高度成熟
適用場景 硬體可得、願以空間與電力換規模;資源池化利於 MoE/專家平行 要求低延遲、能效、生態完整的主流雲與企業場景

 

重點差異:CloudMatrix 推的是「規模與池化」,NVL72 推的是「單櫃低延遲一體化+生態成熟」。

 


能效、軟體、生態:實際上線會遇到的事

 

  • 能效與 TCO:CloudMatrix 可用堆量換總算力,但功耗/散熱/光模組成本要佔;NVL72 在每瓦算力、散熱設計與上線成熟度上有優勢。
     

  • 軟體遷移成本:NVL72 依靠 CUDA/NIM/DGX 的工具鏈與合作網路,開發與維運人力成本較低;CloudMatrix 生態在追趕,但適配/調優人力需求較高。
     

  • 運維與排程:規模越大,同步通訊、故障域、排程效率、網路拓撲與擁塞控制的重要性越高;CloudMatrix 的池化網格與 NVL72 的單櫃網域,運維挑戰型態不同。

 


商業與地緣:中國市場與全球市場的兩種敘事

 

  • 中國境內:受出口限制與在地供應鏈政策,CloudMatrix 的「可取得+可擴量」本身是競爭優勢;在特定園區/專案拿到電價補貼時,短期 TCO 具相對性。
     

  • 全球市場:多數企業/雲客戶看重能效、軟體生態、全球維運經驗;NVL72 仍具主導力。CloudMatrix 要走出去,還有認證、供應鏈、軟體生態等關卡。

 


對資料中心與供應鏈的啟示

 

  1. 硬體競賽轉向「系統+互連+資源池」:焦點不只在單卡 TFLOPS,而是整體通訊拓撲、調度與池化效率。
     

  2. 互連與光模組關鍵度攀升:400G/800G、LPO、光背板、兩層 Clos、低延遲網域設計將成為資料中心「血管」。
     

  3. 散熱與電力工程前置:液冷規劃、機櫃密度、配電與變電容量、PUE 目標,將影響部署時程與 TCO。
     

  4. 軟體與人力是隱形成本:生態成熟度直接決定啟動時間、故障率與維運人/時;遷移成本要提前評估。
     

  5. 在地化選擇增多:中國境內 CloudMatrix 的可擴量方案會影響本地採購;境外市場仍以 NVL 系列與其生態串聯為主。

 


常見問題

 

Q1:CloudMatrix 有沒有比 NVL72「更厲害」的地方?
有。CloudMatrix 在「資源總量與池化」上能做得非常大,適合願意用空間與電力換規模的場景;但在單位能效與生態上,NVL72 目前更成熟。

 

Q2:只看電價,中國一定便宜嗎?
不一定。補貼與電價政策因地而異,還要加上併網、冷卻、PUE、升級投資等成本。

 

Q3:為什麼大家強調 NVIDIA 的生態?
因為 CUDA/NIM/驅動/合作伙伴 能把「紙面效能」更快轉換為「可用產能」,降低開發與維運成本。

 


觀察清單(非投資建議)

  1. 客戶成功案例:CloudMatrix 在頭部客戶的實際上線數量、稼動率、能效與維運數據。

  2. 第三方能效實測:每瓦算力、網路延遲、PUE、故障域管理;能效差距是否收斂。

  3. 軟體生態進度:主流框架對昇騰的適配速度、遷移工具完善度、人才供給。

  4. 電力與補貼:資料中心電價、接入時程與補貼政策是否延續或擴大。

  5. NVL 路線圖:NVL72/144/576 的交付速度、軟體堆疊迭代與 OEM 方案普及。

 

如何購買 Nvidia 的股票 ?

想買 Nvidia 超簡單,只要有一個美股帳戶就搞定!

推薦你使用 口袋證券,不僅有超優惠的手續費,使用「台幣也能交易美股」,不用另開銀行戶,無論是新手或老手,都能輕鬆投資!

 

👇點擊下方了解手續費👇

🔥 口袋證券手續費率超划算!


📌 電子下單:交易總額 0.12%(最低3美金)
 

📌 美股存股:交易總額 0.1%(最低0.1美金)
 

📌 人工下單:交易總額 1%(最低50美金)
 

👉最新手續費、開戶活動、QA 請點這裡👈

  1. 用 5 分鐘開口袋證券帳戶,填資料、驗身份。
     

  2. 從 30+ 家合作銀行中,挑選一家綁定後匯款進口袋錢包,即可交易美股,美股採圈存交割喔 (詳細教學 & 配合銀行)
     

  3. 直接下單買 NVDA:

    1. 打開App「下單匣」,輸入「NVDA」下單(可選擇市價單或限價單)。
       

    2. 想要更輕鬆的存股?到 App 內「口袋存股」,搜尋「NVDA」設定扣款金額和頻率,一鍵搞定!


⚠️ 小提醒:美股採「圈存」制,下單前請確認口袋錢包有足夠餘額喔!
 

👉最新手續費、開戶活動、QA 請點這裡👈


結語

 

CloudMatrix 與 NVL72 代表兩條不同的系統演化路徑:前者從「規模與池化」切入,嘗試把異質資源縫成一體化超節點;後者從「單櫃低延遲一體化+成熟生態」出發,強調把訓練/推論變成可複製、可維運的標品。

 

短中期內,兩者很可能在不同地理與政策環境下並存:CloudMatrix 在中國內需市場具可取得性與擴量優勢;NVL72 在全球市場憑能效與生態保持領先。最終勝負不僅看算力與價格,更取決於 能效、軟體生態與電力可得性 這三件事。

錢進美股,從口袋美股開始

讓世界一流企業替你打工賺錢

立即開美股
口袋學堂編輯團隊
口袋學堂編輯團隊市場分析師

專注於台股產業鏈深度解析、美股總體經濟脈動與全球 ETF 資產配置,以嚴謹數據與結構化觀點為底層邏輯,致力於為投資人過濾市場雜訊,建立清晰、即時且具實戰價值的決策地圖

免責聲明 (Disclaimer)

本報告及文章所載之資訊僅供一般性參考,不構成投資建議。

為這篇文章評分

立即開戶