本文重點速覽
-
戰略思維轉變:
-
NVIDIA 未來架構不再追求用同一款 GPU 解決所有問題,而是針對 LLM(大型語言模型)的訓練、預填充、解碼三階段,提供不同的硬體組合。
-
-
降本增效新武器:
-
針對「推論:預填充階段」,推出搭載 GDDR7 的 Rubin CPX 解決方案,用較便宜的記憶體取代昂貴的 HBM,大幅降低成本。
-
-
市場分眾化:
-
推論解碼階段將市場一分為二,一般用戶搭「貨輪」(現有 GPU),高端用戶搭「飛機」(LPU + SRAM),滿足不同層級的延遲與成本需求。
-
一、 核心概念:在正確的階段,用正確的硬體
過去我們認為 NVIDIA 的 GPU 是萬能的,無論是訓練 AI 還是跑 AI,似乎都得靠那幾顆昂貴的 H100 或 B200。但 NVIDIA 未來的核心哲學即將轉變成:
「不是一顆 GPU 解決所有問題,而是在正確的階段,用正確的硬體,解決正確的問題。」
這意味著 NVIDIA 正在將 AI 的工作流程精細化拆解,並為每一個環節打造專屬的「特種部隊」。
二、 第一階段:訓練—— 算力軍備競賽
這是目前市場最熟悉的階段,也是「軍備競賽」的主戰場。
-
需求痛點:訓練一個大模型需要吞噬海量的數據,因此對 「海量記憶體」、「高算力」 以及 「高頻寬」 有著極致的要求。
-
解決方案:目前的 NVIDIA GPU(如配備 HBM 高頻寬記憶體的系列)。
-
策略解讀:在這個階段,成本不是首要考量,速度與吞吐量才是王道。這解釋了為什麼 HBM 記憶體供不應求。
三、 第二階段:推論 - 預填充階段—— 性價比的逆襲
當 AI 開始進行推論(回答問題)前的準備工作時,需求發生了變化。
-
需求痛點:預填充更偏算力與容量需求,對 HBM 的極致頻寬依賴度相對解碼階段低,因而可能出現用 GDDR 類記憶體做成本優化的空間。。
-
新解決方案:Rubin CPX。
-
技術亮點:
-
捨棄了昂貴且產能受限的 HBM。
-
改用 高容量、低速的 GDDR7 記憶體。
-
-
策略解讀:GDDR7 比 HBM 便宜非常多。NVIDIA 透過這個新產品線,精準切入「不需要極速頻寬」的場景,幫助客戶大幅降低建置成本。這是一個非常聰明的商業區隔策略。
四、 第三階段:推論 - 解碼階段—— 貨輪與飛機
當 AI 正式開始生成內容(解碼)時,NVIDIA 將市場需求進一步細分為兩種不同的客群,形象地比喻為「貨輪」與「飛機」。
1. 高吞吐量需求—— 「貨輪模式」
-
隱喻:就像海運貨輪,載貨量大(數量大),速度不快,但運費便宜。
-
適用硬體:當前的 GPU 適用。
-
目標受眾:一般用戶。
-
場景:當你使用 LLM 或一般客服機器人時,系統追求的是一次服務最多人,稍微慢個 0.5 秒沒關係,重點是成本要低。
2. 低延遲需求—— 「飛機模式」
-
隱喻:就像空運飛機,載貨量少(數量少),速度超快,但運費昂貴。
-
適用硬體:LPU 技術 + GPU & SRAM。
-
目標受眾:高端用戶(願意為速度付費的人)。
-
場景:高頻交易、即時口譯、自動駕駛決策等對「延遲」零容忍的場景。這裡引入了 SRAM 與 LPU 概念與技術,顯示 NVIDIA 正準備防堵 Groq 等新創公司的挑戰。
五、 結論:NVIDIA 的護城河再次加深
NVIDIA 並沒有躺在功勞簿上。面對 AMD 的追趕以及 ASIC 廠商的挑戰,NVIDIA 透過「產品細分化」來鞏固江山:
-
守住高階:訓練端繼續推高 HBM 規格。
-
降維打擊:推論預填充端用 GDDR7/Rubin CPX 搶攻性價比市場。
-
防堵新創:推論解碼端引入 LPU/SRAM 概念,不讓對手在低延遲領域有可乘之機。
對於投資人而言,這代表 NVIDIA 未來的營收結構將更為健康,不再單純依賴單一高價產品,而是能吃到 AI 產業鏈中每一個環節的利潤。
怎麼買 NVIDIA (NVDA) 的股票?
想買 NVIDIA 超簡單,只要有一個美股帳戶就搞定!
推薦你使用 口袋證券,不僅有超優惠的手續費,使用「台幣也能交易美股」,不用另開銀行戶,無論是新手或老手,都能輕鬆投資!
👇點擊下方了解手續費👇
🔥 口袋證券手續費率超划算!
📌 電子下單:交易總額 0.12%(最低3美金)
📌 美股存股:交易總額 0.1%(最低0.1美金)
📌 人工下單:交易總額 1%(最低50美金)
-
用 5 分鐘開口袋證券帳戶,填資料、驗身份。
-
直接下單買 NVIDIA:
-
打開App「下單匣」,輸入「NVDA」下單(可選擇市價單或限價單)。
-
想要更輕鬆的存股?到 App 內「口袋存股」,搜尋「NVDA」設定扣款金額和頻率,一鍵搞定!
-

⚠️ 小提醒:美股採「圈存」制,下單前請確認口袋錢包有足夠餘額喔!



