HBM3E做甚麼的？高頻寬記憶體升級一看就懂AI算力瓶頸！

日益巨大的 AI 模型需要前所未見的記憶體頻寬與容量，GDDR6 已難以滿足。HBM3E 憑藉超過 1 TB/s 的匯流排速度，成為 NVIDIA、AMD、Intel 新一代 AI 加速卡必備元件。

它如何透過「3D 堆疊＋超寬 I/O」大幅降低延遲、節能並提升算力？對投資人而言，又將帶動哪些供應鏈與資本支出？本文一次說清楚。

 

HBM3E 是什麼？

 

HBM（High Bandwidth Memory） 系列由 JEDEC 標準組織制定，利用 TSV（穿矽通孔）與微凸塊將多層 DRAM 晶粒垂直堆疊，再透過超寬 I/O 與 GPU/CPU 近距離整合，提供遠高於 GDDR 的頻寬且功耗更低。

 

• HBM3（2022）：每 pin 最高 6.4 Gb/s，單堆疊 819 GB/s。
   

• HBM3E（2024 標準化）：每 pin 8.0 Gb/s，12-Hi 堆疊頻寬可達 1.2 TB/s，容量 24–36 GB。
   

• 應用：NVIDIA H200、B100／GB200、AMD MI350、Intel Gaudi 3 等 AI 加速器，以及高端 HPC、5G 基站 ASIC。

 

優勢與風險／優缺點比較

項目	優勢	風險
頻寬密度	12-Hi 36 GB 堆疊 1.2 TB/s，同容量 GDDR6X 僅 ~0.2 TB/s	製程及堆疊良率要求高，成本昂貴
功耗效率	每 bit 傳輸能耗 < 3 pJ，遠低於 GDDR	散熱需求嚴格，CoWoS 封裝成本高
封裝整合	與 GPU 短距離，延遲明顯降低	需高階 2.5D/3D 封裝產能，供應鏈緊俏
市場需求	AI、HPC 需求爆發；整機功耗下降	總產能 2024 仍稀缺，易推高價格，限制滲透率
供應商寡占	SK hynix、Samsung、Micron 三巨頭主導	任何一家良率失衡都可能影響供應穩定

關鍵數據 & 市場現況

指標	HBM3E 數值	前代 HBM3	資料來源
單 pin 速度	8.0 Gb/s	6.4 Gb/s	JEDEC JESD238
單堆疊容量	24–36 GB	24 GB	供應商白皮書
單堆疊頻寬	1.0–1.2 TB/s	819 GB/s	同上
全機 AI GPU 搭載量	144–288 GB（4–8 堆疊）	96–192 GB	NVIDIA、AMD 規格表
2024 產能	~200K 片/月（12-Hi）	150K 片/月	TrendForce 2024Q4
ASP（12-Hi）	US$ 260–300	US$ 200–230	市場報價

與同類競品公司比較

 

規格對比

介面	年份	單堆疊頻寬	資料寬度	I/O 速度	最大容量
HBM3E	2024	1.2 TB/s	12,288 bit	8 Gb/s	36 GB
HBM3	2022	819 GB/s	12,288 bit	6.4 Gb/s	24 GB
GDDR6X	2020	1.0 TB/s（16 chip）	256 bit	22 Gb/s	32 GB
GDDR7	2024E	1.5 TB/s（16 chip）	256 bit	36 Gb/s	32 GB

供應鏈與技術進度

供應商	HBM3E 良率現況	量產節點	主要客戶	封裝合作
SK hynix	>70 %（領先）	1α nm	NVIDIA、AMD	台積電 CoWoS
Samsung	~65 %	1α nm + EUV	AMD、Intel	自家 I-Cube3
美光(MU)	~60 %	1β nm	NVIDIA、AMD	台積電 CoWoS、Amkor

 

投資小提醒

• 產能瓶頸：HBM3E 需先進 DRAM 製程 + TSV + 2.5D 封裝，多重產能鎖鏈一環斷裂即延遲交貨。
   

• 成本滲透率：HBM3E 成本占 GPU BOM 比例 20–30 %，若 AI 伺服器需求回調，價格彈性大。
   

• 技術迭代風險：JEDEC 已討論 HBM4 (≧1.6 TB/s) 標準，若 2026H2 推出，HBM3E 產品週期縮短。
   

• 客戶集中度：AI GPU 主要是 NVIDIA/AMD 雙寡占，一旦設計更換或產能調度，供應商將面臨議價壓力。

 

如何購買 HBM3E 概念股？

想買 HBM3E 概念股超簡單，只要有一個美股帳戶就搞定！

推薦你使用 口袋證券，不僅有超優惠的手續費，更能輕鬆定額購買美股ETF，無論是新手或老手，都能輕鬆搞定！

 

👇點擊下方了解手續費👇

🔥 口袋證券手續費率超划算！

---

📌 電子下單：交易總額 0.12%（最低3美金）
 

📌 美股存股：交易總額 0.1%（最低0.1美金）
 

📌 人工下單：交易總額 1%（最低50美金）
 

👉最新手續費、開戶活動、QA 請點這裡👈

1. 用 5 分鐘開口袋證券帳戶，填資料、驗身份。
    

2. 從 28 家合作銀行中，挑一家綁定後匯款進口袋錢包。也可以從 24 家配合的銀行設定自動扣款喔。 (詳細教學 & 配合銀行)

3. 直接下單買概念股(以 MU 為例)：

   1. 打開App「下單匣」，輸入「MU」下單（可選擇市價單或限價單）。
       

   2. 想要更輕鬆的存股？到 App 內「口袋存股」，搜尋「MU」設定扣款金額和頻率，一鍵搞定！

⚠️ 小提醒：美股採「圈存」制，下單前請確認口袋錢包有足夠餘額喔！
 

👉最新手續費、開戶活動、QA 請點這裡👈

 

結論

 

HBM3E 以 3D 堆疊與 8 Gb/s I/O 打破記憶體頻寬瓶頸，讓 AI 伺服器算力充分釋放。

雖產能、成本與競爭風險仍在，但在 AI 與 HPC 長期需求帶動下，HBM3E 將成為 2024–2026 記憶體產業最大增量動能。

 

口袋最殺優惠搶先看 | 點擊詳閱👇