LPU 將挑戰輝達霸權？靠極速推論爆紅，台美股有哪些概念股？

 

本文重點速覽

 

1. 推論速度的突破者：

   • LPU (語言處理單元) 是專為大語言模型 (LLM) 推論設計的硬體，其運算速度可比傳統 GPU 快上數倍，能大幅提升 AI 回答問題的即時性。
      

2. 繞過記憶體瓶頸：

   • 不同於高度依賴 HBM (高頻寬記憶體) 的 GPU，LPU 採用內建 SRAM 架構來解決資料傳輸延遲與 HBM 產能短缺的問題。
      

3. 特定領域的專業工具：

   • 雖然 LPU 在特定語言推論任務表現優異，但其泛用性較 GPU 低，目前主要定位為特定 AI 推論場景的效能強化工具。

 

 

---

 

一、 LPU 是什麼？為什麼它突然受到市場關注？

 

LPU (Language Processing Unit，語言處理單元) 是由新興晶片設計公司 Groq 所提出的概念。它與市場熟悉的 GPU 不同，並非為了圖形渲染或通用計算而生，而是針對「大語言模型 (LLM)」的推論 (Inference) 過程量身打造。
 

在 AI 運作中，訓練模型 (Training) 需要強大的平行運算力，而推論（即模型回答問題的過程）則更強調生成的「速度」與「低延遲」。
 

LPU 的核心優勢在於它解決了目前 AI GPU 普遍面臨的 HBM 供應短缺與數據傳輸速度限制，讓 AI 的文字生成能夠如同真人說話般流暢即時。

 

---

 

二、 技術大比拼：LPU、GPU 與 TPU 有什麼差別？

 

在理解這些技術時，可以將其想像成「全能運動員」與「短跑金牌」的區別。

GPU 依賴外部的高頻寬記憶體 (HBM)，數據必須在記憶體與晶片間來回傳輸，這在處理大量即時對話時會產生延遲。

而 LPU 則將大部分數據存放在晶片內部的 SRAM 中，大幅縮短了數據讀取的距離，這正是 LPU 推論速度能遠超對手的關鍵。

 

三大 AI 晶片架構差異比較表

比較項目	GPU (圖形處理器)	TPU (張量處理器)	LPU (語言處理單元)
主要廠商	NVIDIA	Google	Groq
擅長領域	通用計算、大規模模型訓練	矩陣運算、雲端模型訓練	語言模型推論、極低延遲生成
記憶體架構	依賴 HBM (外部記憶體)	依賴 HBM (外部記憶體)	採用 SRAM (晶片內部)
泛用性	極高，適用所有 AI 任務	高，針對特定深度學習框架優化	低，專攻特定語言模型推論
核心優點	產業鏈成熟、軟硬體生態系強大	雲端整合度高、大規模運算效率佳	極速反應、無外部記憶體傳輸延遲

 

延伸：GPU vs. TPU vs. LPU ，他們的差別是甚麼？輝達為何「挖角」Groq？

---

 

三、 台美股概念股：誰在支持 LPU 與相關晶片？

 

雖然研發 LPU 的指標企業 Groq 目前尚未公開上市，但這類專用型 AI 晶片 (ASIC) 的架構與生產鏈，與台美兩地的半導體龍頭緊密相連。

任何先進的 AI 晶片都離不開頂尖的晶圓代工產能與後端設計服務。

 

相關受惠標的一覽表

市場	公司名稱 (代號)	產業角色與關聯性
台股	台積電 (2330)	全球 AI 晶片與先進製程的核心代工廠，掌握高階晶片製造命脈。
台股	世芯-KY (3661)	協助大型雲端公司與新創開發自研 AI 晶片 (ASIC) 的領導廠商。
台股	創意 (3443)	提供 AI 晶片後端設計服務與 IP 授權，受惠於專用晶片開案量增加。
美股	NVIDIA (NVDA)	雖面臨 LPU 挑戰，但仍主導整體 AI 算力與訓練市場的絕對龍頭。
美股	Broadcom (AVGO)	客製化 AI 晶片 (ASIC) 設計與高階網通傳輸的全球霸主。
美股	Marvell (MRVL)	專注於資料中心光通訊傳輸與高效能客製化晶片解決方案。

 

---

 

四、 產業發展的關鍵觀察點

 

在觀察 LPU 帶動的產業變革時，市場動態將圍繞以下幾個核心變數：

 

• 成本與擴充性挑戰：

  • SRAM 的製造成本遠高於 HBM，且晶片面積利用率較低。這意味著 LPU 若要處理超大型參數模型，需要串聯極多數量的晶片，硬體的總體投資成本將成為商用普及的關鍵變數。
     

• 軟體生態系的建立：

  • NVIDIA 擁有極其強大的 CUDA 軟體護城河。LPU 等新興架構能否快速整合進現有的開發者環境並降低轉移成本，是其能否規模化的先決條件。
     

• 供應鏈輪動方向：

  • 當 HBM 成為產能瓶頸時，市場會積極尋找替代方案（如 LPU 架構或邊緣運算解決方案）。資金是否從傳統記憶體族群轉向 IC 設計服務 (ASIC) 板塊，為後續關注的焦點。

 

---

 

五、 FAQ 常見問題

 

Q1：LPU 未來會完全取代 GPU 嗎？

A： 結論是：短期內不會取代，兩者更偏向「分工合作」的關係。理由是：GPU 具備極強的通用性，適合用於繁重的模型訓練與多樣化的科學計算；而 LPU 則是針對特定 AI 推論任務進行極致優化的工具。未來的資料中心可能採取混合架構，由 GPU 負責底層模型訓練，LPU 則專責面向終端使用者的即時推論服務。

 

Q2：LPU 相關概念股最大的產業風險是什麼？

A： 結論是：技術迭代速度極快以及特定架構的製造成本過高。理由是：LPU 採用的 SRAM 架構雖然運算與讀取速度極快，但晶片面積利用率較低且價格昂貴。若未來 HBM 技術產能大幅釋放或價格顯著下降，LPU 的成本優勢可能會被大幅削弱。此外，AI 領域硬體架構變革迅速，新一代技術的出現可能隨時顛覆目前的競爭格局。

 

Q3：LPU 與 TPU 在應用場景上有何不同？ (同族群比較題)

A： 結論是：LPU 側重於「極速即時對話」，而 TPU 側重於「高效能雲端大規模運算」。理由是：LPU 透過全 SRAM 架構達成極低延遲，最適合需要秒回的聊天機器人與語音助理等推論場景；TPU 則是 Google 為了處理海量矩陣運算而設計，特別適合在 Google Cloud 上進行大規模的深度學習訓練與巨量資料推理任務，兩者的優化目標與資源配比有顯著差異。

延伸閱讀 :口袋證券是什麼？是合法券商嗎？會不會是詐騙？
 

怎麼買 世芯-KY (3661) 的股票？