MTIA 是什麼
MTIA，全名 Meta Training & Inference Accelerator，為 Meta 於二〇二三年首度公開的自研 AI ASIC。
設計目標是「一次性加速社群推薦、生成式 AI 與視覺模型」，降低對第三方 GPU 的依賴並優化能效。
核心架構與規格
| 項目 | MTIA v1 | MTIA v2（開發中） |
|---|---|---|
| 製程 | TSMC 7 nm | TSMC 5 nm |
| 計算核心 | 128×AI Tile（16-bit、8-bit） | 256×AI Tile（支援 FP8、INT4） |
| 片上記憶體 | 128 MB SRAM | 256 MB SRAM |
| 峰值算力 | 102 TOPS FP16 | 280 TOPS FP8 |
| 功耗 | 75 W TDP | 120 W TDP |
| 介面 | PCIe Gen4×16 | PCIe Gen5×16，NVLINK-C |
| 封裝 | CoWoS 2.5D | CoWoS-R 3D |
MTIA 採 大量 SRAM + 中低頻核心 策略，避免外掛 HBM；此設計特別對準 Meta 以記憶體頻寬為主瓶頸的推薦模型推論。
為何 Meta 要做 MTIA
一、成本。在 GPT-4 級推論負載下，外購 GPU 佔資料中心 Opex 超過 35%。
二、能效。MTIA v1 在同樣推薦模型上，每瓦效能約為 A100 的 1.7 倍。
三、垂直整合。自研 ASIC+PyTorch 內部優化，可快速迭代 Llama、Reels 排序等模型。
與 NVIDIA GPU 的差異
| 面向 | MTIA | A100/H100 |
|---|---|---|
| 目標工作負載 | 推論為主、部分訓練前向 | 通用訓練與推論 |
| 記憶體 | 大 SRAM + DDR4 | HBM2e/HBM3 |
| 網路互連 | PCIe + 雲端自研布線 | NVLINK + Infiniband |
| 軟體 | PyTorch Meta fork | CUDA 生態系 |
| 代價 | 每卡約 3000 美元 | 每卡 1.1–1.4 萬美元 |
部署時程與供應鏈
– 2024 Q4：MTIA v1 已在 Prineville 與 Altoona 資料中心上線。
– 2025 H2：MTIA v2 將配合下一代液冷機櫃「Yosemite V5」量產。
– 合作夥伴：台積電製造，日月光 2.5D/3D 封裝；載板由欣興與景碩供應。
對使用者與開發者意味什麼
-
消費者 → Reels 推薦、Instagram 生成式貼圖將有更快響應。
-
開發者 → PyTorch 2.3 後含 MTIA 專屬 API，內部模型可自動映射，不需改寫 CUDA。
投資人觀點
-
毛利率改善。2026 年推論伺服器平均 BOM 成本可望下降 20%。
-
CapEx 彈性。GPU 供應鏈緊缺時，自研 ASIC 可穩定擴容。
-
風險。新製程良率、軟體堆疊成熟度與競爭對手（Google TPU、AWS Trainium）壓力。
小結
MTIA 系列是 Meta 邁向「自有算力」的重要一步。若 v2 能如期量產並接軌下一代 Llama 大模型，將進一步提升 AI 服務效率並優化財務結構。
投資人需跟蹤晶圓良率、PyTorch 兼容進度與 NVIDIA 供應動態，判斷 MTIA 是否能在 2026 之前成為主力推論平台。
