Tóm tắt số liệu
Epoch AI công bố breakdown chi phí component cho toàn bộ AI chip do Nvidia, AMD, Google, Amazon thiết kế, weighted theo production volume, giai đoạn Q1 2024 → Q4 2025:
- Memory (HBM): 52% → 63% share
- Logic dies: ~13% (gần như đứng yên)
- Advanced packaging (CoWoS): 19% → 15%
- Auxiliary components: 15% → 9%
Về con số tuyệt đối, chi tiêu HBM của 4 nhà thiết kế này tăng từ khoảng $12B (2024) lên $32B (2025) — tốc độ tăng year-over-year nhanh nhất trong tất cả component.
Tổng chi tiêu component AI chip tăng từ ~$22B (2024) lên ~$52B (2025); riêng HBM đóng góp khoảng $20B trong mức tăng đó.
Vì sao HBM share tiếp tục tăng trong 2026
Nguồn cung HBM vẫn căng và giá tiếp tục lên. Hyperscaler đã price-in điều này vào capex:
- Microsoft: capex FY2026 outlook $190B, trong đó ~$25B đến từ việc giá component tăng.
- Meta: nâng range capex 2026 thêm $10B, cùng lý do.
Phương pháp
Với mỗi chip do Nvidia/AMD/Google/Amazon thiết kế, Epoch ước lượng per-chip cost cho 4 category:
- Memory: HBM stack (HBM3, HBM3e).
- Logic: advanced-node logic die (3–5nm).
- Packaging: TSMC CoWoS advanced packaging.
- Auxiliary: substrate, power delivery, các input non-logic non-memory khác.
Per-chip cost được nhân với production volume hàng quý để ra tổng chi tiêu mỗi category — sau đó tính share theo quý.
Mỗi component cost dùng 90% confidence interval. Epoch report 2 bound trên share:
- Range khi chỉ component này dao động giữa percentile 5–95, các component khác giữ ở median.
- Range khi mọi component cùng dao động về extreme đối lập.
Q4 2025 detail (median | full CI khi tất cả vary):
| Component | Share | Range tất cả vary |
|---|---|---|
| Memory | 63% | 54–73% |
| Logic | 13% | 9–19% |
| Packaging | 15% | 9–22% |
| Auxiliary | 10% | 7–12% |
Ý nghĩa với dev
- Bottleneck inference cost = memory bandwidth, không phải FLOPs: trong 12 tháng tới, kiến trúc tận dụng tốt KV cache, quantization, attention efficiency, speculative decoding sẽ có lợi thế giá rõ rệt so với kiến trúc memory-bound naive.
- Pricing model API sẽ phản ánh điều này: kỳ vọng provider chuyển dịch giá theo input/output token và context length theo cách phạt mạnh hơn long-context — vì KV cache là phần ngốn HBM nhất.
- Capex tăng không có nghĩa giá cuối giảm: hyperscaler đang nội-bộ-hóa cú sốc HBM. Nếu bạn build trên proprietary API, đừng kỳ vọng compute cost rơi tuyến tính theo Moore’s law trong giai đoạn này.
- Lựa chọn hardware/model: model nào nén context (Mamba-style, hybrid attention, sparse expert) sẽ economical hơn dense transformer cùng size khi HBM còn căng.
Giới hạn dữ liệu
Component cost biến động theo contract, supplier, timing — nên per-chip estimate mang uncertainty. Ước lượng số chip sản xuất mỗi quý và chip-type mix cũng có sai số, cả hai propagate vào share báo cáo.
Dữ liệu chi tiết và methodology nằm trong AI Chip Components explorer của Epoch AI.