Có gì mới
Apple công bố hai chip mới cho Mac: M6 dành cho Mac mini và M5 Ultra dành cho Mac Studio. Điểm thay đổi lớn nhất với AI local không nằm ở một benchmark đơn lẻ, mà ở memory capacity và bandwidth.
M6 là chip Apple đầu tiên sản xuất trên tiến trình 2 nm. Cấu hình gồm CPU 12 core — 2 super core, 4 performance core và 6 efficiency core — cùng GPU 12 core, mỗi core có Neural Accelerator. Apple trang bị hai Neural Engine 16 core và cho biết peak compute của khối này cao gấp đôi thế hệ trước.
Theo số liệu Apple công bố, CPU M6 nhanh hơn tối đa 1,2 lần so với M5 ở workload đa luồng và 2,4 lần so với M1. Peak GPU compute cho AI tăng gần 30% so với M5. Chip hỗ trợ tối đa 32 GB unified memory với bandwidth 170 GB/s.
M5 Ultra dùng UltraFusion để nối hai chip M5 Max dual-die thành kiến trúc bốn die. Cấu hình cao nhất có CPU 36 core và GPU 80 core, với Neural Accelerator trong từng GPU core. Apple công bố peak GPU compute cho AI cao hơn tối đa 4,5 lần M3 Ultra, còn graphics performance tăng tối đa 40%.
Thay đổi quan trọng cho AI local
M5 Ultra hỗ trợ tối đa 512 GB unified memory và bandwidth 1,2 TB/s, cao hơn 50% so với M3 Ultra. Dung lượng này cho phép giữ dataset lớn hoặc model hàng trăm tỷ tham số trong một memory pool, thay vì phải offload một phần weights sang storage hay máy khác.
Chip cũng có Neural Engine 32 core và Media Engine chuyên dụng cho H.264, HEVC, ProRes và AV1 decode. Với workload inference, memory capacity là điều kiện để model vừa máy; bandwidth mới quyết định dữ liệu có thể đi qua hệ thống nhanh đến đâu.
Apple nói Core AI, Core ML, Metal và Xcode có thể khai thác CPU, GPU và Neural Engine. Framework hệ thống cũng có thể dùng đồng thời hai Neural Engine trên M6. Dev có thể dùng Apple Foundation Models, App Intents hoặc model riêng để xây workload chạy hoàn toàn trên thiết bị.
Những giới hạn cần đọc cùng benchmark
Các phép đo đều do Apple thực hiện trong tháng 8/2026 trên máy preproduction và một số benchmark được chọn. Vì vậy, các hệ số so sánh chưa thay thế được số đo token/giây, power draw, thermals và latency trên model thật.
512 GB giải quyết bài toán model có vừa memory hay không; nó không tự chứng minh model đủ nhanh, đủ tốt hoặc rẻ hơn inference trên server. Giá của cấu hình đầy đủ và kết quả từ runtime phổ biến sẽ quyết định phần còn lại.
Dev nên quan tâm vì
Nếu dữ liệu không thể rời máy hoặc workload cần model trên 100B tham số, M5 Ultra mở thêm một lựa chọn single-node đáng theo dõi. Hãy chờ benchmark trên đúng model, context length và quantization mà dự án dùng trước khi mua.
Với model nhỏ hơn đã qua acceptance test, M6 hoặc phần cứng hiện có có thể hợp lý hơn. Unified memory lớn là headroom kiến trúc, không phải lý do mặc định để nâng cấp.