Tin nổi bật
M5 Ultra đưa 512 GB unified memory lên bàn, nhưng RAM chưa phải ROI https://www.apple.com/newsroom/2026/08/apple-introduces-m6-and-m5-ultra-for-a-big-leap-in-performance-and-ai-compute/
Apple công bố M5 Ultra với 512 GB unified memory và memory bandwidth 1,2 TB/s. Cấu hình cao nhất có 36 CPU core, 80 GPU core; hãng nói dung lượng ấy có thể giữ model hàng trăm tỷ tham số hoàn toàn trên máy. Đây là thay đổi đáng kể hơn cụm “AI compute” trong tiêu đề: nó loại bỏ đường vòng offload cho một lớp thử nghiệm local trước đây phải sang server. M6 rẻ hơn chỉ dừng ở 32 GB, dù có Dual 16-core Neural Engine và 170 GB/s.
Nhưng khả năng chứa model không chứng minh throughput, quality hay tổng chi phí. Trong thread 657 bình luận, SilverSlash hỏi thẳng ai thực sự cần 512 GB; SXX đưa mức nâng 96→256 GB ở Mỹ là $4.000. Mình sẽ coi M5 Ultra là một option kiến trúc cho dữ liệu phải ở local, không phải lời khuyên mua mặc định. Nếu workload có model trên 100B, hãy chờ benchmark token/giây, điện năng và giá cấu hình 512 GB. Nếu model nhỏ hơn đã đạt acceptance test, thêm RAM chỉ mua headroom đắt tiền.
Hai link mình giữ lại
Jalapeño thắng benchmark sớm; production vẫn còn ở 2027 https://newsletter.semianalysis.com/p/openai-jalapeno-better-than-nvidia
SemiAnalysis nói đã xem chip A0 chạy InferenceX tại lab: hơn 700 token/giây/người dùng cho DeepSeek R1 ở concurrency 1, nhưng toàn bộ số liệu do OpenAI cung cấp, chưa chạy full suite hoặc AgentX. Production chỉ ramp dần trong 2027. Mình xem đây là bằng chứng ASIC tùy biến đã đáng gờm, chưa phải lý do đổi hạ tầng.
Đừng publish VM image đã từng giữ token https://cua.ai/docs/how-to-guides/sandbox/minecraft
Guide của cua.ai tìm lại được tên profile, UUID và JWT Mojang từ pagefile.sys, phần slack của log và cluster đã giải phóng, dù đã xoá accounts.json rồi zero-fill. Quy tắc đáng mang sang mọi agent sandbox: build image sạch trước khi đăng nhập, không clone máy đã có credential. orbital-decay cũng đúng khi nhắc tool chuyên dụng thường hiệu quả hơn computer-use.
Điểm nối
Local AI đang tách làm hai thị trường: mua memory để giữ model, hoặc mua watt để phục vụ token.
— Tin