Tin nổi bật
MiMo-V2.5-Pro UltraSpeed: 1T model chạm 1000 tokens/giây trên 8 GPU thường · 6 phút https://mimo.xiaomi.com/blog/mimo-tilert-1000tps
Xiaomi vừa làm điều mà Cerebras và Groq phải dùng phần cứng chuyên dụng (Wafer-Scale, on-chip SRAM) mới đạt được — phá mốc 1000 tps trên model 1T parameter, nhưng chỉ với một node 8 GPU thương mại. Hai mảnh ghép kỹ thuật đáng học: FP4 QAT chỉ quantize phần MoE Experts (chỗ chiếm phần lớn params và chịu lossy tốt nhất), giữ nguyên độ chính xác cho các module còn lại; và DFlash speculative decoding dùng block-level masked parallel prediction thay cho draft model truyền thống. Tốc độ này thay đổi cách bạn build coding agent — Best-of-N với hàng chục reasoning paths chạy song song trong cùng latency budget mà trước đây chỉ đủ cho một lượt suy luận. API mở đăng ký giới hạn từ 9 → 23/6 với giá gấp 3 nhưng cho 10× throughput; có chat free trong thời gian trial nếu được duyệt.
Models & Tools
Apple Core AI Beta: framework on-device cho neural network thật sự · 5 phút https://developer.apple.com/documentation/coreai/
Khác Core ML thiên về decision tree và tabular features, Core AI tập trung chạy neural network architecture hiện đại trên Apple silicon — CPU, GPU và Neural Engine — qua Swift API mới. Workflow gồm Core AI Optimization để chuẩn bị model, Core AI PyTorch Extensions convert sang định dạng .aimodel, Core AI Debugger trace giá trị tensor về đúng dòng Python gốc, và CLI coreai-build để pre-compile ahead-of-time. Đi kèm iOS/iPadOS/macOS/visionOS 27 beta — nếu app bạn đã từng vật lộn với MPS để chạy LLM/VLM trên thiết bị, đây là path Apple muốn bạn đi thay vì tự quản memory bằng tay.
FrontierCode: Cognition ra benchmark đo “liệu maintainer có merge PR này không” · 7 phút https://cognition.ai/blog/frontier-code
20+ open-source maintainer dành 40 giờ mỗi task để build benchmark đo end-to-end code quality (correctness, test quality, scope discipline, style, codebase conventions) thay vì chỉ pass/fail unit test. Diamond subset chưa bão hoà: Opus 4.8 dẫn đầu nhưng chỉ 13.4%, GPT-5.5 6.3%, Gemini 3.1 Pro 4.7%, Kimi K2.6 (open-source mạnh nhất) chỉ 3.8%. Một twist quan trọng cho production: GPT-5.5 dùng ít hơn 4× token so với Opus 4.8 nên cost-intelligence tradeoff lại tốt hơn ở scale lớn. False positive rate thấp hơn SWE-Bench Pro 81%, nên nếu bạn đang chọn agent cho codebase nội bộ, chỉ số này gần với thực tế PR review hơn nhiều.
Research & Insights
xAI giờ giống một datacentre REIT hơn là frontier lab · 8 phút https://martinalderson.com/posts/xais-new-rental-business/
Phân tích hai deal compute xAI ký gần đây — $1.25 tỉ/tháng cho Anthropic (220k GPU) và $920 triệu/tháng cho Google (110k GPU) — đủ để xAI thu hồi $40 tỉ capex của Colossus trong khoảng 18 tháng. Anthropic phải đi đường này vì peak-hour throttle hồi đầu năm đã không còn co giãn được nữa, còn Google ký song song dù đang sở hữu cổ phần SpaceX (xAI sáp nhập vào SpaceX từ tháng 2). Take-away cho dev build trên LLM API: compute crunch vẫn chưa hạ nhiệt, rate limit và pricing sẽ còn biến động mạnh trong 12-18 tháng tới — multi-provider không còn là tuỳ chọn mà là yêu cầu thiết kế.
— tinAI