Có gì mới
Hôm nay Google DeepMind giới thiệu Gemma 4 12B — model mới nhất được thiết kế để mang agentic multimodal intelligence trực tiếp lên laptop. Model nằm giữa E4B (edge-friendly) và 26B MoE (advanced) trong dòng Gemma 4, đóng gói khả năng mạnh trong footprint memory nhỏ. Đây cũng là mid-sized model đầu tiên của Google hỗ trợ native audio input.
Cho đến nay, các model Gemma 4 đã đạt 150 triệu lượt download từ cộng đồng developer — từ wearable robotic arm đến enterprise AI security.
Tính năng chính
- Kiến trúc thống nhất mới (encoder-free): Không cần multimodal encoder riêng. Vision và audio input đi thẳng vào LLM backbone.
- Reasoning nâng cao: Benchmark gần ngang model 26B, mở khoá multi-step reasoning và agentic workflow.
- Laptop-ready: Đủ nhỏ để chạy local với chỉ 16GB VRAM hoặc unified memory.
- Open và accessible: Phát hành dưới license Apache 2.0, được hỗ trợ trên toàn bộ developer ecosystem.
- Drafter-ready: Đi kèm Multi-Token Prediction (MTP) drafter sẵn để giảm latency.
Chạy state-of-the-art agent local
Gemma 4 12B đạt performance gần model 26B MoE trên benchmark chuẩn, nhưng total memory footprint dưới một nửa. Đủ nhỏ để chạy local trên laptop consumer 16GB RAM — mở ra multimodal và agentic experience mạnh ngay trên máy bạn.
Kiến trúc unified, hiệu quả độc đáo
Điểm khác biệt của Gemma 4 12B nằm ở cách streamline xử lý visual và audio input. Multimodal model truyền thống thường dùng encoder riêng để dịch image và audio trước khi pass representation sang language model. Encoder tách rời thêm latency và tăng memory usage, nên Google train Gemma 4 12B với kiến trúc encoder-free để integrate audio và vision input trực tiếp.
Cách Gemma 4 12B xử lý multimodal input native:
- Vision: Google thay vision encoder của Gemma 4 bằng một lightweight embedding module gồm một matrix multiplication, positional embedding và normalization. LLM backbone tự take over visual processing.
- Audio: Đơn giản hơn nữa. Google bỏ hoàn toàn audio encoder và project raw audio signal vào cùng dimensional space với text token.
Dev có thể xem Gemma 4 12B transcribe, format và translate voice input hoàn toàn offline qua Google AI Edge Eloquent app.
Cách bắt đầu hôm nay
- Thử nhanh: Trên LM Studio, Ollama, Google AI Edge Gallery App, Google AI Edge Eloquent app, hoặc LiteRT-LM CLI.
- Download weight: Pre-trained và instruction-tuned checkpoint trên Hugging Face và Kaggle.
- Tích hợp tool quen thuộc: Local inference qua Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM — hoặc fine-tune hiệu quả với Unsloth.
- Agentic Development với Gemma Skills: Google phát hành official Skills Repository — thư viện skill được design riêng để agent build với Gemma.
- Deploy production: Spin up endpoint qua Gemini Enterprise Agent Platform Model Garden, Cloud Run, hoặc GKE.