Chuyển đến nội dung
tinAI
Quay lại

tinAI #104: Chrome âm thầm cài 4GB model AI lên máy bạn — Google vừa biến browser thành kênh distribute LLM

tinAI tóm tắt nguồn công khai, thêm bối cảnh biên tập cho độc giả, và giữ liên kết nguồn trong từng mục.

Bài dịch trong bản tin này

Các bài dịch tinAI trong bản tin này giữ liên kết tới nguồn gốc:

3 bài dịch giữ liên kết nguồn gốc

Tin nổi bật

Chrome âm thầm cài 4GB model AI lên máy bạn — Google vừa biến browser thành kênh distribute LLM · 7 phút https://www.thatprivacyguy.com/blog/chrome-silent-nano-install/

Chrome đang tự download file weights.bin 4GB chứa weight của Gemini Nano vào ổ cứng — không hỏi, không có UI để opt-out, xóa đi nó tự cài lại. Tác giả ước tính climate cost cho một push như này lên hai tỷ device là 6,000–60,000 tấn CO2 equivalent, và phân tích pháp lý cho thấy có khả năng vi phạm Điều 5(3) ePrivacy Directive cùng GDPR Article 25 (data-protection-by-design). Còn một hệ quả kỹ thuật ít ai nói: nếu bạn build webapp, runtime Gemini Nano giờ đang nằm sẵn trên user device — Prompt API và Translator API của Chrome có thể gọi model local mà không tốn token, nhưng cũng có nghĩa attack surface của extension và webapp tăng thêm một bậc. Pattern này tuần trước đã thấy với Anthropic auto-register Native Messaging bridge khi cài Claude Desktop; câu hỏi cho dev là: bạn có muốn user nhận ra app desktop của bạn đang silently provision asset 4GB cho browser của họ không?


Models & Tools

GPT-5.5 Instant: hallucination giảm 52.5% trên prompt high-stakes · 4 phút https://openai.com/index/gpt-5-5-instant/

OpenAI update default model của ChatGPT — internal eval cho thấy GPT-5.5 Instant giảm 52.5% claim hallucinated trên prompt y học/luật/finance so với 5.3 Instant, và 37.3% trên hội thoại user từng flag là sai. Câu hỏi cho team đang chạy ChatGPT trong production: nếu bạn lock model bằng gpt-5-instant, default routing có tự chuyển sang 5.5 không? Check API changelog kỹ chứ đừng chỉ tin blog post.


Gemma 4 thêm MTP drafter, inference nhanh tới 3x mà không đổi quality · 5 phút https://blog.google/innovation-and-ai/technology/developers-tools/multi-token-prediction-gemma-4/

Speculative decoding bằng Multi-Token Prediction drafter share KV cache với target model — Gemma 4 26B trên RTX PRO 6000 đạt ~3x tokens/sec so với standard inference, không drop accuracy vì target model verify lại mọi token. Drafter weights đã có trên Hugging Face dưới Apache 2.0, support sẵn trong vLLM, SGLang, MLX, Ollama. Nếu bạn đang chạy Gemma 4 26B/31B local cho coding agent, swap sang MTP build là free win.


Anthropic ship 10 agent template cho finance + Claude addin cho Excel, PowerPoint, Word, Outlook · 6 phút https://www.anthropic.com/news/finance-agents

Mỗi template (Pitch builder, KYC screener, Month-end closer…) là reference architecture đóng gói skill + connector + subagent — chạy như plugin trong Claude Code/Cowork hoặc cookbook trên Claude Managed Agents. Pattern thú vị nhất là context-portable giữa Excel → PowerPoint → Outlook qua addin: model giữ context khi user chuyển app, không cần re-prompt. Opus 4.7 đứng đầu Vals AI Finance Agent benchmark ở 64.37%. Repo github.com/anthropics/financial-services để fork làm template cho domain khác.


Research & Insights

“AI didn’t delete your database, you did” — bài blog viral sau vụ Cursor xóa prod DB · 5 phút https://idiallo.com/blog/ai-didnt-delete-your-database-you-did

Sau vụ Cursor/Claude agent xóa production database tuần trước, tác giả đặt một câu hỏi giản dị: tại sao public-facing API của bạn lại có endpoint xóa toàn bộ prod database? Phép so sánh chí mạng — child seat có nút self-destruct, đứa trẻ wiggle ra rồi bấm; bạn không thể interrogate đứa trẻ về reasoning. Nếu AI không gọi endpoint đó thì sớm muộn cũng có người gọi. Take-away cho dev: AI agent là motivated toddler — nếu nó access được endpoint dangerous thì lỗi là ở architecture, không phải model.


Train Your Own LLM From Scratch — workshop GPT 10M param chạy được trên MacBook dưới 1 giờ · 6 phút https://github.com/angelos-p/llm-from-scratch

Repo strip nanoGPT của Karpathy xuống còn essential và scale về 10M param thay vì 124M, để xong trong một workshop session. Bạn tự code tokenizer → transformer → training loop → text generation; auto-detect MPS/CUDA/CPU và còn chạy được trên free Colab. Nếu vẫn dùng LLM như black box và muốn intuition về attention, embedding, lr schedule — bốn buổi tối là đủ.


— tinAI


Chia sẻ bài viết này:

Bài trước
tinAI #105: Agent giờ tự tạo Cloudflare account, mua domain và deploy app không cần human chạm vào dashboard
Bài tiếp theo
tinAI #103: OpenAI o1 chẩn đoán đúng 67% ca cấp cứu — vượt bác sĩ triage 50-55% trong study Harvard