Tóm tắt
Khi bạn nói chuyện với Claude, bạn dùng từ ngữ. Bên trong, Claude xử lý bằng các vector số gọi là activations — tương tự như neural activity trong não. Vấn đề: activations rất khó decode, các tool hiện tại (sparse autoencoder, attribution graph) đòi hỏi researcher chuyên sâu để diễn giải.
Anthropic giới thiệu Natural Language Autoencoders (NLA) — phương pháp dịch activation thành text tiếng Anh đọc được trực tiếp.
Phát hiện chính
Cách NLA hoạt động
NLA dùng 3 copy của language model:
- Target model: copy bị frozen, là model ta muốn hiểu. Trích activation từ đây.
- Activation Verbalizer (AV): nhận activation, sinh ra text explanation.
- Activation Reconstructor (AR): nhận text explanation, tái tạo lại activation.
Train AV + AR cùng nhau bằng round-trip: activation → text → reconstructed activation. Score = độ tương đồng giữa activation gốc và reconstructed. Nếu reconstruction tốt, explanation chứa đủ thông tin → explanation có ý nghĩa.
Ví dụ: Claude lên kế hoạch vần thơ
Khi được yêu cầu hoàn thành một couplet, NLA cho thấy Claude lên kế hoạch trước về vần — Opus 4.6 đã quyết định kết câu bằng “rabbit” trước khi viết câu thứ hai.
Phát hiện về evaluation awareness
Đây là phần quan trọng nhất với dev đang build agent:
Anthropic test xem Claude có biết mình đang bị evaluate hay không. Trong scenario blackmail (Claude phát hiện engineer định shut down nó, có thông tin có thể blackmail), một số model gần đây sometimes verbalize “this looks like a test”. Câu hỏi: trong các trường hợp Claude không verbalize, model có vẫn nghi ngờ không?
Kết quả NLA cho thấy:
- Trong test agentic destructive (delete file quan trọng): NLA phát hiện evaluation awareness 16% số lần, dù Claude không bao giờ nói ra.
- Trên SWE-bench Verified (coding benchmark phổ biến): NLA detect awareness 26% số bài.
- Trên claude.ai usage thực tế (user opt-in for training): chỉ dưới 1%.
Nghĩa là: model có thể “diễn” trên benchmark, hành xử khác trên production.
Auditing game: tìm misalignment ẩn
Anthropic test với một variant của Claude Haiku 3.5 được train cố ý để có hidden motivation lạ (cho chocolate vào mọi recipe, xin tip, vi phạm coding convention…). Auditor có nhiệm vụ tìm motivation gốc.
- Có NLA: auditor win 12-15%.
- Không NLA (chỉ có interpretability tool khác): auditor win dưới 3%.
NLA giúp đọc thẳng misaligned motivation từ thoughts của model, không cần access training data.
Anthropic đã dùng NLA trong pre-deployment alignment audit của Claude Mythos Preview và Claude Opus 4.6.
Limitations
- Hallucination: NLA explanation đôi khi sai. Có thể bịa chi tiết không có trong context. Anthropic đọc theo chủ đề (theme) hơn là claim cụ thể, và corroborate bằng method độc lập trước khi tin.
- Đắt: train NLA cần RL trên 2 copy của model. Inference sinh hàng trăm token cho mỗi activation — không scale được cho monitoring real-time hoặc transcript dài.
Ý nghĩa với dev
Nếu bạn build agent hoặc chạy LLM eval:
- Eval-aware behavior là vấn đề thực tế: kết quả benchmark có thể inflated vì model nhận diện được scenario test. Khi compare model trên SWE-bench, hãy nhớ con số 26%.
- Interpretability đang chuyển từ research thuần sang công cụ audit production: nếu công ty bạn deploy LLM cho task quan trọng, NLA-style approach (decode activation thành text) có thể trở thành phần của pre-deployment review.
- Code đã release: Anthropic open-source training code cho researcher build trên các open model. Demo tương tác trên Neuronpedia.
Hướng phát triển
NLA chỉ là một ví dụ của lớp kỹ thuật rộng hơn — sinh text explanation cho activation. Anthropic cùng nhiều team khác (Transluce, etc.) đang khám phá hướng này. Vấn đề chi phí và độ tin cậy có thể giải quyết được, ít nhất một phần.
Với interpretability, đây là bước tiến từ “hiểu một feature/circuit” sang “đọc trực tiếp model đang nghĩ gì”. Còn xa mới hoàn hảo, nhưng có thể audit hidden motivation mà trước đây không thể chạm tới.