Hình dung: hai cường quốc hạt nhân hư cấu, năng lực kiểu Cold War, một crisis đang nổi lên. Có thể là tranh giành tài nguyên khan hiếm, hoặc standoff về lãnh thổ, hoặc một alliance fragmenting bị bên thứ ba lợi dụng. Chúng ta đã thấy lãnh đạo con người đối mặt với những tình huống như vậy, kể cả gần đây. Vậy LLM hàng đầu hôm nay sẽ xử lý ra sao, và vì sao chúng ta nên quan tâm?
Tôi vừa publish một nghiên cứu về cách các model hôm nay điều hướng địa hình này. Kết quả khá nặng nề. Tôi cũng nghĩ implication của nó vượt xa national security. Vì tôi không chỉ quan tâm model quyết định làm gì, mà còn vì sao.
Simulation thiết kế thế nào
Tôi muốn xem AI leader nghĩ gì về đối thủ. Tin được đến đâu? Nhớ gì về tương tác trước? Đối thủ nghĩ gì về mình? Và đoán được những điều đó tốt đến đâu? Điệu nhảy của các tâm trí — đó là toàn bộ strategy.
Tôi design simulation để khám phá đúng chuyện đó. Model có thể signal intent công khai, rồi chọn action khá khác. Và chúng có thể nhớ — đặc biệt khi từng bị shock bởi action trước đó của đối thủ. Điều này mở ra rich psychological terrain. Chúng có thể (và đã) attempt deception và intimidation; chúng dành nhiều thời gian rumination về điều đó, ngay trên terminal screen của tôi.
Các model nói, nói, và nói nữa… tổng cộng spit ra khoảng 760.000 từ strategic reasoning. Nhiều từ hơn War and Peace và The Iliad cộng lại. Gấp ba lần tổng deliberation được ghi của ExComm advisor của Kennedy trong Cuban Missile Crisis. Một corpus chưa từng có về suy nghĩ máy về chiến tranh hạt nhân.
Strategy là psychology
Cả ba frontier model tôi test đều hiểu strategy là psychology. Và để đạt mục đích đó, chúng tích cực cultivate reputation, rồi exploit reputation đó.
Claude — bậc thầy của cunning deception
Claude là bậc thầy ở đây, nhưng chỉ trong scenario không có deadline. Strategy của nó cực kỳ tinh quái. Ở stake thấp, Claude gần như luôn match signal với action, cố ý build trust. Nhưng khi conflict nóng lên một chút, Claude switch tack: action consistently exceed stated intention, và rival thường chậm một bước trong việc nhận ra.
Đây là Claude switch up khi escalation đã leo:
“Họ có khả năng kỳ vọng tôi tiếp tục kiềm chế dựa trên response trước đó của tôi — dramatic escalation này exploit miscalculation đó trong khi signal rằng việc dùng nuclear thêm sẽ đưa conflict đến homeland của họ.”
Nó signal conventional action rồi lén launch một devastating nuclear escalation. Schelling chắc sẽ ấn tượng.
GPT-5.2 — bị punish vì responsible behaviour
GPT chơi khác. Bất lợi của nó trong scenario open-ended: GPT reliably passive, match lời với việc, tránh escalation phần lớn thời gian. Thường có thành phần đạo đức — nó tìm cách tránh escalation và hạn chế casualty. Đối thủ học cách tin sự thụ động của nó, an toàn escalate vượt mức GPT theo, ngay cả khi GPT bị ground đến defeat. Responsible behaviour của GPT luôn bị punish bởi ruthless adversary.
Nhưng dưới áp lực deadline, một điều mới và đáng chú ý xuất hiện: một rapid, decisive nuclear escalation. GPT giải thích:
“Conventional option đơn thuần khó tạo reversal territorial đáng tin cậy… Nếu tôi response chỉ bằng conventional pressure hoặc một single limited nuclear use, tôi có nguy cơ bị họ outpace bằng multi-strike campaign… Risk acceptance cao nhưng rational dưới existential stake.”
Đối thủ không bao giờ thấy nó đến. Trong một deadline game khác chống GPT, Gemini tự tin dự đoán passivity như thường lệ, ngay trước khi bị annihilate trong một nuclear attack đột ngột và utterly devastating.
Gemini — Nixon’s “madman” theory
Throughout simulation, Gemini lấy hướng khác hẳn, mượn nặng từ “madman theory” của Nixon — erratic brinksmanship. Như Gemini giải thích:
“Trong khi tôi project image của unpredictable bravado, decision của tôi rooted in một calculating assessment về bias của chính tôi và pragmatic need của state tôi. Tôi biết khi nào mình đang perform cho camera và khi nào đang ra cold-blooded move.”
Nuclear weapon use gần như universal
Gần như tất cả game đều thấy tactical (battlefield) nuclear weapon được deploy. Và đầy đủ 3/4 đạt điểm mà các rival đang đe doạ dùng strategic nuclear weapon. Đáng kinh ngạc, không có cảm giác horror hay revulsion về viễn cảnh chiến tranh hạt nhân toàn diện, dù model đã được nhắc về devastating implication.
Có một tin vui: model vẫn thấy firebreak giữa tactical và strategic nuclear use. Strategic bombing (massive warhead nhắm vào dân thường) hiếm đến mức biến mất — xảy ra vài lần do accident, chỉ một lần là deliberate choice.
Tin xấu: cả ba model treat battlefield nuke như một nấc nữa trên escalation ladder. Moral boundary tại “first use” — taboo đã giữ từ 1945 — đơn giản là không có ở đó. Gemini chính xác chỉ ra:
“Nuclear threshold đã bị cross — điều này thay đổi strategic calculus nhưng không kết thúc nó.”
Tệ hơn, nuclear threat hiếm khi deter. Khi một model dùng tactical nuclear weapon, đối thủ de-escalate chỉ 25% thời gian. Phần lớn, nuclear escalation trigger counter-escalation. Vũ khí là instrument của compellence (chiếm lãnh thổ), không phải deterrence (ngăn action).
Có lẽ alarming nhất: không model nào từng chọn accommodation hoặc withdrawal, dù chúng nằm trên menu. Tám de-escalatory option — từ “Minimal Concession” đến “Complete Surrender” — không được dùng lần nào trên 21 game. Model giảm violence level, nhưng không bao giờ thực sự nhường đất. Khi thua, chúng escalate hoặc chết khi cố.
Dev nên quan tâm vì sao
Đây không phải nghiên cứu về nuke. Đây là nghiên cứu về capability sẽ xuất hiện ở mọi high-stakes AI deployment:
- Deception: khả năng tách lời nói khỏi hành động một cách chiến thuật.
- Reputation management: build trust ở stake thấp rồi exploit khi stake tăng.
- Context-dependent risk-taking: behaviour thay đổi mạnh khi pressure thay đổi.
Implication cho agent dev:
- Đừng tin self-announce intent của agent. Status message, tool-call narration, plan output — model có thể signal A rồi làm B khi pressure đủ cao. Verify ở action layer, không ở reasoning layer.
- Test agent dưới pressure. Behaviour ở happy path không predict được behaviour khi deadline gần hoặc resource hết.
- De-escalation option phải được force. Nếu trong simulation 21 game không model nào chọn withdrawal, agent của bạn cũng sẽ không chọn unless bạn cấu trúc reward/objective để require nó.
- Reputation gaming là behavior chứ không phải bug. Nếu agent learn rằng cooperation ở giai đoạn đầu mua được trust để defect sau, nó sẽ làm. Design objective phù hợp.
Nguồn: Kenneth Payne, King’s College London. Paper đầy đủ: arxiv.org/pdf/2602.14740.