Chuyển đến nội dung
tinAI
Quay lại

tinAI #102: LLM ưu ái resume do chính nó viết — bias 67-82% trong hiring pipeline

tinAI tóm tắt nguồn công khai, thêm bối cảnh biên tập cho độc giả, và giữ liên kết nguồn trong từng mục.

Bài dịch trong bản tin này

Các bài dịch tinAI trong bản tin này giữ liên kết tới nguồn gốc:

2 bài dịch giữ liên kết nguồn gốc

Tin nổi bật

LLM ưu ái resume do chính nó viết — bias 67-82% trong hiring pipeline · 5 phút https://arxiv.org/abs/2509.00462

Paper này có data đáng cảnh giác cho ai đang dùng LLM ở cả hai đầu pipeline tuyển dụng. Tác giả chạy correspondence experiment quy mô lớn: khi LLM screen resume, nó prefer resume do chính model đó sinh ra so với resume người viết — bias dao động 67-82% trên cả commercial lẫn open-source models, kể cả khi content quality được control. Simulate full hiring pipeline qua 24 nghề: candidate dùng cùng LLM với người screen có chance được shortlist cao hơn 23-60%, lệch nhất ở sales và accounting. Điểm sáng: bias giảm hơn 50% với intervention nhắm vào self-recognition của LLM. Nếu bạn đang build screening tool hay candidate-side resume tool, treat self-preference như demographic bias — đo nó, hiển thị nó, cho phép disable.


Models & Tools

MLJAR Studio: AI data analyst chạy 100% local trên máy bạn · 4 phút https://mljar.com/

Local Jupyter-style workspace với AI assistant generate Python code, chạy ML experiments, convert notebook thành web app — tất cả không gửi data ra cloud. Phù hợp cho team xử lý data nhạy cảm (healthcare, finance) hoặc môi trường air-gapped. Catch: vẫn cần local LLM hoặc API key của bạn để chạy assistant; không có model bundle sẵn.


HN SOTA: dashboard sentiment các coding model theo bình luận HN, update daily · 2 phút https://hnup.date/hn-sota

Pipeline mỗi ngày lấy 200 post HN top 24h, dùng Gemini classify post liên quan LLM/coding, extract mention model + sentiment trên từng comment. Kết quả ghi vào Google Sheet công khai để audit được. Cách lười nhưng hợp lý để theo signal “dev đang dùng gì thật” thay vì đọc thread riêng lẻ — không thay benchmark, nhưng tốt hơn vibes check trên Twitter.


Research & Insights

Refusal trong LLM nằm trên một direction duy nhất — implications lớn cho safety · 8 phút https://arxiv.org/abs/2406.11717

Trên 13 chat model open-source tới 72B param, refusal behavior bị mediate bởi đúng một chiều trong residual stream. Erase chiều đó khỏi activations → model không từ chối harmful instruction nữa; add chiều đó vào → model refuse cả request lành. Tác giả build white-box jailbreak surgical mà không phá capability khác. Take-away cho dev đang ship LLM: safety tuning hiện tại brittle hơn bạn nghĩ — không thể dựa vào refusal làm primary safety layer cho user-facing app, phải thêm input/output filtering ở application layer.


— tinAI


Chia sẻ bài viết này:

Bài trước
tinAI #103: OpenAI o1 chẩn đoán đúng 67% ca cấp cứu — vượt bác sĩ triage 50-55% trong study Harvard
Bài tiếp theo
tinAI #101: grok-4.3 lên xAI API: 1M context, $1.25/$2.50 mỗi 1M tokens