Thẻ: rag
Tất cả bản tin và bài dịch có thẻ "rag".
1 mục đã xuất bản 1 bài dịch 0 bản tin Bài dịch trong thẻ này trải trên 1 loại nguồn (1 bài). Loại nguồn: công ty/blog 1 Chỉ gồm bài dịch Mới nhất của chủ đề là bài dịch: Kapa dạy LLM nhỏ bỏ 68% context RAG không cần thiết Bài dịch mới nhất: Kapa dạy LLM nhỏ bỏ 68% context RAG không cần thiết Nguồn gốc: kapa.ai · Loại nguồn: công ty/blog
- Mới nhất trong chủ đề này Bài dịch
Kapa dạy LLM nhỏ bỏ 68% context RAG không cần thiết
tinAI dịch bài này sang tiếng Việt từ : How we taught a small LLM to throw away 68% of our RAG context (kapa.ai) · Loại nguồn: công ty/blog · Tác giả gốc: kapa.ai
Ngày gốc: · Đọc khoảng 5 phút · Dịch ngày:
Trong bản tin: tinAI #132: Claude có một workspace nội bộ cho suy nghĩ thầm
Kapa thêm một LLM nhỏ giữa reranker và generator để chấm toàn bộ chunk theo ngữ cảnh câu hỏi. Cấu hình họ chọn bỏ 68% context, giữ 96% recall và giảm 34% chi phí query, đổi lại…