Thẻ: rag
Tất cả bản tin và bài dịch có thẻ "rag".
1 mục đã xuất bản 1 bài dịch 0 bản tin Bài dịch mới nhất: Kapa dạy LLM nhỏ bỏ 68% context RAG không cần thiết Nguồn gốc: kapa.ai · Loại nguồn: công ty/blog
- Bài dịch
Kapa dạy LLM nhỏ bỏ 68% context RAG không cần thiết
tinAI dịch bài này sang tiếng Việt từ: How we taught a small LLM to throw away 68% of our RAG context (kapa.ai) · Loại nguồn: công ty/blog
Ngày gốc: · Dịch ngày:
Trong bản tin: tinAI #132: Claude có một workspace nội bộ cho suy nghĩ thầm
Kapa thêm một LLM nhỏ giữa reranker và generator để chấm toàn bộ chunk theo ngữ cảnh câu hỏi. Cấu hình họ chọn bỏ 68% context, giữ 96% recall và giảm 34% chi phí query, đổi lại…