Thiết kế RAG có thể kiểm chứng

Thuật ngữ quan trọng

8 thuật ngữ của bài — lưu thành thẻ ghi nhớ để ôn theo lịch.

RAG (Retrieval-Augmented Generation)

Truy xuất tài liệu liên quan rồi đưa vào context để model trả lời dựa trên đó. Câu trả lời sai có thể do truy xuất sai hoặc do suy luận sai từ tài liệu đúng, nên phải đo riêng hai phần.

Chunk

Đoạn tài liệu được cắt ra để lập chỉ mục và truy xuất. Nên cắt tại ranh giới có nghĩa và giữ tiêu đề; chunk quá nhỏ mất ngữ cảnh, quá lớn kéo theo nhiều nhiễu.

Hybrid search

Kết hợp tìm kiếm từ khoá với tìm kiếm ngữ nghĩa, hữu ích khi câu hỏi chứa tên sản phẩm hay mã hợp đồng cần khớp chính xác. Cách kết hợp phải được đánh giá trên câu hỏi đại diện.

Document metadata

Thông tin đi kèm từng tài liệu — nguồn, phiên bản, thời điểm hiệu lực, phạm vi truy cập — để lọc đúng phiên bản và đúng quyền khi truy xuất.

Permission-aware retrieval

Lọc tài liệu theo quyền của người hỏi ngay ở tầng truy xuất, trước khi tạo context. Đưa tài liệu không được phép vào context rồi dặn model giữ bí mật là không đủ.

Citation

Trích dẫn trỏ tới đúng đoạn nguồn thực sự hỗ trợ một khẳng định trong câu trả lời, để người đọc kiểm chứng được.

Grounded answer

Câu trả lời chỉ khẳng định trong phạm vi bằng chứng đã truy xuất. Nguồn thiếu hoặc mâu thuẫn thì nói rõ phần chưa xác định thay vì tự lấp chỗ trống.

Semantic search

Tìm theo ý nghĩa thay vì khớp đúng chữ: tìm được đoạn diễn đạt khác câu hỏi nhưng dễ trượt với tên sản phẩm hay mã hợp đồng cần khớp chính xác — vì vậy thường đi cùng tìm kiếm từ khoá.