CHỦ ĐỀ 02 · Models, prompting & context
Chọn model và viết prompt có hợp đồng
Đánh giá model trên dữ liệu của bạn và biến yêu cầu mơ hồ thành đầu ra rõ ràng.
01Chọn theo tác vụ
Xây bộ ví dụ đại diện rồi so sánh chất lượng, độ trễ và chi phí. Tác vụ phân loại ngắn có thể cần cấu hình khác với tổng hợp tài liệu dài. Model mạnh hơn không tự giải quyết dữ liệu đầu vào thiếu, tiêu chí mâu thuẫn hoặc quyền truy cập sai.
02Prompt là một giao diện
Nêu nhiệm vụ, dữ liệu, tiêu chí hoàn thành và định dạng đầu ra. Tách hướng dẫn khỏi tài liệu cần phân tích. Ví dụ minh hoạ phải bao gồm trường hợp khó hoặc thiếu dữ liệu, không chỉ những trường hợp dễ. Khi yêu cầu trích xuất, cho phép giá trị chưa biết thay vì ép đoán.
03Kiểm tra đầu ra bằng code
Đầu ra đúng schema chỉ đảm bảo hình dạng. Cần kiểm tra quy tắc nghiệp vụ như số tiền không âm hoặc ngày kết thúc sau ngày bắt đầu. Khi validation lỗi, trả thông báo cụ thể để sửa có giới hạn; nếu vẫn thất bại, chuyển tiếp cùng dữ liệu gốc.
GÓC QUYẾT ĐỊNH
Claude tạo JSON hợp lệ nhưng mã khách hàng không tồn tại trong hệ thống.
Kiểm tra mã với nguồn dữ liệu có thẩm quyền. Đánh dấu chưa xác định hoặc yêu cầu bổ sung, thay vì xem JSON hợp lệ là thông tin đúng.
Những điều cần giữ lại
- Lựa chọn model cần bằng chứng từ eval.
- Schema và tính đúng của nội dung là hai phép kiểm khác nhau.
- Cho phép biểu đạt thiếu dữ liệu và bất định.
Thuật ngữ quan trọng
7 thuật ngữ của bài — lưu thành thẻ ghi nhớ để ôn theo lịch.
- Representative sample
- Bộ ví dụ phản ánh đúng các tác vụ thật, kể cả trường hợp khó, dùng để so model theo chất lượng, độ trễ và chi phí trên dữ liệu của chính bạn.
- Few-shot example
- Ví dụ mẫu đặt trong prompt để minh hoạ cách làm. Phải có cả trường hợp khó hoặc thiếu dữ liệu, không chỉ những trường hợp dễ.
- Structured output
- Đầu ra theo định dạng máy đọc được, như JSON đúng schema. Nó chỉ đảm bảo hình dạng: JSON hợp lệ vẫn có thể chứa mã khách hàng không tồn tại.
- Business rule validation
- Kiểm tra bằng code những quy tắc nghiệp vụ mà schema không diễn đạt được — số tiền không âm, ngày kết thúc sau ngày bắt đầu, mã có trong nguồn dữ liệu có thẩm quyền.
- Nullable field
- Trường trong hợp đồng đầu ra được phép để trống khi tài liệu không có thông tin, để model báo "chưa biết" thay vì bị ép đoán ra một giá trị.
- Validation feedback
- Khi đầu ra không qua kiểm tra, gửi lại thông báo lỗi cụ thể để model sửa trong số lần giới hạn; vẫn thất bại thì chuyển tiếp cùng dữ liệu gốc.
- Prompt contract
- Prompt viết như một giao diện: nêu nhiệm vụ, dữ liệu, tiêu chí hoàn thành và định dạng đầu ra, tách hướng dẫn khỏi tài liệu cần phân tích, để kết quả kiểm tra được thay vì phụ thuộc cách model tự hiểu.
THỬ ÁP DỤNG
Viết hợp đồng đầu ra cho việc trích xuất hoá đơn: kiểu dữ liệu, trường được để trống và 3 quy tắc nghiệp vụ.