Vì sao không nên tin chuỗi đầu ra ngay lập tức?
Mô hình có thể thiếu trường, dùng sai kiểu dữ liệu, tạo giá trị ngoài danh sách cho phép hoặc đặt nội dung giải thích vào chỗ máy cần một con số. Nếu workflow đưa thẳng đầu ra vào hệ thống khác, lỗi định dạng có thể biến thành sai dữ liệu hoặc hành động không mong muốn.
Định nghĩa schema rõ ràng
Xác định trường bắt buộc, kiểu dữ liệu, độ dài tối đa, enum được phép và trường nào có thể null. Ví dụ cho phân loại yêu cầu: category thuộc một danh sách cố định, confidence là số trong khoảng cho phép, evidence là đoạn nguồn hoặc ID tham chiếu, needs_human_review là boolean. Không dùng giá trị confidence như bằng chứng tự thân rằng câu trả lời đúng.
Ưu tiên đầu ra có cấu trúc khi có hỗ trợ
Nếu API mô hình hỗ trợ structured outputs hoặc JSON schema, hãy dùng cơ chế được tài liệu chính thức khuyến nghị thay vì chỉ yêu cầu “hãy trả JSON”. Tuy vậy, đầu ra đúng schema vẫn có thể sai về nội dung. Kiểm tra cú pháp và kiểm tra nghiệp vụ là hai lớp khác nhau.
Kiểm tra bằng mã trước khi chuyển bước
Parse JSON, xác nhận các trường bắt buộc, kiểu dữ liệu, giới hạn giá trị và mối quan hệ giữa trường. Ví dụ, nếu category là OTHER thì cần lý do; nếu yêu cầu thiếu dữ kiện thì không được tự tạo email hoặc mã khách hàng. Nếu xác thực thất bại, không tự động ghi dữ liệu; chuyển sang sửa định dạng có giới hạn hoặc hàng chờ duyệt.
Giới hạn tác dụng phụ
Đầu ra AI chỉ nên đề xuất hành động. Quyền ghi, gửi, xóa hoặc xuất bản phải nằm ở bước có kiểm soát riêng. Kiểm tra danh sách người nhận, URL, ID bản ghi và các giá trị nhạy cảm bằng logic thông thường; không để mô hình tự quyết định vượt qua kiểm tra bảo mật.
Bộ kiểm thử trước khi bật workflow
Bao gồm JSON hợp lệ, thiếu trường, sai kiểu, giá trị ngoài enum, nội dung có dấu ngoặc hoặc dấu nháy, dữ liệu nguồn mâu thuẫn và prompt injection trong trường văn bản. Kiểm tra cả trường hợp hệ thống phải từ chối. Lưu các lỗi đã gặp thành ca hồi quy để không tái xuất hiện sau khi sửa prompt.