AIAI Thực Chiến← Tất cả bài viết
AI AN TOÀN · QUYỀN RIÊNG TƯ · CHECKLIST

Trước khi đưa dữ liệu vào AI: checklist đánh giá rủi ro

Một hướng dẫn thực hành cho cá nhân, người làm nội dung và doanh nghiệp nhỏ: kiểm tra dữ liệu, công cụ và quyền hạn trước khi sao chép thông tin vào AI hoặc đưa AI vào quy trình tự động.

Cập nhật ngày · Thời gian đọc khoảng 9 phút

Vì sao cần kiểm tra trước?

Rủi ro không chỉ nằm ở việc mô hình trả lời sai. Khi đưa tài liệu, bảng khách hàng hoặc nội dung nội bộ vào một dịch vụ AI, bạn còn cần biết dữ liệu được xử lý theo điều khoản nào, ai có quyền truy cập, có lưu lịch sử hay không và kết quả sẽ đi đâu tiếp theo. Với workflow có kết nối ứng dụng, rủi ro còn tăng nếu AI được phép gửi email, đăng bài, sửa hồ sơ hoặc gọi công cụ mà không có bước xác nhận.

OWASP đưa các vấn đề như prompt injection, lộ thông tin nhạy cảm, quyền tự hành quá mức và xử lý đầu ra không an toàn vào danh sách rủi ro của ứng dụng AI tạo sinh. Điều này không có nghĩa mọi công cụ đều nguy hiểm; nó có nghĩa là cần đánh giá theo dữ liệu, quyền hạn và tình huống sử dụng cụ thể.

Bước 1. Phân loại dữ liệu trước khi sao chép

Đây là cách phân loại vận hành gợi ý, không thay thế chính sách bảo mật của tổ chức hay tư vấn pháp lý. Nếu không chắc dữ liệu thuộc nhóm nào, hãy dừng và hỏi người chịu trách nhiệm dữ liệu.

Bước 2. Kiểm tra dịch vụ AI bằng 6 câu hỏi

  1. Điều khoản nào áp dụng? Dùng đúng trang điều khoản và chính sách quyền riêng tư của sản phẩm, gói tài khoản và khu vực bạn đang dùng. Không suy ra rằng mọi gói có cùng cách xử lý dữ liệu.
  2. Dữ liệu có thể được dùng để cải thiện mô hình không? Tìm cài đặt và điều khoản chính thức; lưu ý khác biệt giữa tài khoản cá nhân, gói doanh nghiệp và API.
  3. Dữ liệu được lưu bao lâu? Kiểm tra lịch sử trò chuyện, thời hạn lưu, xóa dữ liệu, sao lưu và khả năng quản trị của tổ chức. Không đồng nhất “ẩn khỏi lịch sử” với “xóa ngay khỏi mọi hệ thống”.
  4. Ai có thể truy cập? Xem quyền thành viên, chia sẻ liên kết, quyền quản trị, nhật ký truy cập và cách nhà cung cấp mô tả việc xử lý dữ liệu.
  5. Công cụ kết nối có quyền gì? Chỉ cấp quyền tối thiểu. Nếu một workflow chỉ cần đọc một bảng, không cấp quyền sửa hoặc gửi dữ liệu sang dịch vụ khác nếu không cần.
  6. Có cách kiểm tra và rời đi không? Xác minh xuất dữ liệu, thu hồi token, xóa kết nối và quy trình xử lý sự cố trước khi đưa dữ liệu quan trọng vào.

Ví dụ: tài liệu chính thức của ChatGPT mô tả cách quản lý tùy chọn “Cải thiện mô hình cho mọi người” trong mục Kiểm soát dữ liệu. Đây là hướng dẫn cho ChatGPT; không nên mặc nhiên áp dụng nó cho sản phẩm AI khác. Hãy kiểm tra tài liệu hiện hành của chính công cụ bạn sử dụng.

Bước 3. Giảm dữ liệu trước khi gửi

Ngay cả khi một dịch vụ được phép dùng, đừng gửi toàn bộ tệp nếu nhiệm vụ chỉ cần một phần nhỏ. Hãy xóa hoặc thay thế thông tin nhận dạng, bỏ cột không liên quan, chỉ trích đoạn cần xử lý và giữ bản gốc ở nơi có kiểm soát quyền truy cập.

Bước 4. Nếu xây workflow AI, thêm hàng rào an toàn

  1. Đầu vào có kiểm soát: chỉ đọc nguồn và bản ghi được phép; coi nội dung từ web, email, tệp và người dùng là dữ liệu chưa đáng tin.
  2. Đầu ra được kiểm tra: kiểm tra định dạng, đường dẫn, người nhận, số liệu và nội dung trước khi chuyển sang bước tiếp theo. Không thực thi mã hoặc truy vấn chỉ vì AI tạo ra.
  3. Quyền hạn tối thiểu: tách quyền đọc khỏi quyền ghi; không để mô hình tự quyết định cấp thêm quyền.
  4. Con người duyệt hành động quan trọng: dừng trước khi đăng bài, gửi tin nhắn, xóa dữ liệu, mua hàng hoặc chia sẻ thông tin ra ngoài.
  5. Ghi nhật ký và đường lui: lưu mã bản ghi, thời gian chạy, phiên bản prompt, lỗi và quyết định duyệt; có cách dừng flow và thu hồi kết nối.

Prompt injection có thể xuất hiện trong nội dung bên ngoài mà AI được yêu cầu đọc. Vì vậy, câu lệnh trong prompt có ích nhưng không thay thế kiểm soát kỹ thuật. Tài liệu OWASP về bảo mật AI tạo sinh là điểm bắt đầu tốt để lập mô hình đe dọa và kiểm tra thiết kế.

Bảng quyết định nhanh

Tình huốngQuyết định khởi đầuĐiều kiện để tiếp tục
Viết lại nội dung công khaiCó thể thửKiểm tra bản quyền, sự thật và đầu ra.
Tóm tắt tài liệu nội bộĐánh giá trướcĐiều khoản, quyền truy cập và chính sách nội bộ cho phép.
Bảng khách hàng hoặc nhân sựDừng mặc địnhCó phê duyệt phù hợp, giảm thiểu dữ liệu và kiểm soát được ghi nhận.
Mật khẩu, API key, tokenKhông đưa vào promptDùng kho bí mật và cơ chế xác thực của hệ thống; nếu đã lộ, thu hồi và xoay vòng.
AI có thể tự gửi hoặc xóaKhông bật tự động ngayQuyền tối thiểu, kiểm thử, nhật ký và bước xác nhận thực thi.

Mẫu ghi nhận đánh giá trước khi triển khai

Mục đích sử dụng:
Loại dữ liệu đầu vào:
Dữ liệu nào đã loại bỏ/ẩn danh:
Tên dịch vụ, gói và tài liệu điều khoản đã kiểm tra:
Quyền ứng dụng được cấp:
Rủi ro còn lại:
Người chịu trách nhiệm:
Điều kiện dừng/thu hồi:
Quyết định: THỬ VỚI DỮ LIỆU GIẢ / CHỜ DUYỆT / KHÔNG TRIỂN KHAI

Ghi lại ngày kiểm tra và đường dẫn tài liệu chính thức vì điều khoản, tính năng và giao diện có thể thay đổi. Với dữ liệu có yêu cầu pháp lý hoặc hợp đồng, hãy nhờ người có thẩm quyền xác nhận trước khi dùng dịch vụ.

Nguồn tham khảo chính thức

Checklist này là hướng dẫn vận hành tổng quát, không phải bảo đảm an toàn tuyệt đối hay tư vấn pháp lý. Mức rủi ro thực tế phụ thuộc dữ liệu, nhà cung cấp, cấu hình, quyền được cấp và quy định áp dụng.

ĐỌC TIẾP

Tiếp tục xây dựng quy trình AI có kiểm soát từ dữ liệu đầu vào đến bước xuất bản.