Mô hình AI sàng lọc hồ sơ tuyển dụng có dấu hiệu thiên lệch, khách hàng vẫn muốn triển khai đúng hạn: PM làm gì?

Có. Khi đội đã biết sản phẩm có thể đối xử không công bằng với một nhóm người, việc im lặng triển khai là chấp nhận rủi ro thay cho những người bị ảnh hưởng — những người không có mặt trong phòng họp. Thiên lệch thuật toán (algorithmic bias) thường đến từ dữ liệu huấn luyện phản ánh quyết định trong quá khứ; "chỉ là gợi ý" cũng không đủ an toàn vì người dùng có xu hướng tin vào điểm số máy tính đưa ra.

Đưa thông tin lên thế nào

1. Lập báo cáo kiểm tra công bằng ngắn gọn: chỉ số so sánh theo nhóm (tỷ lệ được chọn, điểm trung bình theo nhóm có cùng kinh nghiệm), phương pháp, giới hạn.
2. Ghi vào sổ đăng ký rủi ro với chủ sở hữu rủi ro phía khách hàng; nêu rủi ro pháp lý (quy định chống phân biệt đối xử trong lao động), rủi ro uy tín và rủi ro bỏ lỡ ứng viên tốt.
3. Trình bày các phương án, mỗi phương án có tác động tiến độ: loại bỏ đặc trưng gây thiên lệch và các biến đại diện, cân bằng lại dữ liệu, đặt ngưỡng kiểm duyệt của con người, hoặc trì hoãn.

Điều kiện go-live có trách nhiệm (nếu khách hàng quyết định đi tiếp)

• Con người ra quyết định cuối cùng, có hướng dẫn rõ không dùng điểm số làm căn cứ duy nhất.
• Giám sát chỉ số công bằng định kỳ, có ngưỡng dừng.
• Minh bạch với ứng viên về việc có dùng công cụ hỗ trợ, theo yêu cầu pháp luật áp dụng.
• Quyết định chấp nhận rủi ro được ghi nhận và ký bởi người có thẩm quyền phía khách hàng.

Bộ Quy tắc đạo đức PMI yêu cầu người hành nghề không phân biệt đối xử và cân nhắc tác động của sản phẩm tới xã hội.

Nguồn:

• Wikipedia — Algorithmic bias
• Wikipedia — Employment discrimination
• PMI — Code of Ethics and Professional Conduct (PDF)