Amazon (2014–2018): công cụ chấm hồ sơ tuyển dụng bằng AI học theo dữ liệu một thập kỷ và thiên lệch với ứng viên nữ

Mô hình được tối ưu để giống quyết định tuyển dụng trước đây. Nếu quá khứ có thiên lệch, "chính xác" nghĩa là lặp lại thiên lệch. Yêu cầu chất lượng phải gồm cả tiêu chí công bằng, không chỉ độ chính xác.

Loại bỏ một vài từ khoá là sửa triệu chứng. Nguyên nhân gốc nằm ở dữ liệu huấn luyện và nhãn mục tiêu — phân tích nguyên nhân gốc (root cause analysis) lẽ ra phải dẫn tới thay đổi cách đặt bài toán.

Tuyển dụng là lĩnh vực chịu luật chống phân biệt đối xử. Một hệ thống chấm điểm ứng viên cần được xếp vào nhóm rủi ro cao ngay từ khi khởi tạo, với tiêu chí dừng rõ ràng.