Tình huống về #AI có trách nhiệm

Amazon (2014–2018): công cụ chấm hồ sơ tuyển dụng bằng AI học theo dữ liệu một thập kỷ và thiên lệch với ứng viên nữ

Từ năm 2014, một nhóm tại Amazon xây dựng công cụ học máy chấm điểm hồ sơ ứng viên. Đến năm 2015, nhóm nhận ra mô hình đánh giá thấp hồ sơ của phụ nữ cho các vị trí kỹ thuật, vì nó học từ hồ sơ nộp trong 10 năm mà phần lớn là của nam giới. Các bản sửa không bảo đảm được mô hình hết thiên lệch, và nhóm bị giải tán đầu năm 2017. Bài học về tiêu chí chất lượng của sản phẩm AI: dữ liệu lịch sử không phải chân lý.