Số 463Quản lý Rủi ro

Xe tự lái thử nghiệm của Uber ATG (Tempe, 2018): NTSB kết luận văn hoá an toàn chưa đầy đủ là nguyên nhân sâu xa của vụ tai nạn chết người

Đêm 18/3/2018, một xe thử nghiệm tự lái của Uber ATG đâm tử vong một người đi bộ dắt xe đạp qua đường ở Tempe, Arizona. NTSB kết luận người vận hành an toàn đã mất tập trung, nhưng chỉ ra văn hoá an toàn chưa đầy đủ của Uber ATG: đánh giá rủi ro yếu, giám sát người vận hành kém, phần mềm chưa tính tới người đi bộ qua đường ngoài vạch kẻ. Bài học về quản lý rủi ro khi thử nghiệm phần mềm AI trên đường thật.

Nguyễn Thu Hà, PMP

27/08/2026

3 phút đọc 0

Bình luận0

Bối cảnh thực tế

Uber Advanced Technologies Group (ATG) thử nghiệm hệ thống lái tự động trên những chiếc Volvo XC90 đã được cải tạo, với một người vận hành an toàn ngồi sau vô lăng để giám sát và can thiệp khi cần.

Theo báo cáo HAR-19/03 của Ủy ban An toàn Giao thông Quốc gia Mỹ (NTSB), thông qua ngày 19/11/2019:

Đêm 18/3/2018, xe đang chạy ở chế độ tự động đâm vào một phụ nữ 49 tuổi dắt xe đạp qua đường ngoài vạch kẻ; người này tử vong.
Hệ thống phát hiện người đi bộ vài giây trước va chạm nhưng liên tục phân loại sai đối tượng; thiết kế hệ thống không tính tới trường hợp người đi bộ qua đường ngoài nơi quy định.
Các chức năng cảnh báo va chạm và phanh khẩn cấp tự động sẵn có của Volvo bị vô hiệu khi hệ thống của Uber điều khiển xe.
Nguyên nhân có khả năng nhất: người vận hành an toàn không giám sát đường và hệ thống vì bị phân tâm bởi điện thoại. Các yếu tố góp phần gồm: quy trình đánh giá rủi ro an toàn không đầy đủ, giám sát người vận hành không hiệu quả, thiếu cơ chế chống tâm lý ỷ lại vào tự động hoá — tất cả bắt nguồn từ văn hoá an toàn chưa đầy đủ.
NTSB cũng nêu giám sát chưa đủ của cơ quan giao thông bang Arizona và khuyến nghị cơ quan liên bang có quy trình xem xét trước khi cho xe thử nghiệm chạy trên đường công cộng.

Phân tích nguyên nhân theo chuẩn PMP

Thử nghiệm trên đường thật mà chưa có hệ thống quản lý an toàn
Dự án đưa phần mềm chưa hoàn thiện ra môi trường có người thật nhưng thiếu quy trình nhận diện, đánh giá và kiểm soát rủi ro có hệ thống. Tốc độ phát triển được ưu tiên hơn kỷ luật an toàn.
Gỡ bỏ lớp bảo vệ mà không bù lại
Vô hiệu chức năng phanh khẩn cấp có sẵn để tránh xung đột với hệ thống mới là quyết định làm tăng rủi ro tồn dư. Mỗi lần gỡ một biện pháp kiểm soát, rủi ro phải được đánh giá lại và có biện pháp thay thế.
Con người là biện pháp kiểm soát cuối cùng nhưng không được hỗ trợ

Xe tự lái thử nghiệm của Uber ATG (Tempe, 2018): NTSB kết luận văn hoá an toàn chưa đầy đủ là nguyên nhân sâu xa của vụ tai nạn chết người

Bối cảnh thực tế

Phân tích nguyên nhân theo chuẩn PMP

Thử nghiệm trên đường thật mà chưa có hệ thống quản lý an toàn

Gỡ bỏ lớp bảo vệ mà không bù lại

Con người là biện pháp kiểm soát cuối cùng nhưng không được hỗ trợ

Giả định trong yêu cầu phần mềm không khớp thực tế

Lẽ ra PM nên làm gì

Bước 1: Xây hệ thống quản lý an toàn trước khi mở rộng thử nghiệm

Bước 2: Không gỡ biện pháp an toàn nếu chưa có biện pháp tương đương

Bước 3: Đặt tiêu chí mở rộng thử nghiệm theo bằng chứng

PM Takeaway (Bài học rút ra)

Nguồn tham khảo

Trắc nghiệm tình huống PMP

Nếu là lãnh đạo Uber ATG đầu năm 2018, áp lực phải chứng minh tiến độ với ban giám đốc, bạn chọn hướng nào?

Tình huống này hữu ích với bạn?

Bình luận (0)