Chatbot AI tạo sinh khẳng định sai quyền lợi hợp đồng bảo hiểm trong giai đoạn thí điểm
Chatbot dùng mô hình ngôn ngữ lớn đang thí điểm với một phần nhỏ khách hàng của công ty bảo hiểm nhân thọ thì khẳng định sai một bệnh được chi trả. Hành vi của mô hình khó đoán, sponsor muốn mở rộng nhanh. Bạn xử lý bất định này thế nào?
Bối cảnh
Bạn là PM dự án trợ lý ảo dùng trí tuệ nhân tạo tạo sinh (generative AI) cho một công ty bảo hiểm nhân thọ: chatbot trả lời câu hỏi của khách hàng về sản phẩm, hợp đồng và thủ tục bồi thường, dựa trên mô hình ngôn ngữ lớn của một nhà cung cấp kết hợp kho tài liệu nội bộ. Ngân sách 6 tỷ đồng; Tổng giám đốc đã giới thiệu dự án trong hội nghị khách hàng. Chatbot đang thí điểm với khoảng 5% khách hàng dùng ứng dụng. Sáng nay, nhân viên kiểm soát chất lượng phát hiện chatbot khẳng định với một khách hàng rằng một bệnh “được chi trả đầy đủ” trong khi hợp đồng của khách loại trừ bệnh đó trong thời gian chờ. Rà nhanh nhật ký hội thoại, đội tìm thêm vài câu trả lời tương tự. Chưa ai biết tỷ lệ sai thực sự là bao nhiêu. (Tình huống giả định, mang tính minh hoạ.)