Sử dụng AI trong nhận diện khuôn mặt dẫn đến bắt giữ sai
Angela Lipps, một phụ nữ ở Tennessee, đã bị bắt giữ dựa trên công nghệ nhận diện khuôn mặt AI liên quan đến các vụ lừa đảo ngân hàng tại North Dakota, nơi cô chưa từng ghé thăm. Cảnh sát Fargo đã thừa nhận có ‘một vài sai sót’ trong quy trình điều tra và cam kết sẽ thay đổi cách thức hoạt động của mình.
Sự kiện xảy ra như thế nào?
- Vào ngày 14 tháng 7, Angela Lipps bị bắt tại Tennessee do có lệnh truy nã từ Fargo.
- Công cụ nhận diện khuôn mặt AI của West Fargo đã xác định ‘người nghi phạm tiềm năng’ có đặc điểm giống Angela Lipps.
Điều tra và sai sót
Cảnh sát Fargo dựa vào thông tin từ hệ thống AI của West Fargo, mặc dù không biết về việc sử dụng công cụ này. Cảnh sát trưởng Dave Zibolski cho biết hệ thống AI đó hiện đã bị cấm sử dụng. Cảnh sát cũng không nộp ảnh giám sát cho Trung tâm Tình báo Bang North Dakota.
Zibolski nói, ‘Chúng tôi sẽ không tiếp tục sử dụng thông tin từ hệ thống AI của West Fargo.‘
Phản ứng từ Angela Lipps
Trong quá trình bị bắt giữ và di lý, Lipps rất sợ hãi và kiệt sức. Bà được giao một luật sư tìm thấy chứng cứ ngoại phạm cho thấy bà ở Tennessee trong thời gian các vụ án xảy ra. Ngày 23 tháng 12, các cáo buộc đã được rút lại. Không có lời xin lỗi nào từ phía cảnh sát Fargo, khi họ tuyên bố cần kiểm tra thêm các thông tin.
Kết luận
Trường hợp của Angela Lipps cho thấy rủi ro khi sử dụng AI trong cảnh sát khi không có đủ quy trình kiểm tra độc lập. Cảnh sát Fargo đang xem xét các bước cải tiến, bao gồm cả việc huấn luyện nhận diện khuôn mặt.