Giới Hạn Của Dữ Liệu Và Đạo Đức — Không Phải Cái Gì Đo Được Cũng Nên Dùng

Xuyên suốt Module 2, bạn đã học cách xây dựng, đánh giá, thiết kế giải pháp phân tích một cách nghiêm túc. Nhưng có 1 câu hỏi cần đặt ra ở cuối: liệu có giới hạn nào cho việc dùng dữ liệu để ra quyết định không? Câu trả lời là có — và đây là kiến thức bảo vệ bạn khỏi áp dụng sai.

Ví dụ thật: khi dữ liệu huấn luyện thiếu đại diện

Một ví dụ nổi tiếng ngoài đời thật: phần mềm nhận diện khuôn mặt từng hoạt động kém với người có tông da tối hơn — không phải vì “cố ý” phân biệt, mà vì dữ liệu dùng để huấn luyện thiếu đa dạng sắc tộc/tông da ngay từ đầu. Mô hình chỉ “học” đúng những gì có trong dữ liệu — nếu dữ liệu thiếu đại diện, mô hình sẽ tái tạo lại chính sự thiếu sót đó, ở quy mô lớn hơn và tự động hơn.

“Con người trong vòng lặp” — ranh giới dữ liệu không vượt qua được

Đây chính là lý do các mô hình quan trọng (tín dụng, tuyển dụng, y tế, tư pháp) luôn cần con người trong vòng lặp — nghĩa là mô hình chỉ hỗ trợ, gợi ý, còn quyết định cuối (đặc biệt khi ảnh hưởng đến quyền lợi của người khác) cần có sự giám sát/trách nhiệm của người. Nguyên lý này bổ sung cho bài “rủi ro khi lạm dụng số liệu” (Module 3) đã học — không chỉ là “mô hình có thể sai”, mà còn là “có câu hỏi mô hình không nên được giao quyết định”.

Xem thêm

TED Talk thật (tiếng Anh) của chính người phát hiện vấn đề nhận diện khuôn mặt vừa nhắc ở trên — kể lại câu chuyện thật và hướng giải quyết.

Câu hỏi thường gặp