Thiên kiến AI là gì?
Còn gọi: AI bias, bias ai, định kiến ai
Thiên kiến AI là xu hướng mô hình AI tạo ra kết quả lệch, rập khuôn hoặc thiếu công bằng về giới tính, màu da, độ tuổi, văn hoá, do dữ liệu huấn luyện và cách huấn luyện không cân bằng.
Hiểu kỹ hơn
Ví dụ dễ thấy với AI tạo ảnh: prompt 'bác sĩ' ra phần lớn đàn ông, 'y tá' ra phụ nữ; 'người Việt Nam' ra áo bà ba, nón lá, cánh đồng như bưu thiếp du lịch; 'gia đình hạnh phúc' thiếu sự đa dạng. Với designer, thiên kiến biến thành rủi ro thương hiệu: một chiến dịch dùng ảnh AI rập khuôn có thể bị phản ứng trên mạng xã hội. Cách giảm: mô tả cụ thể đặc điểm người trong prompt (tuổi, vóc dáng, trang phục hiện đại, bối cảnh đô thị Việt), tạo nhiều phương án, nhờ người khác duyệt, dùng ảnh thật làm tham chiếu. Mô hình ngôn ngữ cũng có thiên kiến trong cách viết và đánh giá. Lỗi hay gặp là coi kết quả mặc định của AI là trung lập, trong khi nó phản ánh phần đông dữ liệu đã học.
