Ảo giác AI là gì?
Còn gọi: hallucination, ai hallucination, ai bịa thông tin
Hallucination là hiện tượng mô hình AI tạo ra thông tin sai hoặc bịa đặt nhưng trình bày rất tự tin, như thể đó là sự thật.
Hiểu kỹ hơn
Với chatbot, ảo giác thể hiện qua số liệu sai, trích dẫn nguồn không tồn tại, tên tính năng phần mềm không có thật, hay phím tắt sai. Với AI tạo ảnh, người ta cũng gọi các lỗi như ngón tay thừa, chữ vô nghĩa trên biển hiệu, logo biến dạng là một dạng ảo giác về hình. Nguyên nhân: mô hình tạo ra nội dung nghe hợp lý theo xác suất, không tự kiểm tra sự thật. Với người làm nội dung, đây là rủi ro lớn: một bài viết có số liệu bịa có thể làm mất uy tín thương hiệu. Cách giảm: yêu cầu AI dẫn nguồn và tự mở nguồn để kiểm tra, cung cấp tài liệu gốc trong prompt, hỏi lại theo cách khác, dùng công cụ có tìm kiếm web. Lỗi hay gặp là tin tuyệt đối vào hướng dẫn phần mềm do AI viết; hãy đối chiếu với tài liệu chính thức.
