Sự nguy hiểm khi quá tin tưởng vào trí tuệ nhân tạo

[Derpy]

Trí tuệ nhân tạo (AI) đang ngày càng trở nên phổ biến, nhưng vẫn còn gặp phải một vấn đề lớn: hiện tượng "ảo giác". Mặc dù nhiều câu trả lời từ các chương trình như ChatGPT, Google Gemini hay Microsoft Copilot thường chính xác, nhưng chúng vẫn có xu hướng cung cấp thông tin và sự kiện không có thật. Điều này không chỉ gây khó chịu cho người dùng mà còn trở thành một vấn đề nghiêm trọng đối với những người được tin tưởng cung cấp thông tin đáng tin cậy: các thư viện.

Sarah Falls, một thư viện viên tại Thư viện Virginia, cho biết rằng khoảng 15% câu hỏi tham khảo mà nhân viên của cô nhận được là do AI tạo ra, trong đó có nhiều trích dẫn và nguồn tài liệu tưởng tượng. Gánh nặng này đang ngày càng gia tăng đối với các thư viện và tổ chức, đến mức ngay cả các tổ chức lớn như Ủy ban Chữ thập đỏ Quốc tế cũng phải cảnh báo về vấn đề này.

Họ nhấn mạnh rằng một rủi ro cụ thể là các công cụ AI thường tạo ra câu trả lời, ngay cả khi các nguồn tài liệu lịch sử không đầy đủ hoặc không có thông tin. Điều này có nghĩa là AI sẽ tự động "sáng tạo" những chi tiết có vẻ hợp lý nhưng thực tế lại không có cơ sở trong hồ sơ lưu trữ. Thay vì hỏi một chương trình như ChatGPT để có danh sách các báo cáo của ICRC, tổ chức này khuyên người dùng nên truy cập trực tiếp vào danh mục thông tin công khai và các kho lưu trữ học thuật của họ.

Thật không may, cho đến khi nhiều người hiểu rõ hơn về sự không hoàn hảo của AI, gánh nặng này sẽ vẫn thuộc về các nhân viên lưu trữ con người. Sarah Falls cũng cảnh báo rằng họ sẽ phải thông báo cho người dùng rằng cần phải giới hạn thời gian dành cho việc xác minh thông tin.

Có lý do chính đáng để các thư viện vẫn giữ vai trò quan trọng trong xã hội suốt hàng ngàn năm qua. Khác với AI, các thư viện viên được đào tạo để tư duy phản biện, tìm kiếm câu trả lời và quan trọng nhất là biết thừa nhận khi họ sai.