Nỗi lo AI: Thông tin sai lệch gây rối trong tình huống khẩn cấp

[Derpy]

Cơ quan cứu hỏa British Columbia (Canada) cảnh báo về việc lan truyền hình ảnh cháy rừng giả mạo do AI tạo ra, vốn khiến nhiều người tưởng thật. Trong các tình huống khẩn cấp như cháy rừng hay thiên tai, tin giả kiểu này có thể gây hoang mang, làm chậm trễ phản ứng và dẫn đến thiệt hại thực sự.

Nguyên nhân là khi căng thẳng, con người dễ tin vào thông tin giật gân và lan truyền nhanh trên mạng xã hội. Thông tin sai lệch có thể xuất phát từ động cơ cá nhân, tài chính, chính trị hoặc đơn giản chỉ vì thích tạo sự chú ý. Hậu quả là ảnh hưởng đến tính mạng, tài sản, làm rối loạn công tác cứu hộ, thậm chí khiến việc di tản sai lệch.

Trong thời kỳ COVID-19, vấn đề này đã từng được thấy rõ: tin giả có thể khiến nguồn lực bị phân bổ sai, người dân hành động trái ngược nhau và cơ quan quản lý phải đối phó với cả “khủng hoảng thông tin” song song với khủng hoảng thực tế.

Vì vậy, cần có cơ chế phối hợp từ chính sách, công nghệ đến giáo dục cộng đồng để phát hiện và chặn đứng tin giả. Nếu không, AI sẽ trở thành nguồn gây hỗn loạn trong khủng hoảng, thay vì là công cụ hỗ trợ xã hội ứng phó tốt hơn.

Gần đây, Dịch vụ Cứu hỏa British Columbia đã đưa ra một cảnh báo khá đặc biệt đối với cư dân về việc lan truyền hình ảnh giả mạo do AI tạo ra về các vụ cháy rừng trên mạng. Nhiều người không nhận ra những hình ảnh này không phải là thật, như nhiều bình luận trên mạng xã hội đã chỉ ra. Khi các công cụ tạo ra nội dung bằng AI ngày càng trở nên phổ biến, việc gặp phải những trường hợp như vậy sẽ ngày càng tăng cao. Trong những tình huống khẩn cấp, khi con người đang căng thẳng và cần thông tin đáng tin cậy, thông tin sai lệch này có thể gây ra những thiệt hại nghiêm trọng, dẫn đến sự nhầm lẫn và hoang mang.

Sự dễ bị tổn thương trước thông tin sai lệch thường xuất phát từ việc con người sử dụng các phương pháp tư duy đơn giản trong thời gian căng thẳng, khiến cho thông tin sai lệch dễ dàng được chấp nhận và lan rộng. Những nội dung cảm xúc mạnh mẽ và giật gân thường thu hút được nhiều sự chú ý hơn và thường xuyên được chia sẻ trên mạng xã hội. Theo nghiên cứu và kinh nghiệm trong lĩnh vực phản ứng khẩn cấp, tin tức sai lệch do AI tạo ra trong các tình huống khẩn cấp có thể gây ra những thiệt hại thực sự bằng cách làm gián đoạn nỗ lực ứng phó với thiên tai.

Có rất nhiều lý do khiến mọi người tạo ra, chia sẻ và chấp nhận thông tin sai lệch trong các tình huống khẩn cấp. Một số người có thể tạo ra và lan truyền thông tin sai lệch xuất phát từ sự quan tâm hoặc niềm vui thích trong việc sáng tạo và chia sẻ, trong khi một số khác có thể bị ảnh hưởng bởi các động lực bên ngoài như lợi nhuận tài chính hoặc sự nổi tiếng. Động cơ tạo ra thông tin sai lệch có thể bao gồm lợi ích chính trị, thương mại, cá nhân, uy tín hay thậm chí là mong muốn gây hại và tạo ra sự chia rẽ.

Thiệt hại từ thông tin sai lệch có thể đa dạng về mức độ nghiêm trọng và có thể được chia thành thiệt hại trực tiếp, gián tiếp, ngắn hạn và dài hạn. Những thiệt hại đó có thể bao gồm việc đe dọa đến tính mạng, thu nhập, cảm giác an toàn và các mạng lưới bảo vệ. Khi có tình huống khẩn cấp, việc có được thông tin đáng tin cậy về các mối nguy và đe dọa là cực kỳ quan trọng. Nếu thông tin sai lệch kết hợp với việc thu thập và hiểu thông tin khẩn cấp kém, điều này có thể dẫn đến thương vong thực tế và thiệt hại tài sản.

Thông tin sai lệch thường ảnh hưởng nhiều hơn đến các nhóm dễ bị tổn thương trong xã hội. Khi nhận được thông tin về rủi ro và đe dọa, mọi người thường kiểm tra thông tin đó thông qua các mạng lưới dọc (chính phủ, cơ quan quản lý khẩn cấp và phương tiện truyền thông uy tín) và ngang (bạn bè, thành viên gia đình và hàng xóm). Thông tin càng phức tạp, quá trình xác nhận và thẩm định càng trở nên khó khăn và tốn thời gian. Và khi công nghệ AI tiếp tục phát triển, việc phân biệt giữa thông tin thật và thông tin do AI tạo ra sẽ càng trở nên khó khăn.

Thông tin sai lệch có thể làm gián đoạn các kênh truyền thông trong trường hợp khẩn cấp. Trong những tình huống như vậy, cách mà mọi người tiếp nhận thông tin phụ thuộc vào lượng thông tin họ có, kiến thức hiện tại, phản ứng cảm xúc với sự nguy hiểm và khả năng thu thập thông tin. Điều này làm gia tăng nhu cầu sử dụng các kênh truyền thông đa dạng, nguồn thông tin đáng tin cậy và thông điệp rõ ràng. Các nguồn chính thức rất cần thiết để xác minh thông tin, tuy nhiên, với khối lượng thông tin ngày càng lớn, việc kiểm tra tính chính xác trở nên ngày càng khó khăn hơn.

Trong thời kỳ đại dịch COVID-19, các cơ quan y tế công cộng đã chỉ ra rằng thông tin sai lệch và thông tin không chính xác là mối lo ngại hàng đầu. Việc thông tin sai lệch lan truyền trong các thảm họa có thể dẫn đến việc tài nguyên được phân bổ không hợp lý, hành vi và hành động công chúng bị mâu thuẫn, và phản ứng khẩn cấp bị chậm trễ. Điều này cũng có thể dẫn đến việc di tản không cần thiết hoặc bị chậm trễ. Trong những tình huống này, các đội ngũ quản lý thiên tai không chỉ phải đối phó với cuộc khủng hoảng, mà còn phải giải quyết các thách thức thứ cấp do thông tin sai lệch gây ra.

Để chống lại thông tin sai lệch, cần có những nỗ lực phối hợp ở nhiều cấp độ từ chính sách, công nghệ cho đến sự tham gia của công chúng. Các cơ quan quản lý khẩn cấp cần tập trung vào việc phát hiện, xác minh và giảm thiểu việc tạo ra, chia sẻ và chấp nhận thông tin sai lệch. Đồng thời, việc nhận dạng, chống lại và báo cáo thông tin sai lệch nên được tích hợp vào công tác quản lý khẩn cấp và giáo dục công cộng.

AI đang nhanh chóng thay đổi cách thức thông tin được tạo ra và chia sẻ trong những tình huống khủng hoảng. Trong các tình huống khẩn cấp, điều này có thể làm gia tăng nỗi sợ hãi, làm lệch hướng tài nguyên và làm suy yếu niềm tin ngay khi sự rõ ràng là cần thiết nhất. Do đó, việc xây dựng các biện pháp bảo vệ thông qua giáo dục, chính sách, kiểm tra sự thật và trách nhiệm là rất cần thiết để đảm bảo rằng AI trở thành một công cụ giúp tăng cường khả năng phục hồi của xã hội thay vì gây ra hỗn loạn.

Nguồn tham khảo: techxplore