Lỗ hổng trong trình duyệt AI: Vì sao "Scamlexity" có thể đe dọa hàng triệu người?

[Duy Linh]

Các nhà nghiên cứu an ninh mạng vừa phát hiện những lỗ hổng nghiêm trọng trong các trình duyệt hỗ trợ AI, mở ra một kỷ nguyên tấn công mạng mới mà họ gọi là “Scamlexity”. Điển hình là Comet AI của Perplexity, vốn được thiết kế để thực hiện các tác vụ như mua sắm, quản lý email, nhưng lại thiếu các lớp bảo mật cần thiết. Điều này khiến các tác nhân AI dễ dàng bị thao túng, trở thành công cụ cho kẻ tấn công khai thác dữ liệu và tài chính của người dùng.

Trong thử nghiệm, nhóm nghiên cứu đã chỉ ra ba kịch bản tấn công:

• Tấn công qua trang web giả mạo: Một cửa hàng Walmart ảo được dựng trong vài phút đã khiến trình duyệt AI tự động điền thông tin thanh toán, hoàn tất việc mua Apple Watch trái phép mà không cần người dùng xác nhận.
• Email lừa đảo: Một email giả mạo từ Wells Fargo được AI đánh dấu là hợp pháp, tự động điều hướng người dùng tới trang web lừa đảo, bỏ qua các dấu hiệu cảnh báo như địa chỉ gửi hay URL bất thường.

Chiến dịch lừa đảo

• Kỹ thuật PromptFix: Đây là dạng tiến hóa của lừa đảo ClickFix, nhúng các chỉ thị độc hại trong nội dung web trông vô hại. Trình duyệt AI bị lừa tin rằng đây là một CAPTCHA “thân thiện với AI” và tự động giải quyết, dẫn đến việc tải xuống tập tin độc hại và xâm nhập hệ thống.

Khái niệm tiêm nhắc cơ bản

Nguy cơ lan rộng và yêu cầu khẩn cấp về bảo mật AI​

Điểm nguy hiểm của các cuộc tấn công này nằm ở chỗ chúng không nhắm vào cá nhân, mà khai thác sự tin tưởng mặc định giữa người dùng và tác nhân AI. Khi một mô hình AI bị thao túng, hàng triệu người dùng có thể bị ảnh hưởng cùng lúc. Các nhà nghiên cứu cảnh báo rằng bản chất tự động của AI đã loại bỏ sự hoài nghi và trực giác của con người trong các quyết định an ninh, tạo ra những điểm yếu đặc biệt dễ bị lợi dụng.

PromptFIx – Tiêm nhanh
Phát hiện này cho thấy sự cấp thiết phải xây dựng khuôn khổ bảo mật mạnh mẽ cho các trình duyệt AI. Khi những tập đoàn lớn như Microsoft và OpenAI đẩy mạnh phát triển công nghệ này, việc triển khai biện pháp phòng vệ toàn diện là cần thiết để bảo vệ người dùng khỏi những mối đe dọa ngày càng tinh vi. Nghiên cứu cũng chỉ ra rằng các kỹ thuật lừa đảo vốn quen thuộc nay trở nên nguy hiểm hơn nhiều khi được AI xử lý một cách tự động, đòi hỏi các chiến lược an ninh mạng mới được thiết kế riêng cho môi trường duyệt web thông minh.

Đọc chi tiết tại đây: https://gbhackers.com/promptfix-exploit/

 

Được phối hợp thực hiện bởi các chuyên gia của Bkav, cộng đồng An ninh mạng Việt Nam WhiteHat và cộng đồng Khoa học công nghệ VnReview