Duy Linh
Writer
Lỗ hổng AI từ dữ liệu bên ngoài ngày càng nguy hiểm
Google vừa giới thiệu một công nghệ phòng thủ toàn diện chống lại các cuộc tấn công tiêm nhắc gián tiếp – một dạng tấn công tinh vi nhắm vào hệ thống AI tạo sinh như Gemini. Không giống các cuộc tấn công tiêm nhắc trực tiếp (chèn mã độc ngay trong lời nhắc), tiêm nhắc gián tiếp nhúng các lệnh nguy hiểm vào dữ liệu bên ngoài như email, tệp đính kèm hoặc lời mời lịch.Khi các công cụ như Gemini được tích hợp sâu trong Google Workspace và nhiều ứng dụng khác, những cuộc tấn công kiểu này càng đáng lo ngại hơn. Nhằm đối phó, Google triển khai một khung bảo mật nhiều lớp trong phiên bản Gemini 2.5, giúp bảo vệ người dùng trong suốt quá trình tương tác với ứng dụng.
Khung này kết hợp các mô hình học máy để nhận diện nội dung nguy hiểm, cùng các biện pháp bảo vệ hệ thống giúp tăng chi phí và độ phức tạp cho kẻ tấn công. Google hi vọng điều này sẽ khiến chúng chuyển sang các phương thức tấn công dễ bị phát hiện hơn hoặc kém hiệu quả hơn.
Nền tảng phòng thủ từ AI và đào tạo đối kháng
Chiến lược bảo mật của Google dựa trên đào tạo đối kháng – huấn luyện AI để dự đoán và loại bỏ các lệnh độc hại. Cốt lõi của giải pháp này là các trình phân loại nội dung độc quyền, được phát triển thông qua chương trình săn lỗi AI của Google cùng cộng đồng nghiên cứu an ninh.Các bộ phân loại này có thể lọc các chỉ dẫn nguy hiểm được nhúng trong nhiều loại dữ liệu khác nhau, đảm bảo nội dung trên Workspace vẫn an toàn. Chẳng hạn, các lệnh ẩn trong email Gmail sẽ bị phát hiện và bỏ qua, giúp người dùng tránh rủi ro.
Để tăng cường bảo vệ, Google còn sử dụng các hướng dẫn nhúng trong lời nhắc, giữ cho mô hình ngôn ngữ lớn (LLM) chỉ tập trung vào nhiệm vụ chính và bỏ qua nội dung có tính đối nghịch. Ngoài ra, Google còn triển khai các kỹ thuật như làm sạch mã markdown, chỉnh sửa các đường dẫn đáng ngờ – tất cả đều được hỗ trợ bởi Google Safe Browsing – nhằm ngăn chặn rò rỉ dữ liệu từ các URL nguy hiểm.
Cơ chế xác minh người dùng “Con người trong vòng lặp” (HITL) cũng được tích hợp. Các hành động tiềm ẩn rủi ro như xóa sự kiện trên lịch giờ đây phải được người dùng xác nhận rõ ràng, giảm nguy cơ bị lạm dụng.
Google cũng chú trọng vào nâng cao nhận thức người dùng. Họ cung cấp thông báo bảo mật theo ngữ cảnh, kèm liên kết đến các tài liệu hướng dẫn trên Trung tâm trợ giúp, giúp người dùng nhận diện các mối đe dọa tương tự trong tương lai.
Hướng tới chuẩn bảo mật AI toàn diện
Bằng cách tích hợp khả năng phòng thủ ngay trong mô hình Gemini 2.5 thông qua đào tạo dữ liệu đối kháng và các chiến lược giảm thiểu chủ động, Google đang dẫn đầu trong việc ngăn chặn các tấn công AI hiện tại và tương lai.Các cuộc tấn công gián tiếp không chỉ gây rò rỉ dữ liệu mà còn tạo điều kiện cho hành vi gian lận. Cách tiếp cận đa lớp của Google – từ lọc nội dung, bảo vệ URL, đến xác thực người dùng – cho thấy một chiến lược dài hạn trong bảo vệ AI tạo sinh.
Nỗ lực này đánh dấu một cột mốc quan trọng, đảm bảo rằng AI được triển khai một cách an toàn, có trách nhiệm, và bảo vệ người dùng khỏi các rủi ro số ngày càng phức tạp.
Đọc chi tiết tại đây: https://gbhackers.com/google-integrates-genai-to-counter/
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview