bảo mật ai

Một công ty kỹ thuật ở Anh, Arup, từng trở thành nạn nhân của một vụ lừa đảo deepfake khiến họ mất 25 triệu đô la. Thủ phạm đã sử dụng công nghệ deepfake mô phỏng giọng nói và hình ảnh của CEO, thực hiện một cuộc gọi video và yêu cầu nhân viên chuyển tiền khẩn cấp. Cái bẫy ảo nhưng thiệt hại lại...

Trong một phát hiện gây chú ý, các chuyên gia an ninh mạng đã xác định được mẫu phần mềm độc hại đầu tiên được thiết kế để lừa công cụ trí tuệ nhân tạo, khiến chúng dừng việc phân tích và không phát hiện ra mã độc. "Skynet" nguyên mẫu mã độc hướng đến AI Mẫu phần mềm độc hại này được đặt tên...

Một nhà nghiên cứu của Neural Trust đã phát hiện ra cách khai thác điểm yếu của các mô hình AI như GPT hay Gemini, thông qua kỹ thuật có tên "Echo Chamber" – tức là tạo ra một chuỗi lời nhắc dường như vô hại nhưng lại dẫn mô hình đến việc tạo ra nội dung nguy hiểm. Cách thức hoạt động của...

Lỗ hổng AI từ dữ liệu bên ngoài ngày càng nguy hiểm Google vừa giới thiệu một công nghệ phòng thủ toàn diện chống lại các cuộc tấn công tiêm nhắc gián tiếp – một dạng tấn công tinh vi nhắm vào hệ thống AI tạo sinh như Gemini. Không giống các cuộc tấn công tiêm nhắc trực tiếp (chèn mã độc ngay...

Cách kẻ tấn công lừa LLM mà không cần lời nhắc trực tiếp Một hình thức tấn công mạng bằng trí tuệ nhân tạo mới, có tên Echo Chamber, vừa được nhà cung cấp bảo mật AI Neural Trust công bố. Cuộc tấn công Proof-of-Concept (PoC) này cho thấy kẻ tấn công có thể thao túng các mô hình ngôn ngữ lớn...

Chúng ta đang sống trong thời kỳ “sốt vàng” của trí tuệ nhân tạo, đặc biệt là AI tạo sinh (Gen AI). Từ phòng nghiên cứu, công nghệ này đã nhanh chóng len lỏi vào các hoạt động hàng ngày trong doanh nghiệp – từ tiếp thị, phát triển phần mềm, chăm sóc khách hàng đến nhân sự. AI đang giúp các công...

Khi doanh thu từ người tiêu dùng đang chững lại, các nhà mạng đang “xoay trục” sang doanh nghiệp và bảo mật AI trở thành con át chủ bài. Các nhà mạng đổ tiền vào bảo mật AI: Xu hướng không thể đảo ngược Theo nghiên cứu mới từ Juniper Research, đến năm 2029, các nhà khai thác viễn thông toàn...

Hệ thống hạ tầng CNTT hiện tại không đủ sức đáp ứng khối lượng và tốc độ của AI – từ dữ liệu lớn đến bộ xử lý mô hình phức tạp. Theo báo cáo Xu hướng CNTT Q1 2025 của JumpCloud, 42% doanh nghiệp ưu tiên chi cho AI, 40% cho hạ tầng đám mây, và bảo mật là số 1 – cho thấy sự hội tụ quan trọng...

Nghiên cứu đăng trên PLOS One đã phỏng vấn 28 người tham gia “LLM red teaming” – quá trình thử thách giới hạn AI tạo sinh như ChatGPT bằng cách cố tình khiến AI trả lời ngoài dự kiến hoặc vượt rào bảo mật. Red teamer đến từ nhiều ngành nghề: kỹ sư phần mềm, nhà nghiên cứu, nghệ sĩ, thậm chí...

Trí tuệ nhân tạo tạo sinh (Generative AI) mang đến những thay đổi đáng kể trong nhiều ngành nghề, lĩnh vực. Tuy nhiên, việc phát triển và triển khai các công cụ AI đảm bảo an toàn bảo mật vẫn là một bài toán nan giải đối với nhiều doanh nghiệp. Các lãnh đạo doanh nghiệp đang lo ngại về nhiều rủi...