tiêm nhắc llm
-
AI đứng trước nguy cơ bị tấn công và điều khiển bởi mã độc
Các nhà nghiên cứu tại Check Point Research vừa công bố phát hiện đáng chú ý: mẫu phần mềm độc hại đầu tiên được ghi nhận cố gắng sử dụng “lời nhắc tiêm” để khiến các công cụ AI phân tích phần mềm độc hại kết luận sai rằng nó vô hại. Dù nỗ lực trốn tránh này chưa thành công, nhưng đây là dấu...- MinhSec
- Chủ đề
- ai trong an ninh mạng bảo mật ai 2025 kỹ thuật né tránh ai malware prompt injection phần mềm độc hại lừa ai phần mềm độc hại thông minh phần mềm độc hại tiêm nhắc tấn công ai bằng prompt injection tiêm nhắc llm
- Trả lời: 0
- Diễn đàn: Cộng đồng An ninh mạng
-
Làm sao hacker có thể khiến AI tạo ra nội dung nguy hiểm?
Cách kẻ tấn công lừa LLM mà không cần lời nhắc trực tiếp Một hình thức tấn công mạng bằng trí tuệ nhân tạo mới, có tên Echo Chamber, vừa được nhà cung cấp bảo mật AI Neural Trust công bố. Cuộc tấn công Proof-of-Concept (PoC) này cho thấy kẻ tấn công có thể thao túng các mô hình ngôn ngữ lớn...- MinhSec
- Chủ đề
- ai tạo nội dung nguy hiểm ai độc hại bảo mật ai bảo vệ mô hình ngôn ngữ khai thác llm kiểm toán ngữ cảnh ai lỗ hổng ngôn ngữ ai tấn công echo chamber tấn công không lời nhắc tiêm nhắc llm
- Trả lời: 0
- Diễn đàn: Cộng đồng An ninh mạng