tấn công echo chamber
-
Cách Echo Chamber thao túng AI, tạo ra các nội dung cực kỳ nguy hiểm
Một nhà nghiên cứu của Neural Trust đã phát hiện ra cách khai thác điểm yếu của các mô hình AI như GPT hay Gemini, thông qua kỹ thuật có tên "Echo Chamber" – tức là tạo ra một chuỗi lời nhắc dường như vô hại nhưng lại dẫn mô hình đến việc tạo ra nội dung nguy hiểm. Cách thức hoạt động của...- Code Nguyen
- Chủ đề
- ai tạo nội dung sai lệch bảo mật ai gpt bị khai thác hướng dẫn chế bom xăng kiểm duyệt ai kỹ thuật tiêm nhắc ai mô hình ngôn ngữ lớn neural trust nghiên cứu rủi ro bảo mật genai tấn công echo chamber
- Trả lời: 0
- Diễn đàn: Cộng đồng An ninh mạng
-
Làm sao hacker có thể khiến AI tạo ra nội dung nguy hiểm?
Cách kẻ tấn công lừa LLM mà không cần lời nhắc trực tiếp Một hình thức tấn công mạng bằng trí tuệ nhân tạo mới, có tên Echo Chamber, vừa được nhà cung cấp bảo mật AI Neural Trust công bố. Cuộc tấn công Proof-of-Concept (PoC) này cho thấy kẻ tấn công có thể thao túng các mô hình ngôn ngữ lớn...- MinhSec
- Chủ đề
- ai tạo nội dung nguy hiểm ai độc hại bảo mật ai bảo vệ mô hình ngôn ngữ khai thác llm kiểm toán ngữ cảnh ai lỗ hổng ngôn ngữ ai tấn công echo chamber tấn công không lời nhắc tiêm nhắc llm
- Trả lời: 0
- Diễn đàn: Cộng đồng An ninh mạng