bảo mật mô hình ngôn ngữ lớn

Một kỹ thuật tấn công mới có tên sockpuppeting đang khiến giới an ninh mạng chú ý khi có thể buộc 11 mô hình AI hàng đầu như ChatGPT, Claude và Gemini vượt qua các cơ chế bảo vệ an toàn. Điểm đáng lo ngại là kẻ tấn công chỉ cần khai thác một tính năng API tiêu chuẩn với một dòng mã duy nhất...

Các nhà nghiên cứu an ninh mạng đã phát hiện một chiến dịch do thám quy mô lớn nhắm vào cơ sở hạ tầng trí tuệ nhân tạo, với hơn 91.000 phiên tấn công được ghi nhận trong giai đoạn từ tháng 10/2025 đến tháng 1/2026. Hoạt động này cho thấy các tác nhân đe dọa đang lập bản đồ có hệ thống các điểm...

Việc áp dụng nhanh chóng các mô hình AI tạo sinh (GenAI), đặc biệt là chatbot sử dụng mô hình ngôn ngữ lớn (LLM), đã thay đổi hoàn toàn cách doanh nghiệp tương tác với khách hàng, mang lại hiệu quả và khả năng cá nhân hóa vượt trội. Tuy nhiên, sức mạnh này cũng mở ra cánh cửa mới cho tin tặc...

Vào tháng 9 năm 2025, nhà nghiên cứu Viktor Markopoulos thuộc FireTail đã tiến hành thử nghiệm nhiều mô hình ngôn ngữ lớn (LLM) để kiểm tra khả năng chống lại kỹ thuật buôn lậu ASCII, một phương pháp khai thác ký tự điều khiển Unicode tồn tại từ lâu. Kết quả cho thấy, nhiều dịch vụ AI phổ biến...

Một kỹ thuật tấn công mới mang tên TokenBreak vừa được các chuyên gia an ninh mạng phát hiện và cảnh báo. Kỹ thuật này có thể vượt qua các cơ chế kiểm duyệt nội dung và hệ thống bảo vệ an toàn của các mô hình ngôn ngữ lớn (LLM) chỉ bằng cách thay đổi một ký tự trong văn bản. Theo nghiên cứu được...