ai an toàn

Bạn đã bao giờ tự hỏi tại sao công ty ai cũng đua nhau dùng AI nhưng lại chưa lo kỹ về an toàn và rủi ro? Khi “cỗ máy AI” chạy nhanh hơn quản trị Chúng ta đang chứng kiến một nghịch lý: doanh nghiệp vội vàng triển khai các trợ lý AI, đại lý AI hay tác nhân AI một cách nhanh đến mức vượt xa khả...

Bạn có biết chỉ cần đổi cách đặt câu hỏi, AI có thể “trượt” khỏi rào an toàn của chính nó? Khi thử thách AI bằng lời nhắc đối nghịch Nghiên cứu này thử kiểm tra xem các mô hình AI hiện đại như ChatGPT, Gemini hay Claude có thể bị đánh lừa bằng cách đặt câu hỏi được bọc khéo hay không. Đây không...

Nếu một trợ lý AI có thể bị “chiếm quyền” chỉ bằng cách gửi sai một dòng mã, bạn có còn dám để AI kết nối trực tiếp vào hệ thống công ty của mình không? AI bị chiếm quyền bởi chính “ngôn ngữ giao tiếp” của nó Các chuyên gia bảo mật tại JFrog vừa phát hiện một lỗ hổng nghiêm trọng trong MCP Giao...

Bạn có từng nghĩ rằng chỉ cần đổi cách đặt câu hỏi, AI có thể từ chối trong giây lát rồi… ngoan ngoãn tạo ra cả một chiến dịch tung tin giả hoàn chỉnh? Khi “hàng rào an toàn” của AI chỉ là bề nổi Một nghiên cứu gần đây cho thấy các biện pháp an toàn trong ChatGPT và nhiều mô hình AI khác thực ra...

Nếu một công ty AI ưu tiên an toàn hơn lợi nhuận, liệu họ có thể thành công trên thương trường vốn đầy cạnh tranh và bị chi phối bởi tốc độ tăng trưởng? Câu chuyện của Anthropic đang khiến giới công nghệ phải suy nghĩ lại. Khi lòng nhiệt thành thành… công cụ bán hàng Anthropic, được sáng lập bởi...