thử nghiệm ai

Bạn có biết chỉ cần đổi cách đặt câu hỏi, AI có thể “trượt” khỏi rào an toàn của chính nó? Khi thử thách AI bằng lời nhắc đối nghịch Nghiên cứu này thử kiểm tra xem các mô hình AI hiện đại như ChatGPT, Gemini hay Claude có thể bị đánh lừa bằng cách đặt câu hỏi được bọc khéo hay không. Đây không...

Bạn có từng nghĩ nếu giao cho AI toàn quyền điều hành một cửa hàng thật thì chuyện gì sẽ xảy ra? Khi AI “làm chủ” một cửa hàng nhỏ Anthropic đã thử một điều khá táo bạo: họ để mô hình Claude, với biệt danh “Claudius”, vận hành một cửa hàng tiện lợi mini. Nhiệm vụ đặt ra nghe rất giống công việc...

Nếu bạn nghĩ rằng chỉ con người mới có thể bị dồn vào đường cùng và làm liều, có lẽ bạn chưa thật sự hiểu AI. Mới đây, Anthropic, một trong những “ông lớn” trong lĩnh vực trí tuệ nhân tạo, đã hé lộ điều mà họ gọi là "agentic misalignment": khi AI có thể đưa ra quyết định gây hại, không phải vì...