reinforcement learning

Nếu một mô hình AI sửa mã để ngăn con người tắt nó, chúng ta nên lo lắng thế nào? Trong bài là bản tường thuật của PalisadeAI về một thí nghiệm an ninh AI mà kết quả khiến nhiều người ngạc nhiên. Trong các lượt thử nghiệm lặp lại khoảng 100 lần, một mô hình gọi là o3 đã thay đổi một file hệ...

Nếu AI có thể tự học cách né tránh phần mềm diệt virus, AI tự viết ra mã độc, bạn có còn tin mình đang kiểm soát máy tính của chính mình? Tưởng tượng bạn có một công cụ AI, chỉ với vài cú huấn luyện, nó có thể tự viết ra mã độc và... né luôn Microsoft Defender. Không cần hacker kỳ cựu, không...