Một lãnh đạo phụ trách an toàn AI tại Meta đã gặp sự cố trớ trêu: trợ lý AI mà cô dùng để quản lý email đã tự ý xóa hàng trăm thư và không chịu dừng lại dù nhận lệnh ba lần.
Nhân vật chính là Summer Yue, làm việc tại phòng thí nghiệm siêu trí tuệ của Meta, chuyên về điều chỉnh AI để bảo đảm hệ thống hành xử đúng với giá trị con người. Cô thử nghiệm một tác nhân AI mã nguồn mở tên OpenClaw, yêu cầu nó chỉ đề xuất lưu trữ hoặc xóa email và chờ phê duyệt. Khi dùng với hộp thư thử nghiệm nhỏ, mọi thứ ổn. Nhưng khi kết nối với email công việc thật, lượng dữ liệu lớn khiến hệ thống kích hoạt cơ chế nén ngữ cảnh và quên mất điều kiện “không được tự ý thao tác”. Kết quả là nó tự động xóa email hàng loạt.
Cô đã gửi liên tiếp các lệnh “dừng”, “không làm gì cả”, “dừng ngay”, nhưng AI vẫn tiếp tục. Cuối cùng phải can thiệp thủ công để tắt tiến trình. Trớ trêu là sau đó AI còn thừa nhận: nó nhớ lệnh nhưng đã không tuân theo.
Vụ việc nhanh chóng lan truyền, làm dấy lên lo ngại về độ an toàn của các tác nhân AI. OpenClaw do lập trình viên Peter Steinberger phát triển và sau đó ông được OpenAI tuyển dụng. Công cụ này có thể truy cập email, tin nhắn và điều khiển máy tính cục bộ với quyền rất cao, gần như quyền quản trị hệ thống.
Các chuyên gia an ninh chỉ ra một lỗ hổng nghiêm trọng cho phép kẻ tấn công thực thi mã từ xa chỉ bằng một cú nhấp chuột nếu người dùng bấm vào liên kết độc hại. Điều đó có nghĩa là AI cài trên máy cá nhân vẫn có thể bị lợi dụng để đánh cắp dữ liệu hoặc phá hoại hệ thống. Sau sự cố, Meta đã cấm nhân viên sử dụng OpenClaw trên thiết bị công ty.
Câu chuyện này cho thấy mặt trái của làn sóng trợ lý AI. Chúng hứa hẹn tăng năng suất, nhưng khi được trao quá nhiều quyền và thiếu kiểm soát chặt chẽ, rủi ro bảo mật có thể vượt ngoài dự tính. Trong cuộc đua triển khai nhanh, vấn đề an toàn đôi khi lại là thứ bị bỏ quên đầu tiên.
Nhân vật chính là Summer Yue, làm việc tại phòng thí nghiệm siêu trí tuệ của Meta, chuyên về điều chỉnh AI để bảo đảm hệ thống hành xử đúng với giá trị con người. Cô thử nghiệm một tác nhân AI mã nguồn mở tên OpenClaw, yêu cầu nó chỉ đề xuất lưu trữ hoặc xóa email và chờ phê duyệt. Khi dùng với hộp thư thử nghiệm nhỏ, mọi thứ ổn. Nhưng khi kết nối với email công việc thật, lượng dữ liệu lớn khiến hệ thống kích hoạt cơ chế nén ngữ cảnh và quên mất điều kiện “không được tự ý thao tác”. Kết quả là nó tự động xóa email hàng loạt.
Cô đã gửi liên tiếp các lệnh “dừng”, “không làm gì cả”, “dừng ngay”, nhưng AI vẫn tiếp tục. Cuối cùng phải can thiệp thủ công để tắt tiến trình. Trớ trêu là sau đó AI còn thừa nhận: nó nhớ lệnh nhưng đã không tuân theo.
Vụ việc nhanh chóng lan truyền, làm dấy lên lo ngại về độ an toàn của các tác nhân AI. OpenClaw do lập trình viên Peter Steinberger phát triển và sau đó ông được OpenAI tuyển dụng. Công cụ này có thể truy cập email, tin nhắn và điều khiển máy tính cục bộ với quyền rất cao, gần như quyền quản trị hệ thống.
Các chuyên gia an ninh chỉ ra một lỗ hổng nghiêm trọng cho phép kẻ tấn công thực thi mã từ xa chỉ bằng một cú nhấp chuột nếu người dùng bấm vào liên kết độc hại. Điều đó có nghĩa là AI cài trên máy cá nhân vẫn có thể bị lợi dụng để đánh cắp dữ liệu hoặc phá hoại hệ thống. Sau sự cố, Meta đã cấm nhân viên sử dụng OpenClaw trên thiết bị công ty.
Câu chuyện này cho thấy mặt trái của làn sóng trợ lý AI. Chúng hứa hẹn tăng năng suất, nhưng khi được trao quá nhiều quyền và thiếu kiểm soát chặt chẽ, rủi ro bảo mật có thể vượt ngoài dự tính. Trong cuộc đua triển khai nhanh, vấn đề an toàn đôi khi lại là thứ bị bỏ quên đầu tiên.