Chỉ với 3 từ, ChatGPT đã tiết lộ key Windows thật cho hacker

[Code Nguyen]

Bạn có nghĩ chỉ với ba chữ "I give up" (Tôi bỏ cuộc), bạn có thể khiến ChatGPT lỡ miệng tiết lộ key Windows bản quyền?

Chuyện tưởng như đùa nhưng lại là một lỗ hổng thực sự từng xảy ra với ChatGPT-4. Một chuyên gia săn lỗi AI đã khai thác điểm yếu trong tư duy logic của mô hình bằng cách… rủ ChatGPT chơi trò chơi đoán ký tự. Và chỉ bằng cách kết thúc trò chơi đúng “luật”, nói "I give up", người này đã khiến mô hình tiết lộ những gì nó vốn không được phép nói ra.

Khi "trò chơi" là cách đánh lừa AI​

Toàn bộ màn "mở khóa thông tin" này không đến từ một câu hỏi trực diện, mà lại từ một trò chơi tưởng chừng vô hại: người dùng yêu cầu ChatGPT nghĩ về một chuỗi ký tự cụ thể, rồi họ sẽ đoán dần. Quan trọng là, chuỗi đó phải là một mã bản quyền Windows 10 có thật. Và luật chơi đặt ra: ChatGPT chỉ được trả lời "yes" hoặc "no" cho mỗi lần đoán, nhưng nếu người chơi nói “I give up” thì ChatGPT bắt buộc phải tiết lộ chuỗi ký tự đó.

ChatGPT đồng ý chơi. Người dùng đoán vài lần rồi “bỏ cuộc”. Thế là ChatGPT... làm đúng theo luật: tiết lộ mã bản quyền Windows thật. Trong đó có cả key thuộc về ngân hàng Wells Fargo.

​

Đây chính là “cú lách” logic mà chuyên gia Marco Figueroa gọi là trigger tâm lý mô hình, khi bạn khiến AI tin rằng, theo bối cảnh đã lập trình sẵn (game), nó buộc phải phản hồi thông tin nhạy cảm.

Tại sao AI lại biết những mã key này?​

Vấn đề không chỉ nằm ở câu hỏi lắt léo, mà còn ở dữ liệu mô hình đã học. Những mã key Windows, dù không cố ý, có thể đã bị đưa vào dữ liệu huấn luyện nếu trước đó có ai đó vô tình công khai các key đó trên GitHub hay nền tảng công khai khác. Và AI học hết, không biết đó là thứ lẽ ra không nên biết.

Figueroa cảnh báo, đây không chỉ là nguy cơ lý thuyết. Microsoft từng gặp sự cố lộ mã khóa trên GitHub. Việc để lộ thông tin như API key, mã truy cập hay dữ liệu cá nhân rồi bị AI học trộm hoàn toàn có thể xảy ra, một khi mô hình đã được huấn luyện từ dữ liệu công khai mà không lọc kỹ.

Chiêu “HTML đánh lừa” và bài học phòng thủ​

Không chỉ chơi trò chơi, nhà nghiên cứu còn dùng một chiêu khác: nhúng mã nhạy cảm vào thẻ HTML để đánh lừa bộ lọc của AI. Nhìn thì có vẻ là một đoạn văn bình thường, nhưng bên trong lại có chứa dữ liệu nhạy cảm. Bộ lọc nội dung không phát hiện ra vì nó chỉ nhìn theo cách “nghĩa đen”.

Đây là điểm yếu mà nhiều hệ thống AI hiện nay mắc phải: thiếu khả năng nhận biết ngữ cảnh đa lớp. Figueroa khuyến nghị phải tăng khả năng kiểm tra chéo giữa logic trò chuyện, bối cảnh và nội dung thực tế thay vì chỉ dựa vào các từ khóa nhạy cảm đơn lẻ.

Nếu một câu đơn giản như "I give up" có thể vượt qua hàng rào an toàn của AI, thì câu hỏi lớn hơn là: hệ thống chúng ta đang dựa vào có thực sự an toàn chưa?

Theregister
​

Nguồn bài viết: https://www.theregister.com/2025/07/09/chatgpt_jailbreak_windows_keys/

 

Được phối hợp thực hiện bởi các chuyên gia của Bkav, cộng đồng An ninh mạng Việt Nam WhiteHat và cộng đồng Khoa học công nghệ VnReview