ảo giác ai

Khi AI trở nên phổ biến thì cũng có hiện tượng nhiều người dùng AI hay than phiền một chuyện rất giống nhau. Hỏi thì AI trả lời nghe mượt mà, tự tin như chuyên gia, nhưng đến lúc kiểm tra lại thì số liệu không đúng, nguồn không tồn tại, thậm chí câu chuyện nghe rất hợp lý nhưng hoàn toàn do nó...

Bạn có từng “cãi nhau” với ChatGPT vì nó trả lời sai chưa? Hóa ra Kim Kardashian thì có, và cô còn “đổ lỗi” cho ChatGPT vì khiến mình trượt kỳ thi luật nhiều lần. Khi Kim Kardashian “học luật cùng ChatGPT” Trong buổi phỏng vấn với Vanity Fair, Kim Kardashian chia sẻ rằng cô từng dùng ChatGPT để...

Độ tin cậy của các công cụ tìm kiếm AI và hệ thống trả lời thông minh cần được đánh giá cẩn thận. Độ tin cậy này chịu ảnh hưởng của nhiều yếu tố như hạn chế kỹ thuật, chất lượng dữ liệu, tính phức tạp của kịch bản và khả năng xác minh của người dùng. Mặc dù không thể hoàn toàn tin tưởng tuyệt...

Bạn có bao giờ tự hỏi, tại sao một hệ thống AI thông minh đến vậy vẫn có thể “bịa” ra thông tin nghe rất thuyết phục nhưng lại hoàn toàn sai sự thật? Và liệu có cách nào để khắc phục triệt để vấn đề này không? Ảo giác AI không phải lỗi kỹ thuật mà là bản chất Nghiên cứu mới từ OpenAI đã khẳng...

Các mô hình ngôn ngữ lớn (LLM) mắc “ảo giác” không phải vì lỗi lập trình, mà vì bản chất hoạt động của chúng đã quyết định điều này là… không thể tránh. Ảo giác ở đây là khi AI tạo ra thông tin nghe hợp lý nhưng sai, bịa hoặc vô nghĩa. Nguy hiểm hơn, theo giáo sư vật lý Neil Johnson, đôi khi câu...

Trong khi nhiều người còn đang phàn nàn về việc các chatbot AI thường xuyên "ảo giác" và bịa ra những thông tin không có thật, một số chủ website thông minh lại đang biến chính những lỗi sai này thành một cơ hội. Bằng cách "đón lõng" các đường dẫn bị lỗi do AI tạo ra, họ đang tìm ra những cách...

Bạn có bao giờ tự hỏi AI có thật sự “hiểu” hay chỉ đang tạo ra ảo giác về kiến thức? Một nhóm nhà nghiên cứu đến từ MIT, Harvard và Đại học Chicago vừa chỉ ra một lỗ hổng khá thú vị (và đáng ngại) trong cách chúng ta đánh giá trí tuệ nhân tạo. Họ đặt tên cho hiện tượng này là "hiểu biết...

Trong khi một nghiên cứu mới nhất của các nhà khoa học Trung Quốc tuyên bố tìm thấy bằng chứng cho thấy AI có thể phát triển khả năng hiểu biết tự phát, thì một báo cáo từ Apple lại đi đến kết luận ngược lại. Sự mâu thuẫn này cho thấy con người vẫn chưa hoàn toàn hiểu rõ cách hoạt động của các...

Mọi người tưởng tượng nhé, giờ chatbot không chỉ trả lời dựa trên vài câu hỏi gần nhất mà còn nhớ cả lịch sử trò chuyện, sở thích cá nhân, thậm chí là thói quen của anh em. Ví dụ, anh em hay hỏi về món chay, ChatGPT sẽ nhớ và lần sau gợi ý công thức hay quán ăn đúng kiểu chay luôn, không cần hỏi...

Luật sư Jisuh Lee tại Toronto đã bị cáo buộc sử dụng trí tuệ nhân tạo, có thể là ChatGPT, để tạo ra một tài liệu pháp lý (factum) chứa phán đoán không tồn tại, trích dẫn sai lệch, và những gì thẩm phán được gọi là “ ảo giác AI ”. Tài liệu này được sử dụng để thảo luận trong một công việc phức...

Các mô hình AI ngôn ngữ lớn ngày càng gặp tình trạng "ảo giác" – hiện tượng tạo ra thông tin sai lệch nhưng nghe có vẻ thuyết phục. Trái với kỳ vọng rằng AI càng mạnh thì càng chính xác, xu hướng gần đây cho thấy điều ngược lại: AI hiện đại lại mắc nhiều lỗi hơn các phiên bản cũ. OpenAI công...

Một sự cố đáng chú ý được The New York Times nêu bật liên quan đến chatbot AI hỗ trợ kỹ thuật của Cursor, công cụ lập trình đang nổi. Tháng trước, chatbot này thông báo sai lệch rằng người dùng không được phép sử dụng Cursor trên nhiều máy tính, gây phẫn nộ cho khách hàng. Nhiều người phản ứng...

Một làn sóng hệ thống "lý luận" mới từ các công ty như OpenAI đang tạo ra thông tin sai lệch thường xuyên hơn. Ngay cả các công ty cũng không biết tại sao. Tháng trước, một bot AI hỗ trợ kỹ thuật cho Cursor — một công cụ lập trình đang nổi — đã thông báo với một số khách hàng về sự thay đổi...

AI tạo sinh đang được kỳ vọng trở thành nền tảng ứng dụng công nghệ chủ đạo tiếp theo, tương tự như máy tính cá nhân, điện thoại thông minh và điện toán đám mây đã từng làm. Các giáo sư MIT nhận định hệ thống sinh thái AI tạo sinh viên đang phát triển nhanh chóng với nhiều tầng: phần cứng...

Khi con người nhìn thấy thứ không tồn tại, ta gọi đó là ảo giác. Tương tự, trí tuệ nhân tạo (AI) cũng có thể “nhìn” sai, tạo ra thông tin không chính xác nhưng nghe rất thuyết phục. Các nhà khoa học gọi hiện tượng này là “ảo giác AI”. Hiện tượng này xuất hiện ở nhiều hệ thống AI, từ chatbot...

AI ngày nay đã trở thành một phần không thể thiếu trong cuộc sống, xuất hiện từ trợ lý ảo, dịch thuật tự động đến các công cụ kiểm toán thông minh. Đặc biệt, với sự ra đời của các mô hình OpenAI o1 và Deepseek R1, AI đang dần hoạt động giống như một "người suy nghĩ". Nhưng liệu AI có thực sự...

Các kết quả Perplexity AI gồm đạo văn và nội dung bịa đặt, đang khiến AI của nó phá vỡ quy tắc cơ bản của Internet. Là một công ty khởi nghiệp AI trị giá 1 tỷ USD, mô hình kinh doanh của Perplexity dựa vào công nghệ chatbot và tổng hợp thông tin, nhưng vẫn còn nhiều câu hỏi về định vị thị...

Nhiều nghiên cứu đã chỉ ra rằng trí tuệ nhân tạo (AI) ngày nay có thể học cách nói dối mà không cần giáo viên. Trong một số trò chơi chống lại người chơi là con người, để giành chiến thắng trong trò chơi, AI sẽ giả vờ lừa dối vào những thời điểm quan trọng, thậm chí còn bày ra những âm mưu phức...

Trước đây, khi hỏi Google xem mèo có lên mặt trăng không và nó thường đưa ra danh sách xếp hạng các trang web để bạn có thể tự mình khám phá câu trả lời. Bây giờ nó đưa ra câu trả lời ngay lập tức do trí tuệ nhân tạo tạo ra - Vấn đề là câu trả lời này có thể đúng hoặc không, không ai biết được...

Tóm tắt nội dung chính: 1. Trung Quốc đề xuất các biện pháp hạn chế chặt chẽ hơn đối với dữ liệu đào tạo và các mô hình được sử dụng để xây dựng các dịch vụ AI tổng hợp nhằm thắt chặt an ninh. 2. Dự thảo nhắm đến hai lĩnh vực chính cần cải thiện – bảo mật dữ liệu đào tạo thô và các mô hình ngôn...