ChatGPT suy luận giỏi đến đâu? Nghiên cứu mới khiến nhiều người bất ngờ

[Bui Nhat Minh]

Các mô hình ngôn ngữ lớn như ChatGPT đang được xem là công cụ trí tuệ mạnh mẽ, nhưng một nghiên cứu mới cho thấy khả năng lập luận của chúng vẫn còn nhiều hạn chế đáng kể. Dù có thể trả lời trôi chảy và xử lý lượng dữ liệu khổng lồ, các hệ thống này đôi khi vẫn mắc lỗi logic cơ bản, thậm chí trong những câu hỏi tưởng chừng rất đơn giản.

Trong một bài báo gây chú ý, các nhà khoa học từ Đại học Stanford, Caltech và Carleton College đã tổng hợp nhiều nghiên cứu hiện có để phân tích những thất bại trong suy luận của các mô hình LLM như OpenAI ChatGPT hay Claude. Kết luận chung: dù rất ấn tượng, chúng vẫn chưa thể suy nghĩ như con người.

Vì sao LLM trông thông minh nhưng vẫn hay “sai”?​

Một số người ví LLM như tính năng tự động hoàn thành trên điện thoại, chỉ khác là ở quy mô lớn hơn nhiều. So sánh này không hoàn toàn chính xác, vì LLM được huấn luyện trên lượng dữ liệu khổng lồ từ internet, sách và các tài liệu học thuật, đồng thời sử dụng các mô hình toán học phức tạp như đại số tuyến tính và ma trận để xử lý thông tin.

Tuy nhiên, điều đó không có nghĩa là chúng “hiểu” như con người. Khi nhận một câu hỏi, mô hình sẽ xem xét nhiều khả năng khác nhau, kết hợp các mẫu ngôn ngữ đã học để tạo ra câu trả lời hợp lý nhất. Quá trình này có vẻ giống suy luận, nhưng thực chất chỉ là thao tác xác suất trên dữ liệu đã được huấn luyện.

Các nhà nghiên cứu chỉ ra rằng LLM có thể thực hiện một số dạng suy luận liên tưởng, tức là dùng thông tin có sẵn để đưa ra kết luận hợp lý. Nhưng ngay cả với những tiến bộ gần đây, các lỗi suy luận nghiêm trọng vẫn thường xuyên xảy ra, đặc biệt trong các nhiệm vụ yêu cầu logic nhiều bước hoặc hiểu bối cảnh sâu.

Những điểm yếu lớn trong lập luận của AI​

Nghiên cứu đã phân loại hàng loạt lỗi phổ biến mà LLM mắc phải. Trước hết là các sai lệch nhận thức giống con người, như thiên kiến xác nhận hay phụ thuộc quá mức vào thông tin xuất hiện đầu tiên. Tuy nhiên, khác với con người, LLM không có “chức năng điều hành” như bộ nhớ làm việc linh hoạt hay khả năng kiểm soát suy nghĩ, nên dễ mắc lỗi lặp lại một cách có hệ thống.

Ở cấp độ xã hội, các mô hình này gặp khó khăn khi phải suy luận về suy nghĩ, cảm xúc hay ý định của người khác. Chúng cũng thiếu khả năng nắm bắt các chuẩn mực đạo đức và quy tắc xã hội phức tạp mà con người học được qua trải nghiệm thực tế.

Một vấn đề lớn khác là LLM thường không duy trì được kế hoạch lập luận dài hạn. Chúng phụ thuộc nhiều vào thông tin cục bộ trong từng bước hội thoại, khiến câu trả lời có thể thay đổi hoặc mâu thuẫn khi bối cảnh thay đổi. Điều này đặc biệt rõ khi xử lý các nhiệm vụ nhiều bước hoặc có mục tiêu phụ thuộc lẫn nhau.

Ngay cả trong logic ngôn ngữ tự nhiên, mô hình đôi khi cũng mắc lỗi cơ bản. Ví dụ, chúng có thể không xử lý nhất quán các suy luận đơn giản như “nếu A = B thì B = A”, hoặc gặp khó khăn khi phải kết hợp thông tin từ nhiều nguồn khác nhau để rút ra kết luận.

Về toán học và suy luận vật lý, hạn chế càng rõ rệt. Những tác vụ tưởng chừng đơn giản như đếm, sắp xếp ký tự hay hình dung vị trí vật thể trong không gian ba chiều cũng có thể khiến LLM lúng túng. Điều này cho thấy chúng thiếu khả năng hiểu thế giới vật lý theo cách trực quan như não bộ con người.

Dù những kết quả này nghe có vẻ tiêu cực, các nhà khoa học nhấn mạnh rằng việc nhận diện điểm yếu chính là chìa khóa để cải tiến AI. Giống như trong lịch sử điện toán hay các ngành công nghiệp an toàn cao, hiểu rõ lỗi và phân loại chúng là bước đầu để xây dựng hệ thống mạnh mẽ và đáng tin cậy hơn.

Nói cách khác, các mô hình ngôn ngữ lớn rất hữu ích cho nhiều công việc, nhưng chúng vẫn chưa phải con đường dẫn tới trí tuệ nhân tạo tổng quát. Con người vẫn sở hữu khả năng xử lý thông tin linh hoạt, trực giác và bối cảnh mà máy móc hiện nay chưa thể tái tạo hoàn toàn.(popularmechanics)