Quang Trương
Pearl
Khi doanh nghiệp bắt đầu dùng nhiều AI làm việc cùng nhau, chi phí và hiệu quả tự động hóa sẽ thay đổi ra sao?
Thay vì một AI duy nhất trả lời câu hỏi, các hệ thống mới bắt đầu dùng nhiều AI cùng làm việc với nhau, mỗi AI đảm nhiệm một nhiệm vụ riêng trong một quy trình lớn. Người ta gọi đó là hệ thống AI đa tác nhân.
Ý tưởng nghe rất hấp dẫn. Một AI viết mã, một AI kiểm tra lỗi, một AI đọc tài liệu, một AI tổng hợp kết quả. Tất cả phối hợp như một nhóm nhân viên kỹ thuật số.
Nhưng khi doanh nghiệp bắt đầu triển khai thật, một vấn đề lớn xuất hiện. Không phải công nghệ, mà là bài toán kinh tế của AI.
Các tổ chức đang chuyển từ chatbot đơn giản sang hệ thống đa tác nhân thường gặp hai khó khăn chính.
Thứ nhất là gánh nặng suy luận.
Những tác nhân AI phức tạp cần phải suy nghĩ ở từng bước trong quy trình. Nếu mỗi nhiệm vụ nhỏ đều dùng một mô hình khổng lồ thì chi phí tính toán tăng rất nhanh, khiến hệ thống trở nên chậm và tốn kém khi triển khai ở quy mô doanh nghiệp.
Vấn đề thứ hai còn lớn hơn, đó là bùng nổ ngữ cảnh.
Trong các quy trình nhiều bước, mỗi lần AI trao đổi với nhau thường phải gửi lại toàn bộ lịch sử trước đó, bao gồm trạng thái hệ thống, suy luận trung gian và kết quả của công cụ. Điều này khiến lượng token tăng mạnh, có thể cao hơn tới 1.500% so với các hệ thống AI thông thường.
Khi token tăng quá nhiều, hai hệ quả xảy ra cùng lúc. Chi phí vận hành tăng lên và AI có nguy cơ lệch mục tiêu, tức là dần dần đi chệch khỏi nhiệm vụ ban đầu trong những quy trình dài.
Vì vậy, bài toán của doanh nghiệp không chỉ là xây AI mạnh hơn, mà là xây AI hiệu quả về kinh tế.
Một ví dụ đáng chú ý là mô hình NVIDIA Nemotron 3 Super, kiến trúc mở với 120 tỷ tham số, trong đó chỉ 12 tỷ tham số được kích hoạt khi suy luận.
Mô hình này được thiết kế theo kiến trúc Mixture of Experts, nghĩa là nhiều “chuyên gia AI” khác nhau nhưng chỉ một số được kích hoạt khi cần thiết. Cách làm này giúp tiết kiệm tài nguyên nhưng vẫn giữ được khả năng suy luận mạnh.
Hệ thống còn kết hợp nhiều cải tiến khác:
Kết quả là thông lượng tăng khoảng 5 lần, độ chính xác tăng gấp đôi so với thế hệ trước.
Điều đó cho phép các tác nhân AI giữ toàn bộ trạng thái quy trình trong bộ nhớ thay vì phải liên tục gửi lại lịch sử.
Ví dụ trong phát triển phần mềm, một tác nhân có thể nạp toàn bộ codebase của dự án vào ngữ cảnh, sau đó vừa viết mã vừa sửa lỗi xuyên suốt dự án.
Trong phân tích tài chính, AI có thể đọc hàng nghìn trang báo cáo cùng lúc thay vì phải chia nhỏ rồi tổng hợp qua nhiều vòng hội thoại.
Khả năng gọi công cụ với độ chính xác cao cũng giúp AI sử dụng các thư viện chức năng lớn một cách ổn định, điều rất quan trọng trong những môi trường rủi ro cao như điều phối an ninh mạng tự động.
Nhiều công ty công nghệ lớn đã bắt đầu thử nghiệm và tùy chỉnh kiến trúc này trong các lĩnh vực khác nhau.
Trong số đó có:
Trong lĩnh vực khoa học sự sống, các công ty như Edison Scientific và Lila Sciences dùng nó để hỗ trợ AI tìm kiếm tài liệu khoa học, phân tích dữ liệu và nghiên cứu phân tử.
Cuối cùng, điều quan trọng nhất mà bài viết nhấn mạnh là điều này.
Nếu doanh nghiệp muốn xây dựng hệ thống AI đa tác nhân, họ phải giải bài toán kinh tế ngay từ kiến trúc.
Hai yếu tố cần được kiểm soát sớm là:
Ngược lại, khi được thiết kế đúng cách, những hệ thống AI phức tạp này có thể mang lại hiệu quả dài hạn và giúp tự động hóa lan rộng trong toàn bộ doanh nghiệp.
Một câu hỏi thú vị để nghĩ tiếp.
Khi AI bắt đầu làm việc theo nhóm giống như con người, liệu doanh nghiệp trong tương lai sẽ phải quản lý nhân sự AI giống như quản lý một đội ngũ nhân viên hay không, và điều đó sẽ thay đổi cách vận hành doanh nghiệp ở Việt Nam ra sao? (artificialintelligence)
Khi AI không còn là một chatbot
Trong vài năm qua, nhiều doanh nghiệp quen với việc dùng AI như một chatbot để hỗ trợ công việc. Nhưng xu hướng mới đang đi xa hơn rất nhiều.Thay vì một AI duy nhất trả lời câu hỏi, các hệ thống mới bắt đầu dùng nhiều AI cùng làm việc với nhau, mỗi AI đảm nhiệm một nhiệm vụ riêng trong một quy trình lớn. Người ta gọi đó là hệ thống AI đa tác nhân.
Ý tưởng nghe rất hấp dẫn. Một AI viết mã, một AI kiểm tra lỗi, một AI đọc tài liệu, một AI tổng hợp kết quả. Tất cả phối hợp như một nhóm nhân viên kỹ thuật số.
Nhưng khi doanh nghiệp bắt đầu triển khai thật, một vấn đề lớn xuất hiện. Không phải công nghệ, mà là bài toán kinh tế của AI.
Các tổ chức đang chuyển từ chatbot đơn giản sang hệ thống đa tác nhân thường gặp hai khó khăn chính.
Thứ nhất là gánh nặng suy luận.
Những tác nhân AI phức tạp cần phải suy nghĩ ở từng bước trong quy trình. Nếu mỗi nhiệm vụ nhỏ đều dùng một mô hình khổng lồ thì chi phí tính toán tăng rất nhanh, khiến hệ thống trở nên chậm và tốn kém khi triển khai ở quy mô doanh nghiệp.
Vấn đề thứ hai còn lớn hơn, đó là bùng nổ ngữ cảnh.
Trong các quy trình nhiều bước, mỗi lần AI trao đổi với nhau thường phải gửi lại toàn bộ lịch sử trước đó, bao gồm trạng thái hệ thống, suy luận trung gian và kết quả của công cụ. Điều này khiến lượng token tăng mạnh, có thể cao hơn tới 1.500% so với các hệ thống AI thông thường.
Khi token tăng quá nhiều, hai hệ quả xảy ra cùng lúc. Chi phí vận hành tăng lên và AI có nguy cơ lệch mục tiêu, tức là dần dần đi chệch khỏi nhiệm vụ ban đầu trong những quy trình dài.
Vì vậy, bài toán của doanh nghiệp không chỉ là xây AI mạnh hơn, mà là xây AI hiệu quả về kinh tế.
Kiến trúc AI mới để giải bài toán chi phí
Để giải quyết vấn đề này, các hãng công nghệ đang phát triển những kiến trúc AI được tối ưu riêng cho hệ thống đa tác nhân.Một ví dụ đáng chú ý là mô hình NVIDIA Nemotron 3 Super, kiến trúc mở với 120 tỷ tham số, trong đó chỉ 12 tỷ tham số được kích hoạt khi suy luận.
Mô hình này được thiết kế theo kiến trúc Mixture of Experts, nghĩa là nhiều “chuyên gia AI” khác nhau nhưng chỉ một số được kích hoạt khi cần thiết. Cách làm này giúp tiết kiệm tài nguyên nhưng vẫn giữ được khả năng suy luận mạnh.
Hệ thống còn kết hợp nhiều cải tiến khác:
- Các lớp Mamba giúp tăng hiệu quả bộ nhớ và tính toán gấp bốn lần
- Các lớp Transformer xử lý các nhiệm vụ suy luận phức tạp
- Kỹ thuật ẩn cho phép huy động bốn chuyên gia với chi phí của một
- Cơ chế dự đoán nhiều từ cùng lúc giúp tăng tốc suy luận gấp ba lần
Kết quả là thông lượng tăng khoảng 5 lần, độ chính xác tăng gấp đôi so với thế hệ trước.
Khi AI có thể đọc cả “núi dữ liệu”
Một điểm đáng chú ý khác là mô hình này có cửa sổ ngữ cảnh tới 1 triệu token.Điều đó cho phép các tác nhân AI giữ toàn bộ trạng thái quy trình trong bộ nhớ thay vì phải liên tục gửi lại lịch sử.
Ví dụ trong phát triển phần mềm, một tác nhân có thể nạp toàn bộ codebase của dự án vào ngữ cảnh, sau đó vừa viết mã vừa sửa lỗi xuyên suốt dự án.
Trong phân tích tài chính, AI có thể đọc hàng nghìn trang báo cáo cùng lúc thay vì phải chia nhỏ rồi tổng hợp qua nhiều vòng hội thoại.
Khả năng gọi công cụ với độ chính xác cao cũng giúp AI sử dụng các thư viện chức năng lớn một cách ổn định, điều rất quan trọng trong những môi trường rủi ro cao như điều phối an ninh mạng tự động.
Nhiều công ty công nghệ lớn đã bắt đầu thử nghiệm và tùy chỉnh kiến trúc này trong các lĩnh vực khác nhau.
Trong số đó có:
- Amdocs
- Palantir
- Cadence Design Systems
- Dassault Systèmes
- Siemens
Trong lĩnh vực khoa học sự sống, các công ty như Edison Scientific và Lila Sciences dùng nó để hỗ trợ AI tìm kiếm tài liệu khoa học, phân tích dữ liệu và nghiên cứu phân tử.
Cuối cùng, điều quan trọng nhất mà bài viết nhấn mạnh là điều này.
Nếu doanh nghiệp muốn xây dựng hệ thống AI đa tác nhân, họ phải giải bài toán kinh tế ngay từ kiến trúc.
Hai yếu tố cần được kiểm soát sớm là:
- bùng nổ ngữ cảnh
- gánh nặng suy luận
Ngược lại, khi được thiết kế đúng cách, những hệ thống AI phức tạp này có thể mang lại hiệu quả dài hạn và giúp tự động hóa lan rộng trong toàn bộ doanh nghiệp.
Một câu hỏi thú vị để nghĩ tiếp.
Khi AI bắt đầu làm việc theo nhóm giống như con người, liệu doanh nghiệp trong tương lai sẽ phải quản lý nhân sự AI giống như quản lý một đội ngũ nhân viên hay không, và điều đó sẽ thay đổi cách vận hành doanh nghiệp ở Việt Nam ra sao? (artificialintelligence)