Thách thức khi tích hợp tác nhân AI vào hệ thống cũ trong doanh nghiệp

[Nhai kỹ sống chậm]

Tác nhân AI (Agentic AI) đang trở thành xu hướng công nghệ nổi bật, nhưng việc tích hợp chúng vào hệ thống hiện có của doanh nghiệp đang gặp nhiều thách thức. Các nhà lãnh đạo CNTT cần cân nhắc nhiều yếu tố trước khi triển khai các giải pháp này.

Sự trỗi dậy của tác nhân AI trong doanh nghiệp​

Tác nhân AI là một bước tiến vượt bậc so với chatbot thông thường. Chúng có khả năng xử lý các tác vụ phức tạp, hoạt động tự chủ và kết hợp với nhau để giải quyết toàn bộ quy trình công việc. Theo khảo sát của KPMG, 12% công ty đã triển khai tác nhân AI, 37% đang trong giai đoạn thử nghiệm và 51% đang tìm hiểu cách ứng dụng.
Tuy nhiên, khảo sát từ Langbase cho thấy 70% nhà phát triển đang gặp khó khăn khi tích hợp tác nhân AI với các hệ thống hiện có. Nguyên nhân chủ yếu là do các tác nhân AI không mang tính xác định, trong khi các hệ thống cũ luôn có tính xác định cao.

Trước khi tác nhân AI có thể được tích hợp, cơ sở hạ tầng công nghệ cần được hiện đại hóa. Theo khảo sát của Tray.ai, 86% doanh nghiệp cho biết họ cần nâng cấp nền tảng hiện có để triển khai tác nhân AI.
Ashok Srivastava, Giám đốc dữ liệu tại Intuit chia sẻ trên CIO: "Nền tảng của bạn cần được mở ra để các mô hình ngôn ngữ lớn (LLM) có thể lý luận và tương tác một cách dễ dàng. Nếu tất cả công nghệ của bạn bị chôn vùi và không được phơi bày thông qua API phù hợp và dịch vụ vi mô linh hoạt, sẽ rất khó để cung cấp trải nghiệm tác nhân AI."
Tuy nhiên, Rakesh Malhotra từ EY lưu ý: "Hầu hết các hệ thống lưu trữ trong doanh nghiệp vẫn dựa trên các hệ thống cũ, thường là tại chỗ và vẫn cung cấp năng lượng cho các phần lớn của doanh nghiệp." Những hệ thống này bao gồm hệ thống xử lý đơn hàng, ERP và nhân sự - tất cả đều tạo ra giá trị kinh doanh cốt lõi.

Thách thức tích hợp dữ liệu​

Khi tích hợp tác nhân AI với hệ thống hiện có, các doanh nghiệp phải đối mặt với nhiều thách thức. Trước hết là rào cản ngôn ngữ. Tác nhân AI giao tiếp bằng ngôn ngữ tự nhiên, trong khi hệ thống doanh nghiệp yêu cầu lệnh gọi API chính xác.Daniel Avancini, Giám đốc dữ liệu của Indicium khuyên: "Thông thường, bạn sẽ cần một tác nhân khác có nhiệm vụ dịch ngôn ngữ tự nhiên sang API. Sau đó, bạn phải đảm bảo lệnh gọi API là chính xác."
Thứ hai, sự đa dạng nguồn dữ liệu. Theo Tray.ai, 42% doanh nghiệp cần truy cập vào ít nhất 8 nguồn dữ liệu khác nhau để triển khai tác nhân AI thành công.
Cuối cùng là tính linh hoạt. Vijoy Pandey từ Cisco nhấn mạnh: "Bạn không thể xác định trước loại kết nối mà tác nhân AI cần. Bạn cần một bộ plugin động."

Tăng cường bảo mật và tuân thủ​

Khi tác nhân AI được cấp quyền truy cập vào nhiều hệ thống, vấn đề bảo mật trở nên cấp thiết:

1. Kiểm soát quyền truy cập: Tác nhân AI phải tuân theo các quy tắc bảo mật nghiêm ngặt. Vẫn còn quá sớm để trao cho tác nhân AI quyền tự chủ đầy đủ. Các tác nhân thậm chí không được phép viết các yêu cầu SQL của riêng họ.
2. Xác thực người dùng: Cần phải xác thực người dùng để đảm bảo họ có quyền phù hợp. Sau đó, quyền này phải được bảo toàn xuyên suốt chuỗi các tác nhân xử lý câu hỏi."
3. Giám sát liên tục: Điều quan trọng là phải có một lớp khả năng quan sát để theo dõi những gì đang diễn ra. Nếu giới hạn tỷ lệ hoặc bộ lọc nội dung bị ảnh hưởng, chúng tôi sẽ được thông báo ngay lập tức.

Bài học kinh nghiệm cho doanh nghiệp Việt Nam​

Các doanh nghiệp Việt Nam có thể áp dụng những kinh nghiệm sau khi triển khai tác nhân AI:

1. Bắt đầu nhỏ: Tập trung vào những trường hợp sử dụng nhỏ, riêng biệt giúp giảm thiểu rủi ro. Khi bạn tập trung vào mục tiêu cụ thể, phạm vi của bạn sẽ hạn chế và dễ kiểm soát hơn.
2. Đảm bảo chất lượng dữ liệu: Có dữ liệu sạch và chất lượng là phần quan trọng nhất. Bạn muốn đảm bảo không gặp phải tình huống 'vào rác, ra rác'.
3. Hiện đại hóa từng bước: Thay vì cải tổ toàn bộ hệ thống, doanh nghiệp có thể bắt đầu bằng việc xây dựng các API và dịch vụ vi mô để kết nối hệ thống cũ với các tác nhân AI.
4. Thiết lập quy trình quản trị AI: Xây dựng các quy tắc, rào cản và cơ chế giám sát chặt chẽ ngay từ đầu để đảm bảo tác nhân AI hoạt động trong phạm vi cho phép.

Tích hợp tác nhân AI vào hệ thống doanh nghiệp là một hành trình đầy thách thức nhưng cũng mang lại nhiều cơ hội. Với chiến lược phù hợp và cách tiếp cận thận trọng, các doanh nghiệp Việt Nam có thể tận dụng công nghệ này để tối ưu hóa quy trình và tăng cường năng lực cạnh tranh.