Nền tảng mã thấp Retool giúp đưa trí tuệ nhân tạo thông minh vào các ứng dụng kinh doanh dễ dàng hơn

[Thoại Viết Hoàng]

Retool khởi đầu là một nền tảng để xây dựng các ứng dụng kinh doanh, nhưng trong vài năm qua, công ty khởi nghiệp được tài trợ tốt này cũng đã bổ sung thêm một số dịch vụ phụ trợ, bao gồm gần đây nhất là dịch vụ tự động hóa quy trình làm việc.

Gặp gỡ 'siêu người dùng' của AI sáng tạo: 70% Gen Z sử dụng GenAI

Hôm nay, họ sẽ ra mắt một số công cụ mới giúp người dùng xây dựng các ứng dụng dựa trên AI, bao gồm cả kho lưu trữ vectơ được lưu trữ cho phép họ dễ dàng thêm ngữ cảnh vào các mô hình ngôn ngữ lớn (LLM). Như Giám đốc điều hành và đồng sáng lập Retool, David Hsu đã nói với tôi, rất nhiều khách hàng của anh ấy đã xem xét cách sử dụng AI trong ứng dụng của họ, nhưng đối với hầu hết các doanh nghiệp, giá trị của việc sử dụng các công cụ này là ở khả năng suy luận về dữ liệu nội bộ của họ. . Họ có tùy chọn sao chép và dán dữ liệu vào truy vấn để thêm ngữ cảnh, nhưng điều đó bị hạn chế và có thể nhanh chóng trở nên khá tốn kém. Mặc dù một số doanh nghiệp có đủ nguồn lực để đào tạo các mô hình của riêng mình nhưng họ có thể tinh chỉnh các mô hình hiện có với lượng dữ liệu hợp lý. Tuy nhiên, Hsu lập luận rằng việc tinh chỉnh một mô hình với tất cả dữ liệu sản xuất của công ty cũng không thực sự khả thi - và dữ liệu sẽ sớm lỗi thời.Nền tảng mã thấp Retool giúp đưa trí tuệ nhân tạo thông minh vào các ứng dụng kinh doanh dễ dàng hơn.

Hiện tại, công nghệ tiên tiến nhất để đưa dữ liệu tùy chỉnh vào LLM là vector hóa dữ liệu để giúp các mô hình này dễ dàng truy cập. Đó là lý do tại sao bạn thấy Google, Microsoft, DataStax và MongoDB đều tung ra dịch vụ tìm kiếm vector của họ trong những tháng gần đây. Theo quan điểm của Hsu, không có nhiều điểm khác biệt giữa các dịch vụ này - chúng đều khá giống nhau về khả năng. “Tôi nghĩ vấn đề thực sự không phải là bạn chọn cơ sở dữ liệu vectơ nào - cho dù đó là MongoDB hay bất cứ thứ gì khác. Thay vào đó, vấn đề là làm cách nào để bạn thực sự đưa dữ liệu vào cơ sở dữ liệu được vector hóa này và làm cách nào để bạn cập nhật dữ liệu đó. Ví dụ: làm cách nào để bạn đồng bộ hóa nó với Salesforce để bạn có thể đặt câu hỏi LLM của mình và thực sự khiến nó lấy dữ liệu mới từ Salesforce.” Ông lập luận rằng đó là nơi khách hàng của Retool đang phải đối mặt với những trở ngại lớn nhất trong việc xây dựng các ứng dụng AI tùy chỉnh cho các trường hợp sử dụng kinh doanh của họ ngay bây giờ, vì vậy không có gì ngạc nhiên khi công ty ra mắt Retool Vectors ngày hôm nay, một dịch vụ lưu trữ vectơ được lưu trữ (sử dụng mã mở phần mở rộng pgvector nguồn cho Postgres ở cốt lõi của nó).

Hsu giải thích trong nội bộ, Retool đã thử nghiệm việc sử dụng chatbot AI hỗ trợ GPT của Intercom để xử lý một số tương tác dịch vụ khách hàng. Bot đó, vốn đã có quyền truy cập vào nhiều bối cảnh kinh doanh, đã có thể chốt được khoảng 20% số yêu cầu. Nhưng sau đó, bằng cách sử dụng cơ sở dữ liệu vectơ được kết hợp với LLM bao gồm tất cả dữ liệu Salesforce, dữ liệu hỗ trợ, v.v. của Retool, tỷ lệ đóng của bot tùy chỉnh của nó đã tăng lên gần 60%. Công ty cũng vector hóa tất cả các bản ghi của mình từ các cuộc gọi bán hàng và sau đó đặt API của OpenAI lên trên để truy vấn chúng. Một tính năng tiện lợi ở đây là Retool sau đó cũng sử dụng dịch vụ Workflow mới ra mắt gần đây để giữ cho cơ sở dữ liệu sản xuất của doanh nghiệp và cơ sở dữ liệu được vector hóa đồng bộ, đảm bảo rằng các mô hình có quyền truy cập vào thông tin cập nhật.
Ngoài dịch vụ lưu trữ vectơ, Retool còn triển khai một số hành động dựa trên AI cho các trường hợp sử dụng phổ biến như tóm tắt và phân loại văn bản, tạo hình ảnh, v.v. Retool hợp tác với OpenAI cho các tính năng này, bao gồm tích hợp vào Retool Workflows. Brad Lightcap, giám đốc điều hành của OpenAI cho biết: “Chúng tôi vô cùng vui mừng được hợp tác với Retool để trao quyền cho nhiều công ty hơn tận dụng AI tổng hợp trong hoạt động kinh doanh của họ”. “Từ việc giảm bớt công việc thủ công đến chia sẻ nhiều kiến thức hơn đến bổ sung các khả năng mới cho khách hàng, chúng tôi tin rằng các công cụ như Retool sẽ giúp các doanh nghiệp đưa AI vào sản xuất nhanh hơn nhiều mà không ảnh hưởng đến sự an toàn.”
Tham khảo bài viết gốc tại đây: