Các tác nhân trí tuệ nhân tạo đang được doanh nghiệp đưa vào môi trường vận hành thực tế với tốc độ nhanh. Mô hình nền tảng thông minh hơn và khả năng sử dụng công cụ tốt hơn đã đưa công nghệ này vượt khỏi phạm vi trình diễn. Khả năng phối hợp giữa nhiều tác nhân cũng góp phần vào bước tiến đó. Nhưng theo The New Stack, lớp hạ tầng cung cấp thông tin cho các tác nhân đang bắt đầu chịu áp lực. Sức ép tăng lên khi doanh nghiệp triển khai nhiều tác nhân hơn, giao nhiệm vụ dài hơn và sử dụng chúng thường xuyên hơn.
Đây cũng là vấn đề các doanh nghiệp trong nước cần tính đến khi xây dựng hạ tầng trí tuệ nhân tạo. Một tác nhân chỉ có thể trả lời tốt khi nhận được dữ liệu mới, phù hợp với yêu cầu và được chuyển tới đủ nhanh. Nếu lớp truy xuất không đáp ứng được ba điều này, việc bổ sung thêm tác nhân có thể làm chất lượng toàn hệ thống giảm xuống.
Vì sao tác nhân tạo ra tải truy xuất khác biệt?
Công cụ tìm kiếm phục vụ con người thường nhận một truy vấn rồi trả về kết quả. Tác nhân hoạt động theo chuỗi dài hơn. Nó có thể lấy dữ liệu, suy luận dựa trên dữ liệu đó rồi quay lại tìm thêm ngữ cảnh trước khi hoàn thành nhiệm vụ.
The New Stack nêu Google như một điểm đối chiếu: hệ thống này xử lý hàng chục nghìn truy vấn tìm kiếm mỗi giây. Tuy nhiên, khối lượng truy vấn không phải khác biệt duy nhất. Mỗi tác nhân có thể tạo ra nhiều lượt truy xuất cho cùng một nhiệm vụ. Vì vậy, tải phát sinh theo từng bước suy luận thay vì dừng ở một câu hỏi.
Trong doanh nghiệp, dữ liệu cần thiết thường nằm rải rác ở nhiều hệ thống. Đội kỹ thuật có thể phải ghép cơ sở dữ liệu véc tơ và công cụ xếp hạng với lớp phân phối kết quả. Các thành phần này tạo thành một hệ thống truy xuất lai, nhưng cách ghép nối trở nên mong manh khi nhiều tác nhân cùng gửi yêu cầu.
Ba lỗi dễ xuất hiện khi mở rộng quy mô
Khi hàng loạt tác nhân cùng truy cập một kiến trúc chắp nối, vấn đề không chỉ nằm ở số yêu cầu đồng thời. The New Stack chỉ ra ba dạng lỗi cụ thể:
- Độ trễ chồng lớp xuất hiện khi mỗi bước truy xuất phải đi qua nhiều thành phần trước khi trả dữ liệu cho tác nhân.
- Ngữ cảnh cũ khiến tác nhân suy luận từ thông tin không còn phản ánh trạng thái hiện tại của doanh nghiệp.
- Độ liên quan bị lệch khi hệ thống trả về nội dung chung chung, thiếu phần cần thiết hoặc cắt ngắn kết quả.
Những lỗi này có thể làm tác nhân trả lời kém đi đúng lúc doanh nghiệp triển khai thêm năng lực. Với các hệ thống như tác nhân lập trình, một phần ngữ cảnh bị thiếu hoặc lỗi thời có thể ảnh hưởng tới những bước xử lý tiếp theo trong cùng nhiệm vụ.
Kỹ nghệ truy xuất giải quyết điều gì?
Kỹ nghệ truy xuất tập trung vào cách thông tin được chuẩn bị, tìm kiếm, xếp hạng và chuyển tới tác nhân. Mục tiêu là bảo đảm dữ liệu đủ mới, đúng với ngữ cảnh và sẵn sàng trong thời gian phù hợp với nhiệm vụ.
Điểm quan trọng là không xem cơ sở dữ liệu véc tơ, công cụ xếp hạng và lớp phân phối như những phần tách biệt chỉ cần nối lại với nhau. Một hướng được đưa ra để đánh giá là xây dựng lớp truy xuất thống nhất thay cho kiến trúc phân mảnh, từ đó xem xét những thay đổi khi toàn bộ quá trình được tổ chức thành một hệ thống.
Cách tiếp cận này gần với yêu cầu đơn giản hóa việc tích hợp trí tuệ nhân tạo ở quy mô lớn. Theo phạm vi bài gốc, kiến trúc thống nhất được đưa ra để xem xét thay cho hệ thống phân mảnh vốn khuếch đại độ trễ chồng lớp, ngữ cảnh cũ và độ liên quan bị lệch.
Nội dung thảo luận về tải của hàng trăm tác nhân
Trong bài gốc, The New Stack mời độc giả tham gia một cuộc thảo luận trực tiếp vào ngày 24 tháng 9. Sự kiện diễn ra lúc 12 giờ trưa theo giờ miền Đông Hoa Kỳ và 9 giờ sáng theo giờ Thái Bình Dương. Khung giờ này thuộc thị trường Hoa Kỳ và được giữ nguyên theo thông tin của nguồn.
Hai diễn giả là Whit Walters, Giám đốc công nghệ hiện trường kiêm nhà phân tích chính tại GigaOm, và Bonnie Chase, Giám đốc tiếp thị sản phẩm tại Vespa.ai. Nội dung tập trung vào điều xảy ra khi hàng trăm tác nhân cùng truy cập lớp truy xuất. Cuộc thảo luận cũng giải thích vì sao tải của tác nhân khác với việc chỉ tăng số truy vấn đồng thời và cách triển khai một kiến trúc thống nhất trong thực tế.
Điều doanh nghiệp cần kiểm tra trước khi tăng số tác nhân
Trước khi mở rộng, đội kỹ thuật cần kiểm tra độ mới của dữ liệu và mức liên quan của kết quả. Họ cũng cần đo tốc độ phản hồi khi nhiều tác nhân hoạt động cùng lúc. Nếu câu trả lời chưa rõ, bổ sung tác nhân có thể chỉ làm lộ nhanh hơn những điểm yếu vốn đã tồn tại trong kiến trúc.
Một hệ thống không thể được xem là mở rộng thành công nếu mỗi tác nhân mới lại khiến kết quả kém chính xác hơn. Kỹ nghệ truy xuất vì thế trở thành phần việc riêng cần được thiết kế cùng mô hình, công cụ và quy trình phối hợp giữa các tác nhân.
Nếu doanh nghiệp của bạn đang chuẩn bị tăng số lượng tác nhân AI, hãy bắt đầu bằng việc rà soát lớp truy xuất trước khi mở rộng tải.
