Tác tử AWS có thể đề xuất hành trình thay thế sau sự cố chuyến bay. Tuy nhiên, tác tử không được trực tiếp sửa đặt chỗ hoặc thực hiện thanh toán. Trong mẫu quy trình do AWS công bố, mã xác định kiểm tra từng đề xuất trước khi hệ thống hành động. Mô hình chuẩn bị phương án, còn một lớp phần mềm có thể kiểm chứng nắm quyền thực thi.
Theo bài viết gốc của The New Stack, các tác tử Amazon Bedrock AgentCore đề xuất hành trình thay thế sau khi chuyến bay gặp sự cố. Chúng cũng soạn nội dung bồi thường. AWS tóm lược cách phân vai như sau: tác tử đưa ra đề xuất, còn mã xác định thực hiện việc kiểm tra.
Step Functions giữ tác tử tránh xa đặt chỗ và thanh toán
AWS Step Functions đặt các bước điều phối, xác thực và thực thi bên ngoài chuỗi suy luận của tác tử. Amazon Bedrock AgentCore chuẩn bị phương án. Sau đó, quy trình xác định quyết định có thay đổi hồ sơ đặt chỗ hoặc phát hành khoản thanh toán hay không.
Đổi chuyến hàng không phù hợp với cách tổ chức này vì một sự cố có thể ảnh hưởng đến nhiều hành khách. Đội vận hành phải tìm tuyến thay thế, so sánh điều kiện và phối hợp bước tiếp theo. Trong mẫu Step Functions của AWS, tác tử đảm nhận phần đề xuất vốn cần nhiều thao tác thủ công. Quy trình xác định kiểm soát việc thực thi.
Nội dung quy trình được mã xác định kiểm soát
AWS kết hợp các tác tử Amazon Bedrock AgentCore chuyên biệt với AWS Step Functions. Khả năng suy luận của trí tuệ nhân tạo tạo sinh hoạt động trong một quy trình có hàng rào kiểm tra bằng mã. Step Functions xử lý việc điều phối, phân nhánh tác vụ, xác thực, định tuyến và thử lại. Những bước này không phụ thuộc vào chuỗi suy luận của từng tác tử.
Tác tử vì thế không thể tự ghi thay đổi vào hồ sơ đặt chỗ hoặc phát hành khoản thanh toán. Mỗi đề xuất phải vượt qua bước xác thực trước khi được áp dụng. Step Functions cũng lưu lịch sử thực thi để hỗ trợ kiểm toán và xem xét quyết định.
Thiết kế này khác với mô hình cộng tác nhiều tác tử. Trong mô hình đó, một tác tử giám sát điều phối các tác tử cấp dưới và những lần gọi công cụ. AWS chuyển các quyết định điều phối sang quy trình Step Functions. Tác tử tạo phương án, nhưng hành động chỉ diễn ra khi mã xác định chấp thuận.
Ví dụ của AWS tập trung vào hàng không, nhưng nguyên tắc tách đề xuất khỏi hành động cũng phù hợp với các quy trình tài chính hoặc chịu yêu cầu quản lý nghiêm ngặt. Cách phân quyền này liên quan trực tiếp đến câu hỏi tác tử trí tuệ nhân tạo nên được trao bao nhiêu quyền khi một đề xuất có thể gây ra thay đổi thật trong hệ thống.
Môi trường thực thi mã bổ sung cho suy luận ngữ nghĩa
Amazon Bedrock AgentCore Code Interpreter cung cấp một môi trường được quản lý để tác tử chạy mã, xử lý dữ liệu và kiểm tra kết quả. Mô hình ngôn ngữ đảm nhận suy luận ngữ nghĩa, còn môi trường thực thi xử lý các phép tính và thao tác phù hợp hơn với chương trình xác định.
Cùng ngày, AWS trình bày cách dùng Code Interpreter trong nghiên cứu tình huống Abnormal AI của AWS. Công ty vừa công bố mẫu xác thực quyết định nhiều tác tử. Abnormal AI là nền tảng bảo mật dùng trí tuệ nhân tạo hành vi. Nền tảng kết hợp Amazon Bedrock AgentCore Code Interpreter để phát hiện mối đe dọa thư điện tử theo thời gian thực.
Code Interpreter là môi trường không máy chủ được quản lý đầy đủ, cho phép tác tử chạy mã theo nhu cầu. Theo AWS, vai trò của nó không dừng ở việc hỗ trợ viết mã. Môi trường này giúp tác tử thực hiện một phần suy luận thông qua tính toán.
Tính toán và kiểm tra trong môi trường cô lập
Cách tiếp cận đó ghép mô hình ngôn ngữ lớn với một môi trường cô lập được quản lý và bảo vệ. Mô hình duy trì tính nhất quán về ngữ nghĩa. Môi trường thực thi đảm nhận phép tính, xử lý dữ liệu và kiểm tra kết quả bằng chương trình.
Đếm dữ liệu hoặc chuyển dữ liệu thành báo cáo có cấu trúc không phải lúc nào cũng phù hợp với suy luận ngữ nghĩa thuần túy. Vùng làm việc tính toán cho phép tác tử xử lý nhiệm vụ bằng mã. Tác tử có thể tự kiểm tra câu trả lời trước khi trả kết quả. Cơ chế này gần với cách tác tử viết mã phối hợp suy luận với công cụ thực thi, thay vì chỉ dựa vào nội dung do mô hình tạo ra.
Vì sao suy luận ngữ nghĩa chưa đủ để cho phép hành động
Suy luận của mô hình mang tính xác suất nên phù hợp với việc đề xuất bước tiếp theo, không phải tự phê duyệt hành động có hậu quả trong hệ thống. Lớp phần mềm xác định tạo ra điểm kiểm tra giữa đề xuất và thực thi, giúp tổ chức xem xét điều kiện, kết quả và lịch sử của từng quyết định.
AWS không phải đơn vị duy nhất tách suy luận của mô hình khỏi hành động phía sau. Perplexity đã phát hành Portable Computer, phiên bản ưu tiên xử lý cục bộ của tác tử Computer chạy trên máy trạm Nvidia DGX Spark. Trong cách tổ chức đó, phần mềm xác định quyết định có thực thi hành động do mô hình đề xuất hay không.
Hai lớp giữ vai trò riêng biệt: suy luận mang tính xác suất đề xuất bước tiếp theo, còn phần mềm xác định quyết định việc thực hiện. Hệ thống không gộp đề xuất và phê duyệt thành một cơ chế duy nhất.
Sự tách biệt trở nên quan trọng khi tác tử tham gia các công việc có hậu quả lớn. Các công việc đó gồm công nợ phải trả, mua sắm và khóa sổ hằng tháng. Suy luận ngữ nghĩa không thể tự bảo đảm rằng mọi đề xuất đều đủ an toàn để thực hiện. Xác thực bằng mã tạo ra một điểm kiểm tra có thể xem xét giữa đề xuất và hành động.
Các nhóm triển khai tác tử trong quy trình thật cần xác định rõ tác tử được phép đề xuất phần nào và hành động nào bắt buộc phải chờ mã kiểm tra. Quyền thực thi nên nằm ở lớp có thể xác thực, ghi lại và kiểm toán.
