Kiểm soát tác tử AI đòi hỏi doanh nghiệp gắn mức tự chủ với bằng chứng về độ tin cậy. Tác tử cần được kiểm tra trước khi triển khai, giới hạn bằng chính sách thời gian thực và đánh giá liên tục trong môi trường vận hành. Kết quả tốt là cơ sở để duy trì hoạt động, không phải lý do tự động mở rộng quyền hạn.
Theo bài viết gốc của The New Stack, bằng chứng về độ tin cậy là cơ sở để duy trì hoạt động, còn việc tăng mức tự chủ chỉ có thể được cân nhắc trong giới hạn rủi ro của tổ chức. Doanh nghiệp không nên chỉ tin rằng mô hình đủ thông minh. Cách tiếp cận này đặc biệt đáng chú ý khi doanh nghiệp giao cho tác tử quyền truy cập công cụ, dữ liệu và quy trình vận hành thật.
Rủi ro không chỉ nằm ở việc tác tử có tạo ra câu trả lời đúng hay không. Doanh nghiệp còn phải biết tác tử sẽ làm gì khi môi trường thay đổi, khi gặp chỉ dẫn độc hại hoặc khi nhiều tác tử cùng hành động. Những câu hỏi này liên quan trực tiếp đến việc AI nên được trao bao nhiêu quyền trong hệ thống.
Nội dung: Niềm tin nên được quản lý như hạn mức tín dụng
Điểm tin cậy nên xác định giới hạn hoạt động ban đầu của tác tử. Cách này tương tự việc dùng hạn mức tín dụng để phản ánh mức rủi ro đã được đánh giá. Ngay cả khi tác tử có lịch sử hoạt động tốt, chính sách vẫn phải kiểm soát từng hành động quan trọng. Cơ chế phát hiện bất thường cũng phải tiếp tục hoạt động.
Có thể hình dung độ tin cậy của tác tử AI giống cách tổ chức phát hành thẻ quản lý rủi ro tín dụng. Trước khi cấp thẻ, họ xem xét lịch sử tín dụng và khả năng trả nợ để đặt hạn mức. Sau khi thẻ được sử dụng, từng giao dịch vẫn phải qua bước cấp phép và kiểm soát gian lận theo thời gian thực. Giao dịch bất thường có thể bị kiểm tra kỹ hơn.
Việc thanh toán đúng hạn có thể cải thiện điểm tín dụng, nhưng không tự động làm hạn mức tăng lên. Tác tử AI cũng cần được quản lý theo nguyên tắc đó.
Kiểm soát tiếp tục trong môi trường vận hành
Trước khi đưa vào môi trường vận hành, tổ chức cần kiểm tra sức chống chịu, độ ổn định và hiệu năng của tác tử. Kết quả kiểm tra tạo thành một điểm tin cậy ban đầu. Khi tác tử đã hoạt động, những hành động có ảnh hưởng đáng kể vẫn phải chịu sự kiểm soát của chính sách theo thời gian thực.
Bằng chứng cho thấy tác tử hoạt động tốt hơn là lý do để tiếp tục cho nó vận hành. Bằng chứng ấy chưa đủ để tự động mở rộng quyền hạn hoặc phạm vi hoạt động vượt khỏi giới hạn rủi ro mà tổ chức đã đặt ra.
Nếu một chiếc thẻ có thể tự mua hàng, chủ thẻ sẽ cần quy tắc để nó không vượt ngân sách và bằng chứng cho thấy nó chi tiêu đúng với mong muốn của mình. Tác tử AI cũng đặt ra yêu cầu tương tự.
Vòng lặp kiểm soát không kết thúc sau khi triển khai
Kiểm soát tác tử là một vòng lặp gồm kiểm tra, triển khai có giới hạn, theo dõi, sửa lỗi và đánh giá lại. Vòng lặp phải tiếp tục trong suốt thời gian vận hành vì thay đổi về mô hình, dữ liệu, công cụ hoặc môi trường đều có thể làm độ tin cậy tăng hoặc giảm.
- Kiểm tra kỹ tác tử trước khi đưa vào sử dụng.
- Triển khai với giới hạn được xác định từ điểm tin cậy.
- Theo dõi hành vi của tác tử trong môi trường vận hành.
- Xử lý điểm thất bại, kiểm tra lại và chỉ triển khai lại sau khi đã xác nhận mức độ tin cậy.
Kiểm tra và giám sát thường xuyên giúp nhóm vận hành phát hiện thời điểm độ tin cậy suy giảm, sau đó sửa lỗi trước khi mở rộng phạm vi ảnh hưởng.
Hoạt động xác minh không thể bị xem như bước kiểm tra cuối cùng. Trong suốt vòng đời tác tử, niềm tin vẫn phải dựa trên kết quả xác minh và giám sát liên tục.
Khi tác tử trở nên hoang dã
Tác tử trở nên hoang dã khi hành vi thực tế lệch khỏi mục đích, chính sách hoặc phạm vi quyền hạn đã được phê duyệt. Trạng thái này có thể xuất hiện do môi trường thay đổi, chỉ dẫn độc hại, quản trị thiếu chặt chẽ hoặc tương tác ngoài dự kiến giữa nhiều tác tử.
Một tác tử đã được huấn luyện và đang thực hiện đúng nhiệm vụ có thể trông như đã được thuần hóa. Vẻ ổn định đó không bảo đảm hành vi sẽ giữ nguyên sau khi triển khai.
Bốn nguyên nhân làm hành vi lệch hướng
- Sự trôi lệch xuất hiện khi môi trường thay đổi khiến các quy tắc cũ không còn phù hợp. Tác tử có thể phản ứng theo cách không được dự kiến trong bối cảnh mới.
- Kẻ tấn công có thể dùng kỹ thuật phá giới hạn hoặc chèn chỉ dẫn độc hại để khiến tác tử vi phạm chính sách hay lạm dụng những công cụ mà nó được phép truy cập.
- Tác tử thiếu quản trị vẫn có thể là hệ thống hợp lệ, nhưng hoạt động mà không có đủ khả năng quan sát, trách nhiệm giải trình hoặc vòng đời đánh giá chính thức.
- Trong hệ thống nhiều tác tử, từng hành động riêng lẻ có thể được cho phép. Khi kết hợp lại, chúng vẫn có thể tạo ra kết quả vi phạm chính sách của tổ chức. Điều này có thể xảy ra ngay cả khi không tác tử nào cố tình phá luật.
Hệ thống đã được kiểm tra kỹ vẫn có thể thất bại trong môi trường thật. Việc thay đổi mô hình, chỉ dẫn, công cụ hoặc luồng công việc đều có thể làm hành vi khác đi sau giai đoạn kiểm tra trước triển khai. Nếu thiếu giám sát liên tục, trạng thái hoang dã có thể xuất hiện dần mà nhóm vận hành không nhận thấy.
Đường ray chính sách quan trọng hơn hàng rào
Chính sách nên xác định tác tử được phép làm gì, vì mục đích nào và trong điều kiện nào. Hàng rào chỉ chặn một số hành vi ở ranh giới, còn đường ray chính sách hướng toàn bộ quá trình đánh giá, cấp quyền và vận hành theo mục tiêu mà tổ chức đã đặt ra.
Cách xử lý bắt đầu từ một đường cơ sở rõ ràng cho từng tác tử và từng năng lực của nó. Mỗi tác tử cần có danh tính, được kiểm tra và được chấm điểm tin cậy liên tục. Mục tiêu là khiến tác tử hành động vì lợi ích của bên giao nhiệm vụ, chịu sự giám sát của bên đó và không dễ trượt sang hành vi ngoài kiểm soát.
Hàng rào bảo vệ vẫn cần thiết, nhưng không nên là phương thức chính để giữ tác tử đi đúng hướng. Hệ thống không nên hoạt động giống trò Mario Kart, nơi va vào thành đường là một phần bình thường của cuộc chơi.
Chính sách dẫn hướng toàn bộ vòng đời
Một hình ảnh phù hợp hơn là đoàn tàu chạy trên đường ray. Đường ray ở đây chính là các chính sách mô tả mục đích của tác tử và những yêu cầu mà tổ chức buộc nó phải đáp ứng. Cách tiếp cận của Vijil mở rộng phép so sánh này ra toàn bộ vòng đời tác tử. Chính sách được chuyển thành tiêu chí đánh giá và biện pháp kiểm soát trong lúc vận hành.
Jailbreak, prompt injection và việc gỡ rào chắn AI đều đặt ra câu hỏi về trách nhiệm khi tác tử vi phạm chính sách hoặc sử dụng sai công cụ được cấp quyền truy cập.
Đích đến là một tiêu chuẩn hành vi tận tụy
Tính tận tụy của tác tử AI là một tiêu chuẩn hành vi có thể quan sát và đánh giá, không phải địa vị pháp lý hay bằng chứng về chủ ý. Tác tử đạt tiêu chuẩn này khi hành động phục vụ lợi ích của tổ chức giao nhiệm vụ trong phạm vi chính sách và quyền hạn đã xác định.
Niềm tin khá dễ định nghĩa nhưng khó chuyển thành mã lệnh. Bài viết của The New Stack mượn khái niệm người nhận ủy thác trong tài chính để mô tả tiêu chuẩn hành vi mong muốn. Trong phạm vi quan hệ được giao, người nhận ủy thác có nghĩa vụ cẩn trọng và trung thành.
Theo pháp luật Hoa Kỳ được bài viết gốc đề cập, một cố vấn đầu tư hoạt động với tư cách người nhận ủy thác phải phục vụ lợi ích tốt nhất của khách hàng và không được đặt lợi ích của mình lên trước lợi ích khách hàng. Đây là bối cảnh thuộc thị trường Hoa Kỳ, không phải kết luận về địa vị pháp lý của tác tử AI tại Việt Nam.
Phép so sánh không tạo ra địa vị pháp lý
Với tác tử AI, khái niệm này chỉ là phép so sánh về hành vi dự kiến. Nó không trao cho tác tử địa vị pháp lý của người nhận ủy thác và cũng không bảo đảm lòng trung thành. Mục tiêu là khiến tác tử phục vụ lợi ích của tổ chức sử dụng nó thay vì ưu tiên lợi ích của nhà cung cấp mô hình.
Tác tử không có chủ ý và không có tư cách con người. Vì vậy, tính tận tụy phải được đánh giá qua những gì hệ thống thực sự làm.
Theo The New Stack, khách hàng của Vijil đã rút ngắn bốn lần thời gian cần để thiết lập độ tin cậy. Đây là tuyên bố về khách hàng của Vijil được dẫn lại trong bài viết gốc, không phải kết quả đánh giá độc lập áp dụng cho mọi hệ thống tác tử.
Đưa độ tin cậy vào toàn bộ vòng đời tác tử
Độ tin cậy cần được đo trong toàn bộ vòng đời tác tử, từ xây dựng và phát hành đến vận hành và cải thiện. Mỗi giai đoạn phải kiểm tra độ ổn định, bảo mật, an toàn và hiệu năng, đồng thời ghi nhận các điểm thất bại trước khi tổ chức thay đổi phạm vi quyền hạn.
Trong cách triển khai của Vijil, tác tử đi qua một vòng đánh giá liên tục tương tự mã nguồn trong quy trình vận hành phần mềm. Hệ thống đo hiệu năng, sửa điểm thất bại và phát hiện khi độ tin cậy tăng hoặc giảm.
Nhóm cần giữ dữ liệu trong nội bộ có thể triển khai tại chỗ, trong môi trường đám mây do tổ chức sở hữu hoặc kiểm soát hoặc trong hệ thống cách ly hoàn toàn. Gói miễn phí do Vijil lưu trữ và vận hành sẽ gửi lưu lượng đánh giá cùng dấu vết quyết định đến Vijil. Sự khác biệt này cần được cân nhắc trước khi doanh nghiệp chọn nơi chạy hoạt động kiểm tra.
Mỗi tác tử được triển khai đều đang phục vụ lợi ích của một bên nào đó. Doanh nghiệp cần xác định lợi ích đó có thực sự thuộc về tổ chức vận hành hay không. Việc đưa tác tử từ trạng thái hoang dã đến hành vi tận tụy phải bắt đầu bằng bằng chứng, giới hạn rõ ràng và kiểm tra liên tục.
Hãy rà soát tác tử từ quyền truy cập, chính sách đến bằng chứng vận hành trước khi giao cho nó thêm quyền tự chủ.
