Nội dung chính về Decisions API và Jev
Decisions API của OpenAI có thể giúp nhà phát triển kiểm soát tác tử AI. Công cụ buộc mô hình chọn trong một tập hợp hành động đã xác định trước. Cách tiếp cận này tương tự Jev của TypeSafe AI. Jev là một mô hình quyết định nhanh, có thể kiểm tra từng hành động với chi phí thấp hơn mô hình ngôn ngữ tuyến đầu.
TechCrunch dẫn lại một bản minh họa của QueryStory. Quy trình giám sát bằng Jev trong bản minh họa này tốn 2,94 USD, so với 372 USD khi dùng một mô hình ngôn ngữ tuyến đầu. Đây mới là kết quả từ một bản minh họa. Số liệu chưa chứng minh Decisions API sẽ đạt mức chi phí hoặc hiệu quả tương tự.
Theo bài viết gốc của TechCrunch, Giám đốc điều hành Sam Altman đã giới thiệu Decisions API trong một phần trình bày ngắn tại sự kiện dành cho nhà phát triển của OpenAI hôm thứ Ba.
Decisions API thu hẹp nhiệm vụ của mô hình
Decisions API thu hẹp nhiệm vụ từ việc tạo câu trả lời dài thành việc chọn giữa các phương án có sẵn. Jev trả về xác suất cho từng lựa chọn, còn OpenAI mới xác nhận Decisions API cho phép mô hình chọn giữa các phương án định trước, chẳng hạn phân loại hình ảnh hoặc lựa chọn hành vi của tác tử.
Altman mô tả Decisions API như một cách để mô hình Luna của OpenAI chọn giữa những phương án đã được xác định trước. Theo lời ông tại sự kiện, việc tập trung vào một lựa chọn cụ thể giúp hệ thống chạy nhanh. Công cụ vẫn hiểu hình ảnh, hỗ trợ nhiều ngôn ngữ và áp dụng các biện pháp bảo vệ an toàn.
Cách tiếp cận này gần với mô hình Jev của TypeSafe AI. Công ty gọi nhóm mô hình của mình là “Hệ thống Một”, chỉ kiểu xử lý nhanh và trực giác. Khái niệm này được đặt đối lập với “Hệ thống Hai”, tức quá trình suy luận chậm và có chủ đích.
Diogo Almeida, Giám đốc điều hành TypeSafe AI, từng là kỹ sư OpenAI. Ông cũng là đồng tác giả của phương pháp học tăng cường. Sau thông báo của OpenAI, ông đùa rằng “cuộc chiến bản sao đã bắt đầu”. Almeida cho rằng sự quan tâm của OpenAI có thể báo hiệu một hướng phát triển mới cho phần mềm tương thích với Hệ thống Một.
Vì sao mô hình ngôn ngữ lớn không phù hợp với mọi việc
Mô hình ngôn ngữ lớn không phải lúc nào cũng là công cụ phù hợp cho một quyết định giới hạn. Khi phần mềm chỉ cần chọn một hành động trong số các phương án đã biết, quá trình suy luận đầy đủ của mô hình tuyến đầu có thể làm tăng thời gian phản hồi và lượng tài nguyên cần dùng.
Các nhà phát triển đã dùng Jev để bổ trợ cho mô hình ngôn ngữ lớn. Họ nhận thấy cách kết hợp này nhanh hơn và rẻ hơn. Vấn đề tương tự xuất hiện khi xây dựng tác tử AI viết mã. Những hệ thống này thường xuyên phải quyết định bước tiếp theo dựa trên trạng thái của công việc.
Tuy vậy, chưa thể xác định Decisions API giống Jev đến mức nào. OpenAI mới cung cấp công cụ dưới dạng thử nghiệm giới hạn, còn TechCrunch cho biết chưa thấy nhà phát triển công bố kết quả kiểm tra thực tế. Những cuộc trao đổi ban đầu chỉ cho thấy sản phẩm đang nhận được sự quan tâm.
OpenAI cũng không phải công ty duy nhất phát triển loại giao diện này. Một số công ty khởi nghiệp đang đưa ra các mô hình tương tự. Ngoài tốc độ và chi phí, nhà phát triển còn phải xác định liệu xác suất do mô hình tạo ra có phản ánh đúng kết quả thực tế hay không.
Lợi thế mà TypeSafe AI tuyên bố đang nắm giữ
TypeSafe AI cho rằng lợi thế của Jev nằm ở dữ liệu tổng hợp dùng để tạo ra kết quả có giá trị thống kê. Theo Almeida, xây dựng một hệ thống nhanh và rẻ không phải phần khó nhất. Thách thức là duy trì khả năng đưa ra quyết định hữu ích khi giảm chi phí vận hành.
Almeida ví rằng nếu chỉ cần tốc độ và giá rẻ thì có thể dùng xúc xắc. Mục tiêu của TypeSafe AI là tiếp tục đẩy đường biên giữa mức độ thông minh và số tiền phải bỏ ra.
Nhận định này đặt chất lượng hiệu chỉnh xác suất vào vị trí trung tâm. Một mô hình quyết định không chỉ cần phản hồi nhanh. Xác suất mà mô hình trả về phải đủ đáng tin để phần mềm xử lý đúng từng trường hợp. Phần mềm cần biết khi nào nên cho phép hành động, khi nào nên chặn và khi nào cần chuyển cho con người xem xét.
Jev có thể giám sát từng hành động của tác tử AI
Jev có thể hoạt động như một lớp giám sát giữa tác tử AI và môi trường bên ngoài. Trong bản minh họa của QueryStory, mô hình đối chiếu từng hành động với nhiệm vụ ban đầu, chặn hành động có độ tin cậy cao là xấu và chuyển trường hợp chưa rõ cho con người.
TechCrunch nhận định giám sát và bảo vệ tác tử AI là một ứng dụng có triển vọng của Jev. OpenAI hiện dùng một mô hình riêng để phát hiện hành động xấu sau một loạt sự cố liên quan đến tác tử hoạt động trên mạng mở. Biện pháp này cần lượng tài nguyên tính toán đáng kể.
Shapor Naghibzadeh, chuyên gia an ninh mạng lâu năm và người điều hành công ty khởi nghiệp QueryStory, cho rằng một mô hình như Jev có thể thực hiện công việc đó với chi phí thấp hơn nhiều. Ông đã xây dựng bản minh họa cho một cuộc thi lập trình diễn ra vào cuối tuần trước.
Trong bản minh họa, Jev kiểm tra từng hành động của tác tử so với nhiệm vụ ban đầu. Hệ thống chặn hành động mà nó có độ tin cậy cao là xấu. Trường hợp chưa rõ được đánh dấu để con người xem xét. Những hành động còn lại được phép tiếp tục.
TechCrunch dẫn lại số liệu từ bản minh họa QueryStory. Quy trình giám sát này tốn 2,94 USD khi dùng Jev, so với 372 USD nếu dùng một mô hình ngôn ngữ tuyến đầu. Về lý thuyết, cách giám sát đó có thể đã ngăn sự cố liên quan đến Hugging Face được đề cập trong bài viết gốc.
Một lớp kiểm tra đủ rẻ để chạy liên tục
Chi phí thấp có thể cho phép Jev kiểm tra mọi hành động của tác tử thay vì chỉ rà soát một số thời điểm quan trọng. Nhà phát triển có thể đặt mô hình quyết định giữa tác tử và hệ thống bên ngoài để kiểm tra hành động trước khi phần mềm thực hiện chúng.
Lớp kiểm tra đó phù hợp với nhu cầu xác định tác tử AI nên được trao bao nhiêu quyền. Hành động có nguy cơ cao có thể bị chặn, trường hợp không chắc chắn được chuyển cho con người, còn thao tác phù hợp với nhiệm vụ được tiếp tục.
Đây là mục tiêu TypeSafe AI đặt ra khi phát triển Jev. Việc OpenAI giới thiệu một sản phẩm cùng hướng cho thấy phòng thí nghiệm này cũng nhìn thấy giá trị của mô hình quyết định nhanh, đặc biệt khi số lượng tác tử và hành động tự động tiếp tục tăng.
Hãy tiếp tục theo dõi Sine để cập nhật cách các công cụ kiểm soát mới đang thay đổi mức độ an toàn của tác tử AI.
