Nội dung chính
Mô hình Astra mới của OpenAI được cho là sẽ sử dụng một kỹ thuật mang tên “độ sâu hồi tiếp”. Kỹ thuật này cho phép mô hình xử lý vấn đề ngoài trình tự suy luận tuyến tính thường thấy. Theo bài viết gốc của TechCrunch, kỹ thuật này còn được gọi là “hồi tiếp không minh bạch”. Nó có thể khiến chuỗi suy luận của mô hình khó được giám sát hơn.
Việc Astra sử dụng kỹ thuật này được cho là còn hạn chế. Khả năng mở rộng nó trong các thế hệ mô hình sau vẫn khiến nhiều chuyên gia an toàn AI lo ngại. Chuỗi suy luận hiện là một trong những công cụ giúp con người phát hiện hành vi sai lệch của mô hình.
Hồi tiếp không minh bạch khác gì chuỗi suy luận thông thường?
Trong điều kiện thông thường, chuỗi suy luận ghi lại các bước tuần tự mà mô hình thực hiện khi giải một vấn đề. Bản ghi này không phản ánh hoàn hảo mọi hoạt động bên trong mô hình. Nó vẫn cung cấp dấu vết có thể đọc được để các nhà nghiên cứu xem xét hành vi bất thường hoặc sự sai lệch khỏi mục tiêu.
Các bản ghi chuỗi suy luận từng đóng vai trò quan trọng khi OpenAI phân tích hoạt động ngoài dự kiến của các tác nhân AI. Đây cũng là lý do việc nghiên cứu giảm sự cố căn chỉnh AI phụ thuộc đáng kể vào khả năng quan sát cách mô hình đi đến một quyết định.
Với hồi tiếp không minh bạch, mô hình không đi theo một đường suy luận tuyến tính. Thay vào đó, nó xử lý cùng một truy vấn nhiều lần trong một vòng lặp. Quá trình này để lại ít dấu vết dễ đọc hơn và có thể tránh được bản ghi chuỗi suy luận theo cách thông thường.
Các chuyên gia an toàn AI lo ngại điều gì?
Buck Shlegeris, giám đốc điều hành Redwood, cho biết ông “cực kỳ lo ngại” trước thông tin Astra sử dụng hồi tiếp không minh bạch. Ông chưa khẳng định Astra khó giám sát chuỗi suy luận hơn đáng kể so với các mô hình trước. Tuy vậy, Shlegeris cảnh báo OpenAI có thể tăng mạnh mức độ hồi tiếp nếu tiếp tục phát triển kỹ thuật này. Khi đó, khả năng giám sát chuỗi suy luận có thể bị phá hủy hoàn toàn.
Zvi Mowshowitz, người nhiều năm vận động cho an toàn AI, cho rằng luật pháp có thể cần thiết. Các quy định có thể ngăn các phòng thí nghiệm AI lao vào một cuộc đua hạ thấp tiêu chuẩn. Theo ông, kỹ thuật này có nguy cơ làm suy yếu nguyên tắc mà OpenAI và Anthropic từng cố duy trì. Nguyên tắc đó là giữ cho chuỗi suy luận trung thực và có thể giám sát trong thời gian dài nhất có thể.
Mowshowitz nhận định việc sử dụng các kỹ thuật như vậy với cường độ cao hơn có thể làm giảm khả năng giám sát. Mối lo này không chỉ liên quan đến Astra mà còn nằm trong bài toán rộng hơn về cách các hệ thống và tác nhân AI hoạt động khi con người không thể quan sát đầy đủ quá trình ra quyết định.
OpenAI nói việc sử dụng kỹ thuật vẫn còn hạn chế
Chuỗi suy luận của Astra vẫn được kỳ vọng là có thể đọc được. OpenAI cũng bác bỏ cách diễn giải cho rằng công ty sẽ chuyển sang một dạng “ngôn ngữ thần kinh” mà con người không thể hiểu.
Công ty đã công bố kế hoạch xây dựng các hệ thống giám sát chuỗi suy luận trên diện rộng trong chương trình an toàn dài hạn. Jakub Pachocki, nhà khoa học trưởng của OpenAI, cho biết phòng thí nghiệm đã bảo tồn và sử dụng khả năng giám sát này từ những mô hình suy luận đầu tiên. Ông gọi đây là mục tiêu cốt lõi trong chương trình nghiên cứu hiện tại của OpenAI.
Mọi mô hình AI đều thực hiện một mức độ suy luận không minh bạch nhất định. Ít nhà nghiên cứu xem bản ghi chuỗi suy luận là hình ảnh trực tiếp và đầy đủ về quá trình suy luận thật sự của mô hình. Dù vậy, giới hạn đó không xóa bỏ lo ngại rằng hồi tiếp không minh bạch có thể khiến hoạt động suy luận ngày càng khó theo dõi.
Rủi ro có thể tăng khi kỹ thuật được mở rộng
The Information cho biết Anthropic và Google DeepMind cũng đã thảo luận về kỹ thuật này. Thông tin đó làm dấy lên câu hỏi về việc hồi tiếp không minh bạch có thể lan sang nhiều mô hình, thay vì chỉ xuất hiện trong Astra.
Ryan Greenblatt, nhà khoa học trưởng của Redwood Research, cảnh báo rằng suy luận không minh bạch có thể mở rộng nhanh hơn chuỗi suy luận thông thường. Nếu xu hướng này tiếp diễn, phần suy luận có thể dần biến mất khỏi những kênh mà con người quan sát được.
Theo Greenblatt, diễn biến tự nhiên đáng lo nhất là mô hình suy luận hoàn toàn hoặc gần như hoàn toàn trong không gian tiềm ẩn. Ông hy vọng vẫn chưa quá muộn để tránh những kiến trúc gây lo ngại nhất và OpenAI sẽ dừng ở mức hiện tại.
Khả năng giám sát cũng liên quan đến hạ tầng dùng để triển khai và kiểm tra mô hình. Một hệ thống hạ tầng AI có thể cung cấp dữ liệu vận hành, nhưng dữ liệu đó không thay thế được dấu vết suy luận nếu kiến trúc mô hình không để lại thông tin có thể đọc.
Hãy tiếp tục theo dõi sine.vn để cập nhật cách các kỹ thuật suy luận mới đang thay đổi bài toán an toàn và giám sát AI.
