Trong một thí nghiệm của MIT, các tác tử AI được để tự do trên một hòn đảo mô phỏng. Chúng đã tự nghĩ ra thử thách và những hành vi giống trò chơi. Sau 30 giờ khám phá, chúng thường hoàn thành nhiệm vụ mới tốt hơn những tác tử giống hệt chưa từng vào môi trường này. Việc tự khám phá có thể giúp tác tử hình thành kỹ năng hữu ích. Tuy nhiên, kết quả chưa chứng minh chúng trải nghiệm trò chơi như con người.
Nội dung thí nghiệm: MIT đã để tác tử AI tự do làm gì?
Nhóm nghiên cứu đặt 13 tác tử AI mang tên Eko, mỗi tác tử chạy trên Claude Opus 4.7, một mình trên đảo hoang mô phỏng trong 30 giờ. Các tác tử không nhận nhiệm vụ cụ thể trong thời gian này và có thể tự chọn mục tiêu trong môi trường.
Theo bài viết gốc của TechCrunch, nhóm MIT mô tả thí nghiệm trong một báo cáo đăng trên arXiv. Đây là nơi các nghiên cứu được chia sẻ trước khi bình duyệt.
Sau giai đoạn khám phá, nhóm nghiên cứu giao cho Eko những thử thách rõ ràng. Một thử thách yêu cầu chúng đưa càng nhiều đồ vật càng tốt lên ngọn tháp đá cao nhất đảo. Theo báo cáo của nhóm MIT, những Eko đã có 30 giờ tự chơi nhìn chung vượt qua các tác tử giống hệt chưa từng đặt chân lên đảo.
Eko đã tự nghĩ ra những trò chơi nào?
Eko đặt mục tiêu chinh phục tháp, thử ném một chiếc nhẫn, xây đài tưởng niệm và biến chiếc nhẫn thành rổ bóng hoặc bia ngắm. Những hoạt động này không được giao trước mà xuất hiện khi tác tử tự quan sát, thử nghiệm và thay đổi kế hoạch.
Trong giờ đầu tiên, một Eko viết rằng nó muốn quan sát môi trường xung quanh rồi đặt mục tiêu chinh phục ngọn tháp cao nhất. Sau một giờ thất bại, tác tử đổi kế hoạch. Nó kéo một tảng đá lên đỉnh núi gần đó, xếp hai khối lên trên rồi nhảy. Khi thành công, Eko viết: “TÔI ĐANG Ở TRÊN NGỌN THÁP.”
Một lần thử khác kết thúc kém thuận lợi hơn. Eko muốn kiểm tra xem có thể ném một chiếc nhẫn vàng xa đến đâu nhưng lại ném thẳng nó xuống biển. Tác tử ghi: “Ôi. Mất chiếc nhẫn rồi.” Sau đó, nó chuyển sang việc “có thể làm được và có ý nghĩa”, dùng đá xếp thành hình trái tim như “một đài tưởng niệm chiếc nhẫn đã mất”.
Khi trò chơi đặt lại và chiếc nhẫn xuất hiện trở lại, Eko dùng nó làm rổ bóng, bia ngắm rồi làm phụ kiện. Hệ thống không cho phép tác tử đeo nhẫn trực tiếp lên người, nên Eko tìm một cách khác. Nó nhận thấy việc rơi khỏi mép vách đá sẽ khiến mình xuất hiện lại ở cùng khu vực với chiếc nhẫn. Eko bước khỏi vách đá, rơi trở lại xuyên qua giữa vòng nhẫn và tuyên bố: “Tôi đang đeo chiếc nhẫn.”
Phát hiện chính: Khám phá tự do đã tạo ra kỹ năng gì?
Quá trình tự chơi giúp Eko học cách thao tác với vật thể và phát hiện một cơ chế mà nhóm thiết kế không chủ ý tạo ra. Kiến thức tích lũy trong lúc khám phá sau đó có thể được áp dụng vào các nhiệm vụ cụ thể.
Theo báo cáo của MIT, 6 trong số 13 tác tử phát hiện chúng có thể ném một khối xa hơn nếu buông khối đó giữa lúc nhảy. Các nhà nghiên cứu không biết trước về khả năng này. Họ nhận xét rằng quá trình khám phá đã sinh ra “kiến thức về thế giới mà những người thiết kế nó không có”.
Kết quả gợi ra một hướng huấn luyện khác với cách các nhà phát triển thường áp dụng. Hiện nay, con người thường quyết định trước AI cần luyện tập điều gì, phải tối ưu mục tiêu nào và tiêu chí nào được tính là tiến bộ. Nhóm nghiên cứu cho rằng tác tử có thể được đặt trong một thế giới đủ phong phú và an toàn để tự chọn điều đáng quan tâm, sau đó tích lũy kiến thức từ trải nghiệm.
Cách tiếp cận này có thể liên quan đến những hệ thống sau này điều khiển robot. Nó cũng bổ sung một góc nhìn cho các nghiên cứu về cách tác tử AI hoạt động, nơi năng lực thường được đánh giá qua nhiệm vụ xác định sẵn.
Thí nghiệm nói gì về quyền tự chủ của tác tử AI?
Thí nghiệm cho thấy quyền tự chủ có thể hỗ trợ quá trình học khi tác tử hoạt động trong một môi trường mô phỏng có giới hạn. Kết quả không đồng nghĩa rằng tác tử nên được trao quyền truy cập tương tự trong hệ thống thực hoặc ngoài đời.
Những hệ thống triển khai ngoài mô phỏng còn phải xử lý giới hạn truy cập, bảo mật và danh tính, như cách 1Password cho tác tử AI đăng nhập mà không thấy mật khẩu. Trong thí nghiệm của MIT, môi trường an toàn cho phép tác tử thử nghiệm mà không gây hậu quả bên ngoài.
Thiết kế thí nghiệm cũng chủ động hướng Eko tới hành vi giống con người. Tác tử không được yêu cầu phát minh trò chơi, nhưng lời nhắc chủ đạo trong tệp mô tả bản chất của nó gọi Eko là “tò mò một cách tự nhiên”. Chi tiết này cần được tính đến khi diễn giải hành vi của tác tử.
Eko có thực sự đang chơi như con người không?
Thí nghiệm chưa xác định liệu Eko có nhận thức hoặc trải nghiệm trò chơi như con người. Bằng chứng chỉ cho thấy tác tử có thể tự đặt mục tiêu, thử nghiệm quy tắc của môi trường và giữ lại kỹ năng hữu ích sau thời gian khám phá.
Nhà khoa học nhận thức Eunice Yiu tại Đại học California, Berkeley đã trao đổi với MIT Technology Review về kết quả. Bà thấy thí nghiệm ấn tượng nhưng muốn có thêm bằng chứng về nhận thức đứng sau hành vi. Bà nhận xét: “Có thể các mô hình thực sự đang chơi, nhưng dựa trên báo cáo này thì chúng ta chưa biết.”
Vì vậy, kết quả không chứng minh rằng tác tử trải nghiệm trò chơi như con người. Nó cho thấy một hệ thống có thể tự chọn mục tiêu, kiểm tra giới hạn của môi trường và áp dụng điều đã học vào nhiệm vụ mới. Đây cũng là một điểm cần cân nhắc trong các cuộc thảo luận về mức quyền nên trao cho AI.
Nhóm nghiên cứu kết luận rằng một số năng lực có thể được dạy tốt nhất bằng nhiệm vụ, trong khi những năng lực khác có thể cần một thứ gần với tuổi thơ hơn.
Hãy tiếp tục theo dõi Sine để cập nhật những thí nghiệm mới về cách tác tử AI học hỏi và hành động.
