Các nhà nghiên cứu của Google và Google DeepMind đã thành lập Viện DeepMind để đưa các quan điểm khác nhau về trí tuệ nhân tạo tổng quát ra thảo luận công khai. Công nghệ này thường được viết tắt là AGI. Viện tập trung vào tác động kinh tế, tính minh bạch trong suy luận, các nguyên tắc cho sự thịnh vượng của con người và cách đánh giá những mô hình AI tiên tiến nhất.
Theo TechCrunch, ban giám đốc của viện gồm Shane Legg, đồng sáng lập DeepMind, James Manyika, lãnh đạo Google, và Demis Hassabis, chủ tịch Google DeepMind. Legg đồng thời giữ vai trò tổng biên tập.
Viện DeepMind đưa những quan điểm khác nhau trong Google, Google DeepMind và cộng đồng nghiên cứu toàn cầu ra thảo luận. Thông báo thành lập thừa nhận rằng các bên không phải lúc nào cũng đồng ý. Quan điểm của họ có thể thay đổi khi xuất hiện thêm dữ liệu trong lĩnh vực đang phát triển nhanh này.
Nội dung: bốn hướng tranh luận đầu tiên.
Ấn phẩm đầu tiên của Viện DeepMind gồm bốn bài luận. Chúng đề cập đến chính sách kinh tế, tính minh bạch trong suy luận, các nguyên tắc giúp con người phát triển và khuôn khổ đánh giá AI tiên tiến.
Theo TechCrunch, bài luận về chính sách kinh tế xem xét cách ứng phó với những xáo trộn AGI có thể gây ra. Ba bài còn lại lần lượt đề cập đến khả năng đọc hiểu quá trình suy luận của mô hình, các nguyên tắc giúp con người phát triển và một khuôn khổ đánh giá những mô hình AI tiên tiến nhất.
Khả năng quan sát suy luận đang thu hẹp
Rohin Shah và Anca Dragan cho rằng việc ngày càng khó quan sát cách AI suy luận không phải là kết quả không thể tránh khỏi. Hai nhà nghiên cứu đề nghị các nhóm phát triển và cơ quan quản lý đánh giá trực tiếp sự đánh đổi về an toàn. Kiến trúc mới có thể khiến mô hình mạnh hơn nhưng khó giám sát hơn.
Trong bài luận Lập luận về tính minh bạch trong suy luận, Shah và Dragan nêu phương án giới hạn độ sâu tính toán tuần tự không minh bạch. Khái niệm này chỉ lượng tính toán liên tiếp mà mô hình có thể thực hiện nhưng không tạo ra dấu vết suy luận con người đọc được.
Một phương án khác là yêu cầu nhà phát triển chứng minh rằng hệ thống kém minh bạch hơn vẫn có thể được giám sát ở mức tương đương. Vấn đề này liên quan trực tiếp đến câu hỏi AI nên được trao bao nhiêu quyền trong hệ thống, nhất là khi con người không còn dễ dàng kiểm tra từng bước dẫn đến kết quả.
Đề xuất cơ quan đánh giá AI tiên tiến
Demis Hassabis đề xuất một cơ quan tiêu chuẩn do Mỹ dẫn dắt để đánh giá các mô hình AI tiên tiến nhất. Ban đầu, nhà phát triển sẽ tự nguyện gửi mô hình để đánh giá trước khi phát hành. Nếu hệ thống chứng minh được hiệu quả, việc vượt qua đánh giá có thể trở thành điều kiện triển khai các mô hình AI tiên tiến tại Mỹ.
Hassabis trình bày đề xuất trong bài luận Khuôn khổ cho AI tiên tiến và bình minh của một thời đại mới. Theo TechCrunch, ban đầu, nhà phát triển có thể tự nguyện gửi mô hình để đánh giá trước ngày phát hành tối đa 30 ngày.
Trong giai đoạn đầu, cơ quan này sẽ thiết kế bài đánh giá với sự tham vấn của các công ty AI. Về sau, cơ quan sẽ xây dựng những bài kiểm tra độc lập và không công bố trước. Cách làm đó nhằm tránh việc các phòng thí nghiệm điều chỉnh mô hình chỉ để đạt kết quả tốt trên bộ đánh giá đã biết.
Hassabis cho rằng khuôn khổ có thể được siết chặt nếu rủi ro trở nên nghiêm trọng hơn. Biện pháp mạnh hơn có thể bao gồm việc các nhà phát triển AI tiên tiến phối hợp giảm tốc độ phát triển.
Tranh luận an toàn chuyển sang biện pháp cụ thể
Các bài luận của Viện DeepMind cho thấy cuộc tranh luận về an toàn AI đang tập trung hơn vào biện pháp thực thi. Những đề xuất được nêu gồm công bố thông tin, giám sát từ bên ngoài, đánh giá trước khi phát hành và phối hợp giảm tốc nếu biện pháp bảo vệ không theo kịp năng lực mô hình.
Theo TechCrunch, sự thay đổi này tăng tốc trong cùng tuần. Các lãnh đạo ngành đã ủng hộ một số nội dung trong lời kêu gọi điều tiết nhịp độ phát triển AI tiên tiến của Dario Amodei, giám đốc điều hành Anthropic.
Điểm đáng chú ý không nằm ở một dự báo mới về thời điểm AGI xuất hiện. Viện DeepMind tạo thêm một diễn đàn để những người trực tiếp xây dựng công nghệ công khai bất đồng. Tranh luận tập trung vào cách đánh giá, giám sát và kiểm soát công nghệ. Theo cách diễn giải của ban biên tập Sine, trọng tâm về giám sát và kiểm soát cũng là cơ sở để xem xét vai trò của con người trong quy trình rà soát mã do AI hỗ trợ.
Hãy tiếp tục theo dõi Sine để cập nhật cách các đề xuất quản trị AGI chuyển từ tranh luận sang quy định và thực hành.
