Dario Amodei muốn điều tiết tuyến đầu AI bằng hai biện pháp. Ông đề xuất giao việc đánh giá an toàn cho các đơn vị độc lập và thúc đẩy phối hợp giữa những phòng thí nghiệm AI tại các quốc gia dân chủ. Chương trình Equity đặt câu hỏi liệu các công ty có thể thống nhất việc phát triển chậm lại nghĩa là gì và ai sẽ giám sát quá trình đó.
Amodei trình bày kế hoạch một tuần sau cảnh báo về kịch bản thảm họa của một nhà nghiên cứu Anthropic. Cảnh báo này đã gây chú ý trong giới trí tuệ nhân tạo. Theo TechCrunch, trọng tâm của đề xuất là tạo ra một cơ chế đánh giá không do chính các phòng thí nghiệm phát triển mô hình kiểm soát.
Ý tưởng của Amodei đã nhận được sự ủng hộ từ một số doanh nghiệp trong ngành. Ngược lại, giám đốc điều hành Nvidia Jensen Huang đã công khai phản đối việc làm chậm AI. Hai phản ứng cho thấy các công ty chưa thống nhất về cách cân bằng yêu cầu an toàn với áp lực duy trì tốc độ phát triển.
Chi tiết nội dung đề xuất
Trong cuộc thảo luận, các người dẫn chương trình Equity đặt ra hai câu hỏi: liệu các công ty có thể thống nhất phát triển chậm lại nghĩa là gì và ai sẽ giám sát quá trình đó.
Đây là trọng tâm trong cuộc thảo luận của ba người dẫn chương trình Equity gồm Kirsten Korosec, Anthony Ha và Sean O’Kane. Họ xem xét liệu các doanh nghiệp có thể cùng định nghĩa giới hạn phát triển hay không. Cuộc thảo luận cũng đặt câu hỏi ai sẽ chịu trách nhiệm giám sát giới hạn đó.
Cuộc tranh luận không chỉ liên quan đến mức độ nguy hiểm của công nghệ. Nó còn liên quan đến quyền kiểm soát các hệ thống AI, vấn đề từng xuất hiện trong câu hỏi AI có thực sự đe dọa toàn bộ nhân loại hay không. Phản ứng của Huang cũng thể hiện sự khác biệt giữa yêu cầu an toàn và mục tiêu duy trì tốc độ phát triển, tương tự cuộc tranh luận về AI mở hay đóng tại Nvidia.
Đề xuất của Amodei dựa trên đánh giá an toàn độc lập và phối hợp giữa các phòng thí nghiệm AI tại các quốc gia dân chủ. Equity thảo luận liệu các công ty có thể thống nhất ý nghĩa của việc phát triển chậm lại và ai sẽ giám sát quá trình đó.
Hãy tiếp tục theo dõi Sine để cập nhật cách các công ty AI biến cam kết an toàn thành cơ chế thực tế.
