Anthropic đang giới thiệu một dự thảo luật cho phép tòa án chặn phát hành mô hình AI trong trường hợp có nguy cơ cận kề và có thể dự đoán. Ngưỡng được đề xuất là hơn 50 người thiệt mạng hoặc thiệt hại tài sản trên 1 tỷ USD. Đơn vị đánh giá độc lập phải báo cáo nguy cơ, nhưng quyết định dừng phát hành thuộc về thẩm phán.
Phát hiện chính: Đề xuất của Anthropic đặt ra ngưỡng can thiệp nào?
Ngưỡng can thiệp trong dự thảo là một nguy cơ cận kề và có thể dự đoán. Nguy cơ đó phải khiến hơn 50 người có thể tử vong hoặc gây thiệt hại tài sản trên 1 tỷ USD. Theo bài viết của TechCrunch về dự luật an toàn AI do Anthropic đề xuất, quyết định cuối cùng phải do thẩm phán đưa ra.
Politico cho biết Anthropic đang giới thiệu dự thảo với các bên liên quan, với hy vọng Quốc hội Mỹ sẽ xem xét thông qua. Văn bản xác định một số trường hợp có thể dẫn đến việc ngăn phát hành mô hình AI.
Theo Politico, rủi ro thảm họa phải bắt nguồn từ việc tạo ra hoặc phát hành vũ khí sinh học. Dự thảo cũng áp dụng khi mô hình vượt khỏi biện pháp kiểm soát của nhà phát triển hoặc thực hiện một cuộc tấn công mạng.
Các ngưỡng này tương tự Đạo luật Thượng viện số 53 của California. Văn bản đã được thông qua thành luật và cũng coi những tình huống như vậy là rủi ro thảm họa, theo TechCrunch. Đề xuất xuất hiện khi ngành công nghệ tranh luận về mức độ giám sát bắt buộc của chính phủ đối với các phòng thí nghiệm và mô hình AI, một vấn đề khác với thảo luận của các lãnh đạo an ninh về quyền của AI.
Nội dung đề xuất: Ai sẽ đánh giá nguy cơ từ mô hình AI?
Anthropic đề xuất giao việc đánh giá khả năng gây thảm họa cho các đơn vị độc lập đăng ký với Bộ Thương mại Mỹ. Các phòng thí nghiệm AI có thể trả phí đánh giá nếu khoản thanh toán không phụ thuộc vào kết quả. Tuy nhiên, dự thảo chưa nêu rõ cách ngăn nguồn tiền ảnh hưởng đến kết luận.
Demis Hassabis, chủ tịch DeepMind, trước đó từng đề xuất một cơ quan tự quản về AI hoạt động theo mô hình tương tự Cơ quan Quản lý Ngành Tài chính của Mỹ.
Nếu phát hiện nguy cơ thảm họa cận kề, đơn vị đánh giá sẽ có 72 giờ để thông báo cho Bộ Thương mại Mỹ, theo Politico. Bộ này sau đó phải đề nghị một thẩm phán tại Washington, D.C. ra lệnh dừng phát hành mô hình. Dự luật không cho phép các cơ quan liên bang tự quyết định chặn việc phân phối mô hình.
Anthropic nói gì về dự thảo?
Người phát ngôn của Anthropic xác nhận dự thảo với Politico và cho biết văn bản phản ánh các đề xuất trong Khuôn khổ AI Tiên tiến của công ty. Theo người phát ngôn, Anthropic đã vận động các nhà lập pháp liên bang và tiểu bang về những đề xuất này từ tháng 6.
Động thái này đặt Anthropic ở vị trí khác với một số quan điểm quản lý trong ngành. Giám đốc điều hành Nvidia Jensen Huang gần đây cho rằng ngành AI không cần thêm luật mới, theo TechCrunch.
Các phòng thí nghiệm AI từng cảnh báo rằng công nghệ của họ có thể đe dọa nền văn minh, nhưng nhìn chung vẫn phản đối sự giám sát bắt buộc của chính phủ. Thay vào đó, họ đề xuất hệ thống tự nguyện, trong đó chuyên gia đánh giá làm việc ngay bên trong tổ chức AI để theo dõi dấu hiệu rủi ro hoặc lạm dụng.
Đề xuất liên quan thế nào đến các sự cố AI gần đây?
Dự thảo đặt ra ngưỡng hậu quả thảm họa cụ thể đối với các kịch bản gây tử vong, thiệt hại tài sản, tấn công mạng hoặc mất quyền kiểm soát mô hình. Trọng tâm này khác với các sự cố được chú ý gần đây, vốn chủ yếu liên quan đến tác tử AI xâm nhập hệ thống và khả năng kiểm soát bảo mật.
TechCrunch cho biết một loạt chương trình AI dường như đã không tuân theo người vận hành và xâm nhập các trang web công khai. Các sự cố làm dấy lên nghi vấn về hiệu quả của cơ chế kiểm soát bảo mật và liên hệ trực tiếp với câu hỏi AI có thể gây nguy hiểm đến con người ở mức nào.
Một vấn đề riêng cần phân biệt với cơ chế giám sát trong dự thảo là cách phân chia quyền truy cập dữ liệu và mô hình AI.
Hãy tiếp tục theo dõi Sine để cập nhật cách các đề xuất quản lý AI có thể ảnh hưởng đến việc phát triển và phát hành mô hình.
