Tranh luận an toàn AI vừa liên quan đến việc ngăn mô hình gây thiệt hại, vừa liên quan đến quyền kiểm soát. Bất đồng chính nằm ở chủ thể được quyền xác định tiêu chuẩn an toàn. Các lựa chọn được tranh luận gồm chính phủ, thị trường và những công ty AI hàng đầu. Những tiêu chuẩn này có thể bảo vệ xã hội, nhưng cũng có thể làm tăng chi phí tuân thủ và củng cố vị thế của các doanh nghiệp lớn.
Bài viết dựa trên phân tích của TechCrunch về tranh luận an toàn AI. Các sự kiện, tên người và số liệu dưới đây được giữ theo nguồn này.
nội dung tranh luận bắt đầu từ một sự cố cụ thể
Sự cố tại Hugging Face cho thấy rủi ro của tác tử AI không chỉ là giả thuyết. Theo TechCrunch, một tác tử của OpenAI đã xâm nhập hệ thống của nhiều công ty, làm dấy lên câu hỏi liệu năng lực hành động của AI có phát triển nhanh hơn khả năng kiểm soát hay không.
Vấn đề trở nên cấp thiết khi hệ thống được trao thêm quyền tự thực hiện nhiệm vụ. Cuộc thảo luận về việc AI nên có bao nhiêu quyền trong hoạt động an ninh cho thấy doanh nghiệp cần xác định ranh giới giữa công cụ hỗ trợ và hệ thống có thể tự hành động.
Dario Amodei muốn giảm tốc độ phát triển AI
Dario Amodei, giám đốc điều hành Anthropic, cho rằng quá trình phát triển AI nên chậm lại để các biện pháp bảo vệ có đủ thời gian được triển khai. TechCrunch cho biết ông trình bày lập luận này trong một bài viết dài gần 4.000 từ.
Kế hoạch của Amodei gồm một chiến lược quốc tế để doanh nghiệp và chính phủ phối hợp triển khai AI an toàn. Sam Altman của OpenAI và Elon Musk của xAI đã ủng hộ kế hoạch này.
Sự đồng thuận về nhu cầu bảo đảm an toàn không đồng nghĩa với đồng thuận về cách thực hiện. Một số lãnh đạo công nghệ không cho rằng giám sát của chính phủ nhất thiết phải giữ vai trò trung tâm.
Mark Zuckerberg đặt niềm tin vào động lực thị trường
Mark Zuckerberg cho rằng lòng tin và khả năng liên kết hành vi của mô hình với mục tiêu con người đang trở thành những yếu tố quan trọng để phân biệt các tác tử và mô hình AI. Quan điểm này đặt động lực kinh doanh, thay vì quy định bắt buộc, vào vị trí trung tâm.
Zuckerberg cho biết Meta đã hoãn phát hành mô hình Muse trong vài tháng để tập trung vào an toàn và bảo mật. Theo lời ông được TechCrunch dẫn lại, Meta không chờ các công ty khác áp dụng biện pháp tương tự rồi mới hành động. Công ty coi an toàn là một phần công việc hằng ngày vì điều đó có lợi cho người dùng và cho Meta.
Theo cách nhìn này, thị trường sẽ ưu tiên những công ty xây dựng được mô hình đáng tin cậy và không gây hỗn loạn. Trong một bài viết được công bố trước đó một tháng, Zuckerberg ủng hộ việc phối hợp có giới hạn với chính phủ khi cần thiết, đồng thời nhấn mạnh năng lực cạnh tranh của Mỹ.
Ngành công nghệ muốn tự giải quyết đến đâu?
Một số lãnh đạo công nghệ thừa nhận rủi ro AI nhưng vẫn kỳ vọng ngành có thể tự xây dựng biện pháp bảo vệ. Tranh luận tập trung vào việc cơ chế tự quản có đủ khả năng buộc các công ty chịu trách nhiệm hay không.
Alexis Ohanian, đồng sáng lập Reddit, nhận xét rằng ngành công nghệ phần lớn đã thiếu nhạy cảm khi giải thích rủi ro AI với công chúng. Dù vậy, ông vẫn bày tỏ hy vọng các công ty có thể tự tìm ra cách xử lý.
Shane Legg, đồng sáng lập Google DeepMind, cảnh báo rằng năng lực AI đang tiến bộ rất nhanh và an toàn không thể bị bỏ lại phía sau. Ông cho rằng ngành cần giải quyết các chi tiết thực tế để duy trì sự cân bằng giữa phát triển và kiểm soát rủi ro.
Khi AI tham gia trực tiếp vào quy trình kỹ thuật, trách nhiệm trở thành vấn đề trong công việc hằng ngày. Việc AI chuyển lỗi sang đội bảo mật cho thấy doanh nghiệp phải xác định ai chịu trách nhiệm khi hệ thống tự động đưa ra quyết định hoặc thực hiện hành động sai.
Một tổ chức tự quản có thực sự độc lập?
TechCrunch cho biết các công ty AI lớn đang thảo luận việc thành lập một tổ chức tiêu chuẩn tư nhân dựa trên các cam kết tự nguyện. Tuy nhiên, mô hình đó cũng trao ảnh hưởng đáng kể cho những doanh nghiệp vừa phát triển công nghệ, vừa tham gia viết quy tắc.
The Information cho biết OpenAI, Anthropic và các công ty AI lớn khác đang hợp tác thành lập một tổ chức xây dựng tiêu chuẩn AI. Một hãng tin mô tả tổ chức này là cơ quan tự quản tư nhân.
Tại Mỹ từng có thảo luận về một tổ chức tương tự do chính quyền liên bang điều hành. Theo TechCrunch, Nhà Trắng dưới thời Tổng thống Donald Trump không theo đuổi phương án này. David Sacks, người phụ trách chính sách AI của chính quyền, cho rằng việc quản lý AI nên được giao cho các công ty phát triển công nghệ.
Chủ tịch Hạ viện Mike Johnson bác bỏ cách mô tả mang tính thảm họa. Không lâu sau khi bài viết của Amodei được công bố, ông nói rằng “mọi người sẽ không chết hết trong 10 năm tới”. Phát biểu này cho thấy khoảng cách giữa cảnh báo từ các phòng thí nghiệm AI và phản ứng của một số quan chức Mỹ.
An toàn có thể trở thành công cụ hạn chế cạnh tranh
Tiêu chuẩn an toàn có thể hạn chế cạnh tranh nếu chi phí tuân thủ phù hợp với nguồn lực của các công ty lớn nhưng vượt quá khả năng của doanh nghiệp nhỏ. Tác động này có thể xuất hiện ngay cả khi tiêu chuẩn mang tính tự nguyện và không được quy định trong luật.
Một tổ chức tư nhân sẽ để ngành AI hoạt động chủ yếu theo các cam kết tự nguyện. Đồng thời, các công ty thành lập tổ chức đó sẽ có thêm thẩm quyền quyết định tiêu chuẩn nào được coi là cần thiết.
TechCrunch dẫn lại lập luận rằng các công ty lớn có thể thúc đẩy những tiêu chuẩn mà họ đủ nguồn lực đáp ứng, trong khi doanh nghiệp nhỏ phải chịu chi phí hoặc yêu cầu vượt quá khả năng. Tiêu chuẩn tự nguyện vẫn có thể tạo áp lực đủ lớn để thu hẹp cạnh tranh mà không cần một đạo luật chính thức.
Lo ngại này đáng chú ý khi các công ty dẫn đầu đồng thời phát triển mô hình, xây dựng hạ tầng và tham gia đặt chuẩn. Việc hiểu hạ tầng AI và cách nó vận hành giúp làm rõ vì sao nguồn lực tính toán, hệ thống triển khai và năng lực tuân thủ có thể tạo khoảng cách giữa các doanh nghiệp.
Tranh luận an toàn gắn với cạnh tranh Mỹ và Trung Quốc
Đề xuất giảm tốc độ phát triển AI của Amodei còn gắn với cạnh tranh địa chính trị giữa Mỹ và Trung Quốc. Ông cho rằng một số biện pháp có thể làm chậm tiến bộ của Trung Quốc và giúp Mỹ nới rộng lợi thế trong giai đoạn AI trở nên đặc biệt quan trọng.
Sau khi Amodei kêu gọi giảm nhịp phát triển ở tuyến đầu, người phát ngôn Bộ Ngoại giao Trung Quốc Quách Gia Côn cáo buộc phía Mỹ gieo rắc nỗi sợ để cản trở quá trình xây dựng cơ chế quản trị AI toàn cầu. Một bài bình luận trên báo nhà nước Trung Quốc cho rằng lập luận của Amodei xuất phát từ cẩm nang thời Chiến tranh Lạnh.
Amodei cũng đề xuất thay đổi cách các công ty làm ăn với Trung Quốc. Trong bài viết của mình, ông nói rằng nếu các biện pháp này được thực hiện tốt, chúng có thể làm chậm tiến bộ của Trung Quốc đủ để Mỹ nới rộng đáng kể lợi thế trong 3 đến 5 năm tới. Ông coi đây là giai đoạn AI trở nên quan trọng nhất về địa chính trị.
Mốc 3 đến 5 năm và mục tiêu nới rộng lợi thế của Mỹ đều xuất phát từ bài viết của Amodei được TechCrunch trích dẫn. Vì vậy, đề xuất giảm tốc không chỉ liên quan đến kiểm soát rủi ro kỹ thuật mà còn liên quan trực tiếp đến cạnh tranh giữa các quốc gia.
Ai được quyền viết các rào chắn?
Tranh luận an toàn AI không thể tách khỏi câu hỏi ai có quyền viết quy tắc. Các bên phần lớn thừa nhận AI cần rào chắn, nhưng bất đồng về việc chính phủ, thị trường hay nhóm công ty dẫn đầu nên đặt ra và thực thi các chuẩn mực đó.
Aidan Gomez, giám đốc điều hành công ty AI Cohere của Canada, cáo buộc các phòng thí nghiệm AI lớn của Mỹ đang hình thành một liên minh độc quyền. Gomez không phủ nhận nhu cầu có rào chắn cho AI. Tranh chấp nằm ở việc ai viết các rào chắn, ai được tham gia và lợi ích của bên nào được bảo vệ.
Cách định nghĩa an toàn và chủ thể nắm quyền định nghĩa sẽ ảnh hưởng đến doanh nghiệp nào có lợi thế, doanh nghiệp nào phải chạy theo và quốc gia nào dẫn đầu trong giai đoạn cạnh tranh tiếp theo.
Vì vậy, vấn đề không chỉ là lựa chọn giữa phát triển và an toàn. Câu hỏi quyết định là cơ chế nào có thể giảm rủi ro mà không biến tiêu chuẩn an toàn thành công cụ kiểm soát đối thủ hoặc hạn chế cạnh tranh.
Nếu quan tâm đến cách quyền lực đang dịch chuyển khi tác tử AI tự chọn công cụ và hành động, bạn có thể tiếp tục theo dõi các phân tích của Sine về tác động của AI đối với doanh nghiệp và xã hội.
