Ngành trí tuệ nhân tạo chưa cho thấy họ đã sẵn sàng giảm tốc. Một số lãnh đạo ủng hộ việc kiểm soát quá trình phát triển mô hình tiên tiến. Tuy nhiên, các đề xuất hiện tại còn thiếu chi tiết về rủi ro được nêu và ý nghĩa cụ thể của việc phát triển chậm lại. Lợi ích thương mại và sức ép thị trường còn yếu tiếp tục khuyến khích các công ty duy trì cuộc đua.
Dario Amodei, Tổng giám đốc Anthropic, đề xuất kiểm soát nhịp phát triển của những mô hình tiên tiến nhất. Sam Altman của OpenAI và Elon Musk cũng thể hiện mức độ đồng tình nhất định. Tổng giám đốc Nvidia Jensen Huang công khai phản đối ý tưởng giảm tốc.
Trong bài phân tích gốc của TechCrunch, Anthony Ha, Kirsten Korosec và Sean O’Kane xem xét sự đồng thuận mới trong ngành. Họ đặt câu hỏi liệu sự đồng thuận này có dẫn đến biện pháp an toàn cụ thể hay chỉ thay đổi cách các lãnh đạo mô tả vấn đề. Cuộc tranh luận này liên quan trực tiếp đến câu hỏi rộng hơn về việc trí tuệ nhân tạo có thể gây ra rủi ro nghiêm trọng đến đâu.
Nội dung kiểm soát nhịp phát triển chưa đồng nghĩa với giảm tốc
Kiểm soát nhịp phát triển có thể bao gồm giám sát và đánh giá an toàn. Các biện pháp này không nhất thiết làm chậm quá trình huấn luyện hoặc phát hành sản phẩm. Vì vậy, việc các lãnh đạo chấp nhận cách diễn đạt này chưa phải là cam kết trì hoãn những hệ thống có rủi ro.
Các lãnh đạo trong ngành ít dùng từ “giảm tốc” như một cam kết trực tiếp. Họ thường đề cập đến việc kiểm soát hoạt động ở tuyến đầu, tức nhóm phòng thí nghiệm đang xây dựng các hệ thống tiên tiến nhất. Cách diễn đạt này để ngỏ khả năng doanh nghiệp bổ sung biện pháp giám sát nhưng vẫn giữ nguyên tiến độ phát triển.
Theo phần thảo luận do TechCrunch đăng lại, Sean O’Kane cho rằng cấu trúc của các công ty khiến ngành khó giảm tốc. Khi Amodei, Altman và Musk phát tín hiệu cởi mở hơn, O’Kane vẫn cho rằng kế hoạch của họ thiếu chi tiết. Những khoảng trống nằm ở cách mô tả rủi ro và định nghĩa thế nào là phát triển chậm lại.
Anthony Ha lưu ý rằng nhiều nhân vật trong ngành đã đưa ra các phiên bản tương tự trước khi Amodei công bố bài viết của mình. Cộng đồng an toàn trí tuệ nhân tạo cũng đã thảo luận những ý tưởng này từ trước. Sự hưởng ứng nhanh cho thấy một mức độ đồng thuận, nhưng chưa đủ để đánh giá liệu các công ty có chấp nhận giảm tốc trong thực tế hay không.
Ba hướng giám sát vẫn còn nhiều khoảng trống
Ba hướng đang được thảo luận là đánh giá độc lập bên trong doanh nghiệp, phối hợp giữa các công ty tại những quốc gia dân chủ và phối hợp quốc tế. Cả ba có thể làm quá trình phát triển thận trọng hơn, nhưng chưa có đề xuất nào tự động buộc doanh nghiệp trì hoãn một hệ thống.
| Hướng giám sát | Vai trò được đề xuất | Tình trạng chi tiết |
|---|---|---|
| Đánh giá độc lập | Theo dõi an toàn và sự cố | Còn nhiều điểm mơ hồ |
| Phối hợp giữa doanh nghiệp | Thống nhất tiêu chuẩn và giới hạn | Còn nhiều điểm mơ hồ |
| Phối hợp quốc tế | Mở rộng giám sát giữa các quốc gia | Còn nhiều điểm mơ hồ |
Đánh giá độc lập và phối hợp giữa các bên
Kirsten Korosec tóm lược các hướng này trong cuộc trò chuyện của TechCrunch. Đơn vị đánh giá độc lập có thể làm việc bên trong những công ty như Anthropic hoặc OpenAI. Họ sẽ theo dõi quy trình an toàn và các sự cố. Những doanh nghiệp trí tuệ nhân tạo lớn tại các quốc gia dân chủ cũng có thể phối hợp về tiêu chuẩn an toàn và giới hạn phát triển. Hướng còn lại là xây dựng cơ chế phối hợp quốc tế.
Đơn vị đánh giá độc lập được đề xuất để theo dõi hoạt động an toàn và các sự cố bên trong doanh nghiệp. Tuy nhiên, cuộc thảo luận của TechCrunch cho rằng kế hoạch này vẫn còn nhiều điểm mơ hồ và thiếu chi tiết.
TechCrunch không mở rộng nhận xét này sang các hoạt động an ninh nhạy cảm. Việc trao bao nhiêu quyền cho trí tuệ nhân tạo trong trung tâm vận hành an ninh là một cuộc tranh luận riêng.
Sự đồng thuận có thể tạo ra một nhóm quyền lực mới
Tiêu chuẩn chung có thể cải thiện an toàn, nhưng cũng có thể củng cố vị thế của các phòng thí nghiệm lớn nếu chính họ đặt ra tiêu chuẩn. Một cơ chế độc lập cần được phân biệt với thỏa thuận do các công ty dẫn đầu thị trường tự xây dựng.
Korosec cho rằng sự đồng thuận có thể mang lại lợi ích, nhưng cũng có thể là bước đầu hình thành một liên minh kiểm soát thị trường. Nhóm được nhắc đến không phải toàn bộ ngành công nghệ mà là các phòng thí nghiệm phát triển mô hình tiên tiến.
Nếu các công ty lớn tự đặt tiêu chuẩn và giới hạn, những quy tắc đó có thể cải thiện mức độ an toàn. Tuy nhiên, Korosec lưu ý rằng sự đồng thuận giữa các phòng thí nghiệm tiên tiến cũng có thể là bước đầu hình thành một liên minh kiểm soát thị trường. Nội dung do TechCrunch cung cấp không kết luận rằng một liên minh như vậy sẽ hình thành.
Nvidia có lợi ích trực tiếp khi cuộc đua tiếp tục
Nvidia hưởng lợi khi hoạt động phát triển và triển khai trí tuệ nhân tạo tiếp tục mà không bị hạn chế nhịp độ. Lợi ích thương mại đó giúp giải thích vì sao Jensen Huang phản đối việc giảm tốc, nhưng không chứng minh rằng mọi đề xuất an toàn đều nhằm hạn chế cạnh tranh.
Trong phần thảo luận của TechCrunch, Sean O’Kane nhận xét rằng Huang có khả năng kết nối ngành trí tuệ nhân tạo với chính quyền Hoa Kỳ. Theo O’Kane, vai trò này trước đây thường được gắn với Microsoft và Satya Nadella. Vị thế đó đã thay đổi trong khoảng một đến gần hai năm.
Korosec xem sự xuất hiện của Huang tại một hội nghị lớn là lời nhắc về lợi ích thương mại của Nvidia. Anthony Ha cũng nhận định rằng lợi ích của Huang và Tổng thống Donald Trump gặp nhau ở điểm phản đối sự chậm lại. Các tác giả dùng nhận định này để giải thích lập trường của những bên tham gia cuộc tranh luận. Đây không phải bằng chứng về động cơ của mọi đề xuất an toàn.
Tranh luận quanh Nvidia không chỉ liên quan đến tốc độ phát triển. Câu hỏi về trí tuệ nhân tạo mở hay đóng cũng cho thấy nhà cung cấp hạ tầng, nhà phát triển mô hình và cơ quan quản lý có thể theo đuổi những lợi ích khác nhau.
Thị trường chưa tạo đủ sức ép để doanh nghiệp tự điều chỉnh
Cạnh tranh thị trường khó buộc các công ty trí tuệ nhân tạo thay đổi nếu người dùng thiếu lựa chọn thay thế và khách hàng doanh nghiệp khó đổi nhà cung cấp chỉ vì bất đồng về nguyên tắc. Nguồn vốn đầu tư còn giúp các nhà cung cấp hấp thụ tổn thất khi một bộ phận người dùng rời đi.
Quy định và cạnh tranh chưa đủ tạo sức ép
Một lập luận phổ biến cho rằng quy định hiện hành kết hợp với cạnh tranh sẽ loại bỏ doanh nghiệp phát hành sản phẩm không an toàn. Sean O’Kane nhận định cách tiếp cận này có thể hợp lý trong một thị trường ít chịu áp lực bên ngoài. Tuy nhiên, nó khó vận hành trong hoàn cảnh được mô tả tại Hoa Kỳ.
Theo O’Kane, chính quyền liên bang Hoa Kỳ khi đó không thể hiện sự sốt sắng trong việc thực thi quy định nói chung. Điều này càng rõ với quy định riêng cho trí tuệ nhân tạo. Người tiêu dùng cũng không có nhiều lựa chọn đủ mạnh để buộc một nhà cung cấp thay đổi. Nếu một công ty gây ra sự cố nghiêm trọng, số lượt hủy dịch vụ chưa chắc tạo được tác động đáng kể.
Sức ép này càng yếu khi doanh thu chuyển sang khách hàng doanh nghiệp. Theo O’Kane, một công ty khó chuyển từ Codex của OpenAI sang Claude Code của Anthropic chỉ vì bất đồng về nguyên tắc với một quyết định của OpenAI. Nhận định này nói về mức độ gắn bó của khách hàng doanh nghiệp với nhà cung cấp, trong khi việc trí tuệ nhân tạo làm thay đổi hoạt động rà soát mã là một cuộc tranh luận riêng.
Nguồn vốn đầu tư lớn còn giúp các công ty hấp thụ tổn thất nếu người dùng rời đi. Vì vậy, cơ chế bỏ phiếu bằng ví tiền khó tạo ra mức kỷ luật mà lý thuyết thị trường tự do kỳ vọng.
Lời hứa chỉ có ý nghĩa khi có điều kiện dừng cụ thể
Để đánh giá một cam kết giảm tốc, bài viết này đặt ra các câu hỏi về cách đánh giá hệ thống, ý nghĩa cụ thể của việc phát triển chậm lại và cách các bên thực hiện cam kết. TechCrunch không xác nhận những cơ chế cụ thể, mà chỉ nhận xét rằng kế hoạch hiện tại thiếu chi tiết và còn nhiều điểm mơ hồ.
Cho đến khi các chi tiết đó xuất hiện, kế hoạch kiểm soát nhịp phát triển vẫn là một định hướng thay vì cơ chế ràng buộc. Sự đồng thuận giữa các lãnh đạo có thể mở đường cho tiêu chuẩn an toàn chung, nhưng lợi ích thương mại, quan hệ với chính quyền và sự phụ thuộc của khách hàng doanh nghiệp tiếp tục thúc đẩy cuộc đua theo hướng ngược lại.
Hãy tiếp tục theo dõi Sine để nhìn rõ cách các cam kết an toàn được chuyển thành quy tắc có thể kiểm chứng.
