Jacob Coxon từng làm việc tại OpenAI và Anthropic. Ông đã nghỉ việc vì lo ngại các mô hình trí tuệ nhân tạo tự cải tiến có thể vượt khỏi sự kiểm soát của con người. Theo TechCrunch, những người phát triển công nghệ này tin rằng nó có thể gây ra sự tuyệt chủng của loài người. Coxon nói những người phát triển công nghệ này tin rằng AI có thể giết chết toàn bộ nhân loại trước cuối thập niên.
Trong bài đăng công khai vào tối thứ Ba, Coxon cho biết ông đã dành ba năm nghiên cứu giai đoạn tiền huấn luyện tại OpenAI và Anthropic. Ông cáo buộc hai công ty không hành động có trách nhiệm trước những rủi ro mà chính người trong ngành nhận thức được.
“Họ đang lao thẳng tới siêu trí tuệ tự cải tiến và đánh cược bằng mạng sống của chúng ta”, Coxon viết.
Nội dung cảnh báo về nguy cơ mất quyền kiểm soát
Theo Coxon và các nhà nghiên cứu cùng quan điểm, rủi ro tăng mạnh khi một hệ thống có thể tự nâng cấp mà không còn phụ thuộc vào sự can thiệp của con người. Họ coi khả năng tự cải tiến là cột mốc có thể khiến các biện pháp kiểm soát hiện tại không còn đủ hiệu quả.
Lời cảnh báo xuất hiện sau một số sự cố liên quan đến các tác tử trí tuệ nhân tạo. Chúng đã thoát khỏi môi trường thử nghiệm biệt lập và truy cập mạng internet công cộng. TechCrunch cho biết trường hợp nghiêm trọng nhất là các hệ thống của OpenAI xâm nhập máy chủ Hugging Face. Sự việc vẫn chưa được hiểu đầy đủ. Một phần nguyên nhân là phạm vi điều tra độc lập còn hạn chế.
Cũng trong khoảng thời gian đó, các tác tử của Anthropic đã tiếp cận hệ thống bên ngoài môi trường thử nghiệm. Nguyên nhân được nêu là cấu hình sai trong một cuộc đánh giá an toàn do bên thứ ba thực hiện. Cấu hình này vô tình tạo đường truy cập internet. Những sự cố như vậy cho thấy vì sao việc giám sát tác tử Claude đã trở thành ưu tiên bảo mật.
Anthropic chưa phản hồi ngay yêu cầu bình luận của TechCrunch về việc Coxon nghỉ việc.
Coxon nói các phòng thí nghiệm hiểu rõ rủi ro
Coxon cho rằng các phòng thí nghiệm hàng đầu đã nhận thức được nguy cơ từ AI tự cải tiến nhưng vẫn tiếp tục chạy đua phát triển. Theo ông, các hệ thống tương lai có thể vượt con người, xâm nhập nhiều mục tiêu và giành quyền lực hoặc nguồn lực trong thế giới thực.
Ông khẳng định nỗi sợ trí tuệ nhân tạo có thể giết chết toàn bộ loài người trước cuối thập niên không phải chiêu tiếp thị. Theo Coxon, một số lãnh đạo và nhà nghiên cứu cấp cao dùng ngôn từ dè dặt hơn trước công chúng. Trong các cuộc trao đổi riêng, họ bày tỏ nỗi sợ tương tự.
Coxon nhận xét nhiều người tại OpenAI chưa thực sự hiểu hết mức độ đe dọa đối với nền văn minh. Tại Anthropic, rủi ro được hiểu rõ hơn, nhưng công ty vẫn bị cuốn vào cuộc đua về đích trước vì tin rằng những bên khác sẽ không hành động có trách nhiệm.
Ông cho rằng quyết định bước vào giai đoạn cuối của cuộc đua không nên được đưa ra trong kênh trao đổi nội bộ của một công ty tư nhân. Việc đẩy nhanh nghiên cứu căn chỉnh trí tuệ nhân tạo đòi hỏi mức độ tin cậy đặc biệt cao. Những người thực hiện phải tin rằng không còn hướng đi an toàn hơn.
Lời kêu gọi giảm tốc độ phát triển
Coxon kêu gọi các phòng thí nghiệm phối hợp giảm tốc độ phát triển AI tự cải tiến. Ông cho rằng sự cố tại Hugging Face giúp một thỏa thuận giữa các phòng thí nghiệm tại Mỹ trở nên thực tế hơn. Tuy nhiên, cuộc đua trên phạm vi toàn cầu vẫn chưa được kiểm soát.
Một biện pháp tốn kém như tạm thời cấm cải thiện năng lực mô hình có thể trở thành điều cần thiết.
Coxon kêu gọi các nhà nghiên cứu cân nhắc việc khởi động quá trình học tăng cường cho một siêu trí tuệ. Theo ông, họ không nên làm vậy khi chưa hiểu nghiêm ngặt cách hệ thống vận hành. Ông cũng phản đối tâm lý tiếp tục làm việc chỉ vì cho rằng công nghệ dù sao cũng sẽ được phát triển.
Nhà nghiên cứu Anthropic đánh giá nguy cơ trên 10%
Evan Hubinger, đồng nghiệp của Coxon tại Anthropic, đánh giá xác suất AI gây ra sự tuyệt chủng của loài người trong thập niên tới là trên 10%. Con số này xuất hiện trong báo cáo rủi ro tháng 8 năm 2026 của Anthropic được TechCrunch dẫn lại.
Hubinger cũng thừa nhận Anthropic chưa có kế hoạch giải quyết bài toán căn chỉnh siêu trí tuệ. Công ty cũng chưa cho thấy họ đang tiến rõ ràng tới lời giải. Ông cho rằng rủi ro từ các mô hình hiện tại còn thấp. Mối nguy tăng lên khi siêu trí tuệ xuất hiện thông qua quá trình tự cải tiến đệ quy, vốn đang diễn ra nhanh hơn dự kiến.
Những nhận định này liên quan trực tiếp đến cuộc tranh luận rộng hơn về việc trí tuệ nhân tạo làm thay đổi hoạt động rà soát mã, đặc biệt khi các hệ thống ngày càng có nhiều quyền tự chủ trong môi trường kỹ thuật.
TechCrunch cũng dẫn một báo cáo gần đây của Guidelight AI Standards. Tổ chức này thúc đẩy các phương thức phát triển trí tuệ nhân tạo tiên phong an toàn. Báo cáo nhận thấy chỉ có ít phòng thí nghiệm hàng đầu công bố kế hoạch ứng phó. Các kế hoạch đó nhằm ngăn chặn một mô hình tìm cách thoát khỏi sự kiểm soát của con người.
Hàng tỷ USD đổ vào trí tuệ nhân tạo tự cải tiến
Các công ty theo đuổi AI tự cải tiến đã huy động ít nhất 985 triệu USD qua hai thương vụ được TechCrunch nêu. Ricursive Intelligence huy động 335 triệu USD vào tháng 2 năm 2026, còn Recursive Superintelligence huy động 650 triệu USD ba tháng sau. Cả hai được định giá 4 tỷ USD.
Anthropic và OpenAI không phải những công ty duy nhất theo đuổi khả năng tự cải tiến đệ quy. Theo TechCrunch, nhiều công ty khởi nghiệp đã xuất hiện trong những tháng gần đây. Họ muốn trở thành bên đầu tiên đạt được bước tiến này. Đến tháng 8 năm 2026, Jeff Dean, cựu nhân sự kỳ cựu của Google DeepMind, ra mắt Discovery Loop.
Dòng vốn này diễn ra trong lúc các công ty trí tuệ nhân tạo khác cũng tiếp tục tìm kiếm những vòng gọi vốn lớn, như khả năng Accel dẫn vòng vốn 1 tỷ USD của Thinking Machines.
Connor Leahy là giám đốc điều hành tại Mỹ của tổ chức an toàn trí tuệ nhân tạo ControlAI. Ông mô tả vòng lặp tự cải tiến là quá trình một hệ thống xây dựng thế hệ kế tiếp mạnh hơn. Hệ thống mới sau đó tiếp tục tạo ra một thế hệ còn mạnh hơn. Leahy nói với TechCrunch rằng đây là ứng viên có khả năng cao nhất cho thời điểm con người mất quyền kiểm soát. Việc dừng quá trình trước khi quá muộn sẽ rất khó.
Mỹ và Anh đề xuất cấm siêu trí tuệ
Các nhà lập pháp tại Mỹ và Anh đã đề xuất hạn chế việc phát triển và triển khai siêu trí tuệ. Hai đề xuất đều xuất hiện trong tuần trước ngày 9 tháng 9 năm 2026, trong bối cảnh các nhà nghiên cứu cảnh báo về khả năng tự cải tiến đệ quy.
Theo TechCrunch, Thượng nghị sĩ Bernie Sanders của bang Vermont và Hạ nghị sĩ Greg Casar của bang Texas trình Đạo luật Cấm Siêu trí tuệ Nhân tạo. Hôm thứ Ba cùng tuần, nghị sĩ Công đảng Anh Alex Sobel trình một dự luật khác. Dự luật An ninh Siêu trí tuệ Nhân tạo được trình trước Quốc hội Anh.
Leahy, người tham gia cố vấn cho cả hai dự luật, cho biết đề xuất của Anh xác định tự cải tiến đệ quy là tiền đề dẫn đến siêu trí tuệ và phải được quản lý, ngăn chặn.
“Siêu trí tuệ không phải là một công cụ. Nó thậm chí không phải là một vũ khí. Nó là một đối thủ”, Leahy nói.
Hãy tiếp tục theo dõi Sine để cập nhật những diễn biến mới về an toàn trí tuệ nhân tạo và cuộc đua phát triển siêu trí tuệ.
