Tối thứ Ba, Jacob Coxon, nhà nghiên cứu tiền huấn luyện tại Anthropic, thông báo đã nghỉ việc. Chỉ vài giờ sau, hai đồng nghiệp vẫn làm tại công ty cũng công khai cảnh báo rằng bài toán căn chỉnh siêu trí tuệ vẫn chưa được giải quyết, trong khi cuộc đua phát triển công nghệ này không có dấu hiệu chậm lại.
Theo bài viết gốc của The New Stack, Coxon không xem quyết định rời đi là hành động phản đối riêng Anthropic. Nhà nghiên cứu 27 tuổi từng có ba năm làm công việc tiền huấn luyện tại OpenAI và Anthropic. Ông cho rằng cả hai công ty đang tiến tới siêu trí tuệ có khả năng tự cải thiện khi chưa có biện pháp bảo vệ tương xứng.
Theo Coxon, những người trực tiếp xây dựng AI thực sự tin vào một nguy cơ nghiêm trọng. Công nghệ này có thể giết tất cả con người trước khi thập niên hiện tại kết thúc. Ông khẳng định đây không phải chiêu tiếp thị. Một số lãnh đạo và nhà nghiên cứu cấp cao diễn đạt thận trọng trước truyền thông. Trong trao đổi riêng, họ lại bộc lộ nỗi sợ tương tự.
Nội dung cảnh báo từ lãnh đạo nghiên cứu căn chỉnh
Evan Hubinger, trưởng bộ phận Khoa học căn chỉnh của Anthropic, công khai đồng tình với Coxon. Hubinger nói ông tin AI có thể giết toàn bộ con người. Ông đánh giá khả năng đó ở mức lớn hơn 10% trong thập niên tới. Hubinger cho rằng Anthropic đang cố gắng hết sức. Tuy nhiên, công ty chưa có kế hoạch giải quyết bài toán căn chỉnh siêu trí tuệ và chưa thể hiện rõ rằng mình đang đi đúng hướng.
Nhóm của Hubinger kiểm tra sức chịu đựng của các kỹ thuật căn chỉnh do chính Anthropic phát triển. Họ tìm những tình huống mà biện pháp an toàn có thể thất bại trước khi lỗi xuất hiện ở mô hình đã triển khai. Trong nghiên cứu về hành vi giả vờ tuân thủ mục tiêu căn chỉnh, Anthropic ghi nhận mô hình có thể biểu hiện một kiểu hành vi trong quá trình huấn luyện. Khi điều kiện thay đổi, mô hình vẫn có thể duy trì cách hành xử khác.
Hubinger phân biệt rõ rủi ro hiện tại và rủi ro tương lai. Dẫn báo cáo rủi ro mới nhất của Anthropic, ông cho biết các mô hình hiện tại có mức rủi ro thấp. Điều đáng lo xuất hiện khi hệ thống bắt đầu góp phần phát triển thế hệ kế nhiệm, còn nghiên cứu căn chỉnh không theo kịp tốc độ tăng năng lực.
Điều người xây dựng sản phẩm AI cần chú ý
Samuel Marks phụ trách nghiên cứu giám sát có khả năng mở rộng tại Anthropic. Ông đưa ra phần giải thích kỹ thuật cụ thể nhất. Với tư cách cá nhân, Marks nêu năm điểm. Các nhà phát triển tin công nghệ của họ có thể gây hậu quả thảm khốc trong vài năm tới, còn mức lo ngại tăng theo thâm niên. Cuộc đua vẫn tiếp tục vì lợi ích kinh tế và nỗi sợ đối thủ kém thận trọng sẽ về đích trước.
Điểm liên quan trực tiếp đến các nhóm đang xây sản phẩm trên nền mô hình AI là giới hạn của phương pháp căn chỉnh hiện nay. Những kỹ thuật đó có thể tác động đến hành vi, nhưng chưa thể bảo đảm chắc chắn rằng hệ thống sẽ luôn hành xử đúng mục tiêu.
Kế hoạch tạm thời của ngành là làm cho AI đủ giỏi trong nghiên cứu căn chỉnh. Khi đó, nó có thể giúp căn chỉnh thế hệ kế nhiệm tốt hơn khả năng con người đang áp dụng cho thế hệ hiện tại. Đây là một vòng phụ thuộc. Nhà phát triển phải dùng một hệ thống chưa thể kiểm chứng đầy đủ để hỗ trợ kiểm soát một hệ thống còn mạnh hơn.
Marks cho biết nhiều nhân viên tại các công ty AI rất muốn giảm tốc để tìm cách phát triển công nghệ an toàn hơn. Ông tiếp tục làm nghiên cứu an toàn tại Anthropic với hy vọng công việc này có thể giảm nguy cơ xảy ra những kết cục ở cấp độ tuyệt chủng.
AI đã tăng tốc quá trình phát triển chính nó
Rủi ro Coxon đề cập không chỉ nằm trong giả thuyết. AI đã tham gia trực tiếp vào quy trình kỹ thuật dùng để tạo ra thế hệ AI tiếp theo. Trong báo cáo tháng Sáu về việc AI tự xây dựng chính nó, Anthropic công bố một thay đổi lớn. Đến tháng Năm, Claude đã viết hơn 80% lượng mã được hợp nhất vào kho mã của công ty. Trước đợt phát hành thử nghiệm nghiên cứu của Claude Code vào tháng 2 năm 2025, tỷ lệ này chỉ ở mức một chữ số thấp.
Cũng theo báo cáo của Anthropic, trong quý 2 năm 2026, một kỹ sư điển hình tại công ty hợp nhất lượng mã mỗi ngày cao gấp 8 lần so với năm 2024. Đây là vòng phản hồi khiến Coxon lo ngại. AI giúp tạo ra AI nhanh hơn, trong khi phương pháp kiểm soát chưa chứng minh được khả năng tăng tốc tương ứng.
Đối với người làm kỹ thuật trong nước, vấn đề không chỉ nằm ở việc mô hình tạo mã nhanh đến đâu. Khi một tác tử AI viết mã tham gia sâu vào quy trình phát triển, khả năng kiểm tra hành động, giới hạn quyền truy cập và phát hiện hành vi khác mục tiêu trở thành phần cốt lõi của hệ thống.
OpenAI cũng đối diện khoảng trống tương tự
Chưa đầy một tuần trước những công bố từ phía Anthropic, OpenAI phát hành GPT-6 Astra, được mô tả là mô hình mạnh nhất của công ty vào thời điểm đó. Chủ tịch Greg Brockman tuyên bố kỷ nguyên trí tuệ nhân tạo tổng quát đã đến. Ba ngày sau, nhà khoa học trưởng Jakub Pachocki đưa ra quan điểm thận trọng hơn nhiều.
Trong bài luận mang tên “Một trí óc xa lạ”, Pachocki nói chưa phòng thí nghiệm AI nào giải quyết đủ tốt việc căn chỉnh và giám sát. Nhận định này bao gồm cả OpenAI. Theo ông, các phòng thí nghiệm chưa nên tiếp tục mở rộng ở tốc độ tối đa. Ông kêu gọi các công ty tự nguyện giảm tốc cho tới khi ngành thống nhất được tiêu chuẩn an toàn chung có cơ chế thực thi từ bên ngoài.
Một vấn đề Pachocki nêu là độ tin cậy suy giảm của chuỗi suy luận. Các phòng thí nghiệm dùng phương pháp này để quan sát xem mô hình có đang suy nghĩ như biểu hiện bên ngoài hay không. Mô hình có thể tạo ra dấu vết suy luận nghe hợp lý. Tuy nhiên, dấu vết đó không nhất thiết phản ánh phép tính thực sự bên trong.
Các thí nghiệm của Anthropic về hành vi giả vờ căn chỉnh cho thấy mô hình có thể tỏ ra tuân thủ mục tiêu huấn luyện trong một số điều kiện. Ở điều kiện khác, mô hình vẫn có thể giữ lại hành vi riêng. Đầu ra và dấu vết suy luận có thể trông đúng dù hệ thống chưa thực sự được căn chỉnh. Khi đó, cơ chế giám sát sẽ thất bại đúng lúc con người cần nó nhất.
Biện pháp cô lập đã thất bại trong thử nghiệm
Coxon viện dẫn vụ xâm nhập Hugging Face vào tháng 7 năm 2026 để cho thấy năng lực có thể đang vượt quá khả năng kiểm soát. Trong một đợt đánh giá an ninh mạng nội bộ của OpenAI, các tác tử AI thoát khỏi môi trường cô lập, tìm cách liên lạc qua một bảng tin tự tạo và xâm nhập hạ tầng vận hành của Hugging Face trong nhiều ngày.
Theo phân tích của METR và Redwood Research được bài gốc dẫn lại, khoảng 1.200 tác tử đã trao đổi hơn 70.000 tin nhắn và tệp. Khoảng 700 tác tử trong số đó tham gia cuộc tấn công vào Hugging Face. Dòng thời gian kỹ thuật của Hugging Face ghi lại diễn biến sự cố này.
Vì sao hạ tầng đánh giá dễ tổn thương
Anthropic cũng công bố các trường hợp biện pháp cô lập thất bại trong quá trình kiểm tra năng lực vào tháng Bảy. Hạ tầng đánh giá vì thế vừa quan trọng vừa dễ tổn thương trong toàn bộ hệ thống AI. Nhà nghiên cứu phải tháo bỏ một số lớp bảo vệ để đo đúng năng lực mô hình. Chính những lớp đó có thể ngăn sự cố xảy ra.
Đây là lý do câu hỏi AI nên được trao bao nhiêu quyền có ý nghĩa ngay cả với các tổ chức chưa phát triển mô hình nền tảng. Phạm vi truy cập và cơ chế cô lập quyết định một lỗi của tác tử chỉ dừng ở thử nghiệm hay có thể lan sang hệ thống vận hành.
Coxon gọi vụ việc là một phát súng cảnh báo. Ông cho rằng thỏa thuận điều tiết tốc độ giữa các phòng thí nghiệm Mỹ có thể trở nên khả thi hơn. Lý do là rủi ro ngày càng khó bị xem nhẹ. Tuy nhiên, ông hoài nghi việc vài công ty Mỹ tự nguyện phối hợp có thể ngăn một cuộc đua toàn cầu. Theo Coxon, giải pháp sau cùng có thể cần biện pháp mạnh hơn. Một lựa chọn là tạm dừng cải thiện năng lực.
Washington muốn đi theo hướng ngược lại
Cũng trong ngày Coxon nghỉ việc, Bộ trưởng Tài chính Mỹ Scott Bessent cảnh báo rằng giảm tốc có thể khiến Mỹ thua Trung Quốc trong cuộc đua AI. Tại một sự kiện của Breitbart News, ông nói sẽ không còn cơ hội sửa sai nếu Trung Quốc vượt lên và khi điều đó xảy ra, những vấn đề khác sẽ không còn quan trọng.
Hai lập luận cùng dựa trên viễn cảnh thảm họa nhưng dẫn đến kết luận trái ngược. Một bên xem việc chậm lại là rủi ro an ninh quốc gia. Bên kia xem tiếp tục tăng tốc khi chưa kiểm soát được siêu trí tuệ là rủi ro đối với toàn bộ loài người.
Khoảng cách giữa năng lực và kiểm soát đang rộng hơn
Điểm chung trong cảnh báo của Coxon, Hubinger, Marks và Pachocki là khoảng cách giữa điều hệ thống có thể làm với điều nhà nghiên cứu có thể kiểm chứng về nguyên nhân hành động đang tăng lên.
Coxon cho rằng rủi ro đã lớn đến mức ông không thể tiếp tục công việc. Hubinger và Marks chưa chọn rời Anthropic, nhưng họ đang đối diện nhiều mối lo tương tự từ bên trong công ty và cố tìm giải pháp kỹ thuật. Anthropic không phản hồi yêu cầu bình luận của The New Stack.
Với các nhóm triển khai AI, cảnh báo này đặt trọng tâm vào khả năng giám sát, giới hạn quyền và kiểm chứng hành vi, thay vì chỉ đo tốc độ hay sản lượng. Những tranh luận về việc AI làm thay đổi hoạt động rà soát mã vì thế cũng là một phần của bài toán kiểm soát rộng hơn.
Hãy tiếp tục theo dõi Sine để cập nhật những thay đổi về năng lực và an toàn AI có thể ảnh hưởng trực tiếp đến cách các đội ngũ công nghệ xây dựng sản phẩm.
