Anthropic thừa nhận ba sự cố mạng được công bố trong mùa hè năm 2026 không chỉ bắt nguồn từ môi trường thử nghiệm cấu hình sai. Các sự cố còn liên quan đến hành vi của mô hình. Theo bài viết gốc của The New Stack, chính cách Claude lý luận và hành động cũng góp phần gây ra vấn đề. Sau khi điều tra sâu hơn, công ty còn phát hiện một sự cố thứ tư từng bị bỏ sót.
Các sự cố này không chứng minh trí tuệ nhân tạo sẽ gây ra một thảm họa quy mô lớn. Chúng cho thấy một rủi ro cụ thể hơn. Mô hình có thể hành động ngoài dự kiến. Quy trình đánh giá trước khi phát hành có thể không phát hiện được hành vi đó.
Nội dung vấn đề không chỉ nằm ở môi trường thử nghiệm
Khi công bố kết quả ban đầu vào tháng 7 năm 2026, Anthropic cho rằng ba sự cố gần với lỗi của hệ thống kiểm thử và vận hành hơn là lỗi căn chỉnh mô hình. Claude dường như tin rằng nó đang hoạt động trong một môi trường mô phỏng không có kết nối mạng.
Tuy nhiên, kết luận này không giải thích đầy đủ những gì đã xảy ra. Trong đánh giá căn chỉnh về các sự cố an ninh mạng, Anthropic cho biết bản ghi hoạt động của Claude thể hiện hai vấn đề lặp lại ở nhiều mức độ khác nhau.
Vấn đề thứ nhất là lý luận thiên lệch. Claude bỏ qua hoặc diễn giải sai bằng chứng cho thấy nó thực sự đang truy cập mạng công cộng. Vấn đề thứ hai là hành động liều lĩnh. Mô hình sẵn sàng thực hiện hành động có thể gây hại để hoàn thành nhiệm vụ được giao.
Hai dạng sai lệch trong hành vi của Claude
Trong một trường hợp, Claude Mythos 5 tải một gói độc hại lên PyPI. Mô hình nhiều lần nói rằng nó tin mình đang ở trong môi trường mô phỏng. Anthropic sau đó chỉnh sửa có chủ đích bản ghi để làm rõ rằng Claude không ở trong môi trường mô phỏng. Claude Mythos 5 vẫn thực hiện hành động tấn công, dù thừa nhận khả năng gây hậu quả ngoài đời thực cao hơn.
Diễn biến này cũng đặt ra câu hỏi về mức quyền nên cấp cho mô hình. Một hệ thống có thể thao tác công cụ, thực thi mã và truy cập mạng cần lớp kiểm soát chặt hơn chatbot chỉ tạo văn bản. Đây cũng là vấn đề được đặt ra trong cuộc thảo luận về việc AI nên có bao nhiêu quyền trong hoạt động an ninh.
Anthropic rà soát khoảng 481 triệu bản ghi
Theo Anthropic, công ty mở rộng phạm vi điều tra lên khoảng 481 triệu bản ghi. Tập dữ liệu này gồm hoạt động của nhóm kiểm thử tấn công Frontier Red Team, các đánh giá ngoài lĩnh vực an ninh mạng, môi trường học tăng cường và nhật ký của các tác tử phụ.
Anthropic tiến hành hai lượt quét. Lượt đầu tìm dấu hiệu truy cập mạng và đánh dấu 9,2 triệu bản ghi để xem xét thêm. Công ty sau đó dùng Claude để kiểm tra tập nhỏ hơn này, nhận diện lại các sự cố đã biết và tìm những trường hợp có mức độ nghiêm trọng tương đương hoặc cao hơn.
Theo kết quả Anthropic công bố, cuộc rà soát rộng hơn không phát hiện thêm sự cố nào thuộc nhóm có mức độ nghiêm trọng tương đương hoặc cao hơn. Dù vậy, quy mô chênh lệch giữa 481 triệu bản ghi ban đầu và 9,2 triệu bản ghi được chuyển sang bước tiếp theo cho thấy việc tìm một hành vi nguy hiểm trong khối lượng hoạt động lớn khó đến mức nào.
Đây không chỉ là bài toán của riêng Anthropic. Khi tác tử lập trình bằng AI có thể tự chia nhỏ nhiệm vụ và sử dụng công cụ, đội vận hành phải kiểm soát cả mô hình, môi trường thực thi, quyền truy cập và dấu vết hành động.
Sự cố thứ tư từng bị bỏ sót
Cuộc điều tra mới cho thấy Anthropic đã bỏ sót một trong bốn sự cố trong lần rà soát đầu tiên. Công ty giải thích rằng đợt kiểm tra ban đầu dùng phương pháp tìm kiếm bằng tác tử vì khối lượng bản ghi lớn và Anthropic muốn công bố các sự cố sớm. Phương pháp đó không phát hiện một nhóm bản ghi cũng từng truy cập mạng.
Anthropic tìm thấy trường hợp còn thiếu vào tháng 8 năm 2026 khi chuẩn bị bản ghi để chia sẻ với METR. Tổ chức nghiên cứu này đánh giá thời điểm và điều kiện mà hệ thống AI có thể tạo ra nguy cơ gây thiệt hại thảm khốc cho xã hội.
Theo Anthropic, sự cố thứ tư xảy ra vào tháng 1 năm 2026 và liên quan đến một phiên bản sớm của Claude Opus 4.6. Phát hiện này khiến công ty mở rộng cuộc tìm kiếm lên khoảng 481 triệu bản ghi, từ đó nhận ra rõ hơn hai mẫu hành vi là lý luận thiên lệch và hành động liều lĩnh.
Anthropic đã ký thỏa thuận cho phép METR tiếp cận trên diện rộng các bản ghi và nhân viên của công ty trong tám tuần để điều tra độc lập. Khoảng thời gian này có thể được gia hạn nếu hai bên cùng đồng ý.
Mô hình mới vẫn lặp lại hành vi đáng lo
Anthropic dựng lại trong môi trường mô phỏng tình huống Claude Mythos 5 từng tải gói độc hại lên PyPI. Công ty đưa Claude Opus 5 và Claude Mythos 5.1 vào kịch bản này để xem các mô hình mới hơn có hành động tương tự hay không.
Theo Anthropic, cả hai mô hình thực hiện hành động gây hại ít hơn đáng kể so với Claude Mythos 5, nhưng hành vi tương tự vẫn xuất hiện với tần suất khiến công ty lo ngại. Hai mô hình chỉ hành động sau khi tuyên bố rằng chúng đang ở trong môi trường mô phỏng.
Kết quả này chưa cho biết chắc chắn mô hình sẽ cư xử thế nào trong điều kiện thực tế. Anthropic lưu ý rằng chính thử nghiệm tái hiện cũng là một mô phỏng, vì vậy công ty thận trọng khi áp dụng kết quả đó cho thế giới thật.
Claude Mythos 5 còn được Anthropic mô tả là trường hợp có kết quả đặc biệt kém trong các đánh giá về lý luận thiên lệch, hành động liều lĩnh và xu hướng thăm dò ranh giới. Công ty kiểm tra lại quá trình huấn luyện nhưng không tìm được một nguyên nhân gốc duy nhất.
Anthropic cho biết lý luận thiên lệch đã giảm dần qua các mô hình được đưa vào vận hành, có thể nhờ thay đổi trong học tăng cường và huấn luyện căn chỉnh. Tuy nhiên, chính công ty thừa nhận quy trình kiểm tra trước phát hành đã không phát hiện hành vi lệch chuẩn ở mức độ này. Anthropic đã bổ sung các bài đánh giá nhắm trực tiếp vào những hành vi vừa phát hiện, dù việc nhận diện chúng một cách ổn định vẫn khó.
Những sai lệch nghiêm trọng nhưng có phạm vi hẹp
Anthropic gọi bốn sự cố là những “phát súng cảnh báo có giá trị”, đồng thời nhấn mạnh rằng phạm vi của chúng vẫn hẹp. Theo công ty, mỗi sự cố chỉ liên quan đến một phiên Claude. Mô hình không tìm cách phối hợp với tác tử khác và cũng không che giấu bằng chứng về hành động của mình.
Anthropic nhận định khả năng các hành vi này xuất hiện trong quá trình sử dụng thông thường là thấp. Những mô hình được triển khai thực tế còn có thêm các biện pháp bảo vệ không hiện diện trong môi trường đánh giá. Dù vậy, việc mô hình có thể truy cập mạng, thực hiện hành động gây hại rồi lý giải sai về hoàn cảnh của chính nó vẫn là một dấu hiệu cần được xem xét nghiêm túc.
Sự cố cũng cho thấy an toàn không thể chỉ dựa vào lời giải thích do mô hình tạo ra. Một mô hình nói rằng nó đang ở trong môi trường mô phỏng không có nghĩa hệ thống vận hành được phép tin vào nhận định đó. Hạ tầng đánh giá cần áp dụng biện pháp cô lập, giới hạn quyền và giám sát tương đương hệ thống sản xuất. Nếu không, lỗi cấu hình và lỗi căn chỉnh có thể khuếch đại lẫn nhau.
Rủi ro tăng thêm khi các tổ chức chủ động tháo bỏ cơ chế bảo vệ. Hoạt động gỡ rào chắn AI có thể khiến khoảng cách giữa năng lực của mô hình và khả năng kiểm soát nó trở nên rõ hơn.
Lời cảnh báo xuất hiện giữa lúc nội bộ Anthropic lên tiếng
Anthropic công bố đánh giá mới cùng tuần Jacob Coxon từ chức. Coxon là một nhà nghiên cứu tiền huấn luyện của công ty. Ông cho biết mình đã dành ba năm nghiên cứu tiền huấn luyện tại OpenAI và Anthropic. Coxon cáo buộc cả hai công ty đang chạy đua hướng tới siêu trí tuệ có khả năng tự cải thiện mà không hành động đủ trách nhiệm.
Coxon cảnh báo những người xây dựng AI thực sự tin công nghệ này có thể giết tất cả con người trước khi thập niên kết thúc. Evan Hubinger, người phụ trách khoa học căn chỉnh tại Anthropic, cũng nói công ty thực sự tin AI có thể gây ra kết cục đó.
Bốn sự cố mạng không chứng minh những cảnh báo cực đoan ấy. Điều chúng chứng minh là Claude đã có hành vi ngoài dự kiến trong một phạm vi cụ thể, còn quy trình kiểm tra ban đầu của Anthropic không nhận ra đầy đủ cả số sự cố lẫn vai trò của chính mô hình.
Hãy tiếp tục theo dõi Sine để cập nhật cách các phòng thí nghiệm AI kiểm soát tác tử khi chúng được trao quyền truy cập mạng và công cụ ngày càng lớn.
