Giám đốc điều hành Microsoft Satya Nadella cho rằng mô hình AI cần có một cơ chế giống như phanh khẩn cấp. Cơ chế này phải cho phép người có thẩm quyền tạm dừng hoặc tắt hệ thống giữa nhiệm vụ. Hệ thống cũng phải lưu lại bằng chứng chống sửa đổi về những hành động quan trọng của mô hình.
Theo TechCrunch, Nadella nêu quan điểm trên trong một bài đăng vào sáng thứ Bảy, ngày 10 tháng 10 năm 2026. Bài viết của TechCrunch được đăng lúc 2 giờ 47 phút chiều theo giờ ban ngày Thái Bình Dương.
Nội dung đề xuất phanh khẩn cấp cho mô hình AI
Nadella cho rằng con người không nên vận hành siêu trí tuệ như một chuỗi hộp đen lồng vào nhau. Trong cách vận hành đó, người dùng chỉ có thể chấp nhận hoặc bác bỏ đầu ra. Một cơ chế dừng độc lập giúp người có thẩm quyền can thiệp ngay cả khi mô hình đang thực hiện nhiệm vụ.
Theo Nadella, đã đến lúc đánh giá lại kiến trúc niềm tin của AI. Con người cần kiểm soát cách hệ thống đưa ra đề xuất, câu trả lời và hành động. Họ không nên phụ thuộc hoàn toàn vào những gì diễn ra bên trong mô hình. “Siêu trí tuệ” cũng là cách gọi được chính quyền Tổng thống Donald Trump ưu tiên khi nói về AI.
Các biện pháp kiểm soát nên nằm ngoài mô hình
Giải pháp được Nadella nêu ra bắt đầu bằng việc tách mô hình khỏi bộ điều phối công việc. Các biện pháp kiểm soát, bảo vệ và khoanh vùng cũng phải nằm bên ngoài mô hình để chúng vẫn hoạt động khi bản thân mô hình gặp sự cố hoặc bị xâm phạm.
Nadella nói các nhà phát triển nên giả định mô hình đã bị xâm phạm và thiết kế khả năng khoanh vùng ngay từ đầu. Ông ví cơ chế can thiệp độc lập này như một chiếc “phanh khẩn cấp”.
Hành động của AI cần để lại bằng chứng chống sửa đổi
Nadella đề nghị ghi lại mọi hành động quan trọng của mô hình dưới dạng con người có thể đọc. Những bản ghi này không thể bị âm thầm sửa đổi. Nhật ký này giúp người vận hành kiểm tra hệ thống đã làm gì, trong khi quyền tạm dừng hoặc tắt mô hình cho phép họ can thiệp giữa nhiệm vụ.
Đề xuất đặt câu hỏi AI nên được trao bao nhiêu quyền vào thiết kế hệ thống, thay vì chỉ xem đây là quyết định của người dùng cuối. Theo cách tiếp cận này, an toàn AI phụ thuộc vào kiến trúc kiểm soát bao quanh mô hình.
Đề xuất phản ánh mối lo về khả năng kiểm soát AI
Nhận định của Nadella xuất hiện khi các công ty AI hàng đầu công khai thảo luận nhiều hơn về những tình huống mà khả năng kiểm soát mô hình có thể suy giảm. Trước đó, Giám đốc điều hành Anthropic Dario Amodei cũng đã công bố kế hoạch phát triển AI thận trọng hơn.
Theo dõi Sine để cập nhật những thay đổi tiếp theo trong cách các hãng công nghệ kiểm soát và vận hành AI.
