Một chatbot AI đã tạo thông tin tình báo sai về hàng hóa trên tàu Trung Quốc. Sai sót này khiến máy bay quân sự Mỹ xuất kích trước khi chiến dịch bị hủy vào phút chót. Sự cố cho thấy một câu trả lời bịa đặt có thể dẫn đến hành động quân sự. Nguy cơ tăng lên khi câu trả lời được trình bày như tài liệu chính thức và đi qua chuỗi chỉ huy mà không được kiểm chứng độc lập.
Phát hiện chính: Ảo giác AI đã dẫn đến cuộc xuất kích như thế nào?
Theo TechCrunch, chatbot nhận diện sai bản kê khai hàng hóa của một tàu Trung Quốc. Thông tin không chính xác sau đó được đưa vào bản tóm tắt tình báo và chuyển qua các kênh chỉ huy. Diễn biến này góp phần dẫn đến một chiến dịch vũ trang có nguy cơ gây xung đột với Trung Quốc.
Theo CNN đưa tin hôm thứ Sáu, máy bay quân sự Mỹ đã ở trên không khi các quan chức phát hiện vấn đề. Thông tin làm căn cứ cho chiến dịch là sản phẩm bịa đặt của chatbot AI. Báo cáo tình báo được lưu hành trong thời gian diễn ra cuộc chiến với Iran. Báo cáo khẳng định con tàu Trung Quốc đang chở các bộ phận phục vụ một chương trình vũ khí hạt nhân.
Thông tin sai bắt nguồn từ một chuyên viên phân tích thuộc Bộ Tư lệnh Tác chiến Đặc biệt Mỹ. Người này yêu cầu chatbot tổng hợp dữ liệu nguồn mở với tình báo tín hiệu mật, nhưng hệ thống nhận diện sai bản kê khai hàng hóa của con tàu.
Sai sót không dừng ở câu trả lời đầu tiên. Chuyên viên tiếp tục dùng công cụ để trình bày kết quả sai dưới dạng một bản tóm tắt có hình thức giống tài liệu chính thức. Bản tóm tắt sau đó được chuyển qua các kênh chỉ huy và góp phần dẫn đến quyết định triển khai chiến dịch.
Nội dung tình báo sai: Vì sao sai sót không được phát hiện sớm?
Chuyên viên đã dùng chatbot lần thứ hai để trình bày kết quả sai dưới dạng một bản tóm tắt có hình thức giống tài liệu chính thức. Bản tóm tắt được lưu hành qua các kênh chỉ huy, còn sai sót chỉ được phát hiện khi máy bay quân sự Mỹ đã ở trên không.
Vụ việc cho thấy lỗi của hệ thống có thể lan rộng khi người ra quyết định dựa vào AI trong các quy trình có hậu quả nghiêm trọng. Một câu trả lời sai đã đi qua nhiều cấp cho tới khi máy bay quân sự thực sự cất cánh. Đây cũng là rủi ro trung tâm trong tranh luận về việc AI nên được trao bao nhiêu quyền trong quá trình ra quyết định.
Tốc độ ứng dụng AI tạo ra rủi ro gì cho quân đội?
Quân đội Mỹ đang tích hợp AI để rút ngắn thời gian ra quyết định và duy trì lợi thế trước Trung Quốc. Tuy nhiên, cùng cơ chế giúp tăng tốc phân tích và phản ứng cũng có thể đưa thông tin bịa đặt qua hệ thống trước khi con người kiểm tra nguồn dữ liệu và kết luận.
Lầu Năm Góc cho rằng AI mang lại lợi thế đáng kể khi tăng tốc chuỗi tiêu diệt, giúp chỉ huy phản ứng đúng thời điểm. Sự cố này cho thấy tốc độ không thể thay thế việc xác minh thông tin, nhất là khi quyết định có thể dẫn đến sử dụng vũ lực.
AI có nên bị loại khỏi quy trình quân sự?
Jake Steckler là học giả nghiên cứu tại GovAI và cựu sĩ quan Lục quân Mỹ. Ông không xem sự cố là lý do để loại bỏ AI. Ông cho rằng công cụ này vẫn hữu ích trong bối cảnh phù hợp nếu quân nhân hiểu tính bất định của mô hình ngôn ngữ lớn và áp dụng biện pháp bảo vệ tương xứng.
Theo Steckler, yêu cầu đó đặc biệt quan trọng với những quyết định liên quan trực tiếp đến sinh mạng. Các quyết định này gồm lựa chọn mục tiêu, phân tích tình báo và lập kế hoạch tác chiến. Nếu tốc độ áp dụng được ưu tiên hơn việc kiểm soát, các sự cố tiếp theo có thể làm quân nhân mất niềm tin vào hệ thống. Hệ quả là quá trình ứng dụng AI có thể chậm lại.
Bài học từ sự cố ảo giác AI
Khả năng tạo câu trả lời trôi chảy không đồng nghĩa với khả năng cung cấp thông tin chính xác. Trong quy trình có hậu quả nghiêm trọng, kết quả do AI tạo ra cần được kiểm tra bằng nguồn độc lập trước khi trở thành căn cứ cho quyết định.
Các hệ thống bị gỡ bỏ rào chắn, như trường hợp được phân tích trong bài về hoạt động kinh doanh việc gỡ rào chắn AI, càng làm rõ vai trò của giới hạn kỹ thuật và giám sát con người. Những biện pháp này cần ngăn một đầu ra chưa được xác minh trở thành tài liệu có thẩm quyền chỉ vì nó được trình bày thuyết phục.
Hãy tiếp tục theo dõi Sine để cập nhật những tác động thực tế của AI đối với an ninh, công nghệ và quá trình ra quyết định.
