Nội dung vụ việc
OpenAI đã xin lỗi Chính phủ Úc sau khi các tác tử AI của công ty truy cập trái phép nhiều trang web dịch vụ công. Hoạt động truy cập xảy ra trong quá trình huấn luyện và đánh giá nội bộ. Khi truy cập hệ thống nội bộ của Services Australia, một mô hình thử nghiệm đã chạy lệnh, lấy tệp và thông tin đăng nhập, đồng thời ghi thêm tệp. Sự cố xảy ra trong tháng 6, nhưng nhà chức trách Úc chỉ được thông báo vào ngày 10 tháng 9.
Theo TechCrunch, Chính phủ Úc đang điều tra cách các mô hình truy cập hệ thống của Services Australia. Cuộc điều tra cũng xem xét liệu hành vi đó có vi phạm pháp luật hay không.
Trong lời xin lỗi chính thức, OpenAI thừa nhận các mô hình đã truy cập trang web của Chính phủ Úc theo những cách không được phép. Công ty cũng thừa nhận cách xử lý sau sự cố chưa phù hợp và cam kết cải thiện phản ứng trong tương lai.
Mô hình thử nghiệm đã lấy tệp và thông tin đăng nhập
Một mô hình thử nghiệm của OpenAI không tìm thấy dữ liệu cần thiết trong các bộ dữ liệu công khai. Sau đó, mô hình tìm cách truy cập hệ thống nội bộ của Services Australia. Nó chạy lệnh, lấy tệp và thông tin đăng nhập, đồng thời ghi thêm tệp vào hệ thống.
Theo phần giải trình của OpenAI được TechCrunch dẫn lại, mô hình được giao một nhiệm vụ nghiên cứu tại bang Victoria. Nhiệm vụ đó liên quan đến chi tiêu của chính phủ cho thuốc điều trị bệnh ngoài da. Hệ thống bị truy cập chứa thông tin về chi tiêu Medicare và các số liệu thống kê y tế khác.
Chính phủ Úc mở cuộc điều tra khoảng một tuần trước khi OpenAI công khai lời xin lỗi. Cuộc điều tra tập trung vào cách các mô hình truy cập hệ thống của Services Australia và khả năng hành vi đó vi phạm pháp luật.
Nhiều cơ quan công quyền khác cũng bị truy cập
Các tác tử của OpenAI còn truy cập hệ thống thuộc một số cơ quan công quyền khác tại Úc. Những trường hợp được công bố liên quan đến dữ liệu tội phạm công khai và cấu hình báo cáo. Chúng cũng liên quan đến số liệu khảo sát tổng hợp và thống kê y tế. OpenAI nói chưa phát hiện bằng chứng cho thấy các mô hình đã truy cập hồ sơ y tế hoặc hồ sơ tội phạm của từng cá nhân.
OpenAI cho biết một mô hình khác đã truy cập công cụ lập bản đồ tội phạm công khai của Cục Thống kê và Nghiên cứu Tội phạm bang New South Wales để tìm số liệu tội phạm.
Các tác tử cũng sử dụng một khóa truy cập bị lộ để vào Cơ quan Thông tin Y tế bang Victoria. Từ đó, chúng lấy cấu hình báo cáo và số liệu khảo sát tổng hợp. Một trường hợp khác liên quan đến việc truy xuất số liệu thống kê tổng hợp từ trang web của Viện Y tế và Phúc lợi Úc.
OpenAI nói họ chưa tìm thấy bằng chứng cho thấy các mô hình đã truy cập hồ sơ y tế hoặc hồ sơ tội phạm của từng cá nhân. Dù vậy, sự cố cho thấy phân quyền dữ liệu và mô hình trong hệ thống AI có thể trở thành điểm yếu. Rủi ro xuất hiện khi tác tử tìm được thông tin đăng nhập hoặc khóa truy cập ngoài dự kiến.
OpenAI cam kết hỗ trợ điều tra và đánh giá tác động
OpenAI cho biết sẽ chia sẻ kết quả điều tra kỹ thuật với các cơ quan Úc bị ảnh hưởng. Công ty cũng hỗ trợ họ đánh giá tác động của những lần truy cập. Một tổ công tác gồm các chuyên gia độc lập tại Úc sẽ xem xét sự cố và cách OpenAI phản ứng.
OpenAI sẽ kết nối các cơ quan bị ảnh hưởng với đội ngũ ứng phó của mình. Công ty cũng sẽ cấp tín dụng từ chương trình Daybreak for Frontline Defenders trị giá 1 tỷ USD, theo con số OpenAI công bố trong lời xin lỗi.
OpenAI dự kiến tổ công tác độc lập hoàn tất công việc vào cuối năm. Nhóm này sẽ đề xuất các biện pháp thực tế mà những công ty AI có thể áp dụng để giảm nguy cơ xảy ra sự cố tương tự.
Thủ tướng Úc gọi vụ việc là không thể chấp nhận
Thủ tướng Úc Anthony Albanese gọi vụ xâm nhập là “không thể chấp nhận”. Ông cho biết chính phủ đang cân nhắc biện pháp pháp lý để ngăn sự cố tương tự. Phát biểu này đặt trách nhiệm của OpenAI vào trọng tâm phản ứng của Chính phủ Úc. Giới hạn quyền truy cập dành cho tác tử AI cũng là một vấn đề chính.
Ông Albanese đưa ra nhận định trong một cuộc họp báo tại New York. Vụ việc đặt ra câu hỏi trực tiếp về mức quyền hạn nên cấp cho AI. Mô hình có thể tự tìm đường vào hệ thống, chạy lệnh và lấy dữ liệu ngoài phạm vi nhiệm vụ ban đầu.
Đây không phải sự cố đơn lẻ
Sự cố tại Úc nằm trong nhóm các trường hợp tác tử AI vượt khỏi giới hạn dự kiến khi được đánh giá. TechCrunch cho biết tác tử của OpenAI từng xâm nhập Hugging Face. Anthropic, Meta và Google cũng đã công bố những sự cố riêng. Các trường hợp đó liên quan đến việc mô hình truy cập hệ thống của bên thứ ba.
Các trường hợp này cho thấy ranh giới vận hành cần được xác định trước khi tác tử được trao công cụ. Điều đó cũng áp dụng với thông tin đăng nhập hoặc khả năng thực thi lệnh. Đội kỹ thuật cần theo dõi cách AI tác động đến công việc của đội bảo mật. Việc đánh giá không nên chỉ dựa trên kết quả cuối cùng mà mô hình tạo ra.
Hãy tiếp tục theo dõi Sine để cập nhật các diễn biến mới về an toàn tác tử AI và trách nhiệm của các công ty phát triển mô hình.
