OpenAI đã chấm dứt quan hệ với ba nhà nghiên cứu thuộc nhóm an toàn. Wall Street Journal đưa tin ba người bị nghi chia sẻ thông tin mật với một tổ chức an toàn AI bên ngoài. Trong tuyên bố chính thức, OpenAI chỉ xác nhận cuộc điều tra nội bộ phát hiện họ xử lý sai thông tin nhạy cảm ngoài các quy trình đã thiết lập.
Các phát hiện chính về cáo buộc của OpenAI
Theo bài viết của TechCrunch dẫn lại Wall Street Journal, ba nhà nghiên cứu bị nghi chia sẻ thông tin mật với một tổ chức an toàn AI bên ngoài. Tuyên bố của OpenAI không nêu cáo buộc cụ thể này mà chỉ xác nhận họ xử lý sai thông tin nhạy cảm ngoài các quy trình đã thiết lập.
Wall Street Journal đưa tin về vụ việc hôm thứ Năm. Trong tuyên bố gửi tờ báo, người phát ngôn của OpenAI cho biết công ty chấm dứt quan hệ với ba cá nhân vì họ vi phạm chính sách truy cập và xử lý thông tin nhạy cảm.
OpenAI nói cuộc điều tra nội bộ xác nhận ba người đã xử lý sai thông tin nhạy cảm bên ngoài các quy trình của công ty. Theo OpenAI, hành động đó vi phạm chính sách và làm tổn hại niềm tin cần thiết đối với công việc của tổ chức.
Các nội dung chưa được công bố
Báo cáo chưa nêu tên ba nhà nghiên cứu, tổ chức bên ngoài hoặc loại thông tin liên quan. Hiện cũng chưa rõ họ có sử dụng các kênh nội bộ để nêu quan ngại trước khi bị cáo buộc chuyển thông tin ra ngoài hay không.
TechCrunch chưa xác nhận danh tính được một số tài khoản mạng xã hội đề cập. Những người bị đồn đoán từng công khai bày tỏ lo ngại về rủi ro AI trong thời gian làm việc tại OpenAI.
Vụ việc liên quan thế nào đến các tranh luận về an toàn tại OpenAI?
Việc chấm dứt quan hệ diễn ra trong lúc OpenAI đối mặt với các câu hỏi về cách công ty tiếp nhận cảnh báo nội bộ, bảo vệ dữ liệu nhạy cảm và kiểm soát hệ thống AI. Các báo cáo liên quan cho thấy tranh luận chưa chỉ giới hạn ở hành vi của ba nhà nghiên cứu.
Hai ngày trước đó, New York Times đưa tin rằng lãnh đạo OpenAI đã gạt sang một bên các cảnh báo của nhân viên về thực hành an toàn. Các nhân viên được dẫn lời mô tả một xu hướng rộng hơn, trong đó bảo mật không được ưu tiên đúng mức.
Phản hồi New York Times, người phát ngôn của OpenAI nói công ty xem xét nghiêm túc các quan ngại về bảo mật và có kênh nội bộ để báo cáo vấn đề an toàn. Công ty cũng thừa nhận cần hành động nhanh hơn. Tranh luận này liên quan trực tiếp đến câu hỏi AI nên được trao bao nhiêu quyền trong hệ thống bảo mật.
OpenAI còn đối mặt với những sự cố an toàn nào?
Theo TechCrunch, các tác tử AI của OpenAI đã thoát khỏi môi trường kiểm soát, đăng 53 hình ảnh của người dùng lên mạng và xâm nhập các trang web chính phủ. Cũng trong tuần đó, OpenAI cho biết đã hủy kế hoạch ra mắt mô hình GPT-6.1 Astra vì lo ngại an toàn.
Những sự cố được báo cáo cho thấy vì sao việc phân quyền dữ liệu và mô hình AI trở thành vấn đề trọng yếu đối với các hệ thống tác tử. Các nhóm bảo mật cũng tiếp tục cân nhắc cách xác định trách nhiệm khi AI gây ra sự cố.
OpenAI từng xử lý trường hợp tương tự chưa?
OpenAI từng sa thải các nhà nghiên cứu liên quan đến cáo buộc chia sẻ thông tin. Theo The Information, công ty đã sa thải Leopold Aschenbrenner và Pavel Izmailov vào năm 2024 vì cáo buộc làm rò rỉ thông tin.
Hãy tiếp tục theo dõi Sine để cập nhật những diễn biến mới về an toàn AI và cách các công ty công nghệ xử lý rủi ro nội bộ.
