Doanh nghiệp có thể biến điểm mù AI thành lộ trình bảo mật bằng cách xác định dữ liệu mà AI đang truy cập. Tổ chức cũng cần biết AI có thể thực hiện hành động gì và ai chịu trách nhiệm. Con đường được phê duyệt cần kết hợp khả năng quan sát, đầu vào đáng tin cậy, thực thi có kiểm soát và các chỉ số quản trị rõ ràng. Cấm AI trên diện rộng không giải quyết được rủi ro nếu nhân viên chuyển sang những công cụ mà đội bảo mật không thể theo dõi.
Theo bài viết của The New Stack, công cụ sinh mã không phải là khái niệm mới. Quá trình phát triển của công nghệ sinh mã kéo dài từ các hệ thống kỹ nghệ phần mềm có sự hỗ trợ của máy tính hơn 30 năm trước đến trợ lý lập trình và tác tử tự chủ ngày nay. Điểm khác biệt hiện nay nằm ở tốc độ triển khai, quy mô sử dụng và thẩm quyền được trao cho trợ lý lập trình cùng tác tử tự chủ.
Vấn đề không còn là doanh nghiệp có áp dụng AI hay không. Giám đốc an toàn thông tin cần xác định hoạt động đó có diễn ra trong một hệ thống quan sát được hay không. Họ cũng phải biết hoạt động đó được quản trị hay đang mở rộng thành điểm mù. Niềm tin không thể thay thế tính minh bạch khi AI có quyền truy cập dữ liệu, thực thi mã hoặc sửa đổi hệ thống.
AI đã bước vào giai đoạn thực tế khắc nghiệt
AI đang được triển khai nhanh hơn khả năng quản trị của nhiều tổ chức. Khoảng cách kiểm soát xuất hiện khi các nhóm nghiệp vụ đưa công cụ vào sử dụng trước khi bộ phận công nghệ thông tin có thể theo dõi mô hình, dữ liệu, quyền truy cập và quy trình liên quan.
Theo IBM, 77% lãnh đạo công nghệ cấp cao cho biết tốc độ áp dụng AI đã vượt quá năng lực quản trị hiện tại. Bên cạnh đó, 70% nói rằng các nhóm nghiệp vụ triển khai công nghệ nhanh hơn khả năng theo dõi của bộ phận công nghệ thông tin. Chỉ 11% cảm thấy hoàn toàn sẵn sàng trước quy mô triển khai tác tử AI dự kiến trong năm tới.
AI ngầm không phải lúc nào cũng bị che giấu hoàn toàn. Doanh nghiệp có thể khuyến khích thử nghiệm trong khi đội bảo mật vẫn không nhìn thấy đầy đủ công cụ, mô hình, dữ liệu và quy trình đang được sử dụng. Nghiên cứu của MIT cho thấy nhân viên tại hơn 90% doanh nghiệp thường xuyên dùng công cụ AI cá nhân cho công việc, trong khi chỉ 40% doanh nghiệp có gói đăng ký mô hình ngôn ngữ lớn chính thức.
Rủi ro tăng khi AI chuyển sang hành động
Rủi ro tăng khi AI chuyển từ hỗ trợ sang hành động. Một công cụ trò chuyện dùng để tóm tắt tài liệu có phạm vi tác động khác với tác tử được phép truy cập thông tin xác thực, thực thi mã hoặc sửa đổi hệ thống sản xuất. Khi doanh nghiệp dùng tác tử AI viết mã, quyền truy cập và phạm vi hành động phải được đánh giá cùng với năng lực của mô hình.
Chặn AI không làm rủi ro biến mất
Lệnh cấm diện rộng có thể đẩy hoạt động AI sang tài khoản cá nhân, công cụ chưa được phê duyệt và quy trình nằm ngoài khả năng quan sát. AI ngầm vì thế là dấu hiệu cho thấy con đường chính thức chưa đáp ứng được nhu cầu công việc, không phải bằng chứng rằng nhu cầu đó đã biến mất.
Giám đốc an toàn thông tin cần hiểu mục tiêu kinh doanh, nhận diện mối nguy và giúp tổ chức chọn lộ trình an toàn hơn. Cách tiếp cận này đặc biệt quan trọng khi doanh nghiệp quyết định nên trao bao nhiêu quyền cho AI trong trung tâm điều hành an ninh.
Con đường được phê duyệt phải đủ hữu ích và dễ tiếp cận để cạnh tranh với lựa chọn không được kiểm soát. Nếu quy trình phê duyệt không theo kịp nhu cầu thực tế, nhân viên có thêm động lực đi vòng qua nó. Bảo mật cần cung cấp cả biện pháp phòng ngừa lẫn khả năng phục hồi thay vì chỉ bổ sung lệnh cấm.
Chuyển điểm mù thành lộ trình quản trị
Nội dung lộ trình quản trị
Lộ trình quản trị phải phản ánh cách AI thực sự được sử dụng. Doanh nghiệp cần kiểm kê từng trường hợp sử dụng, kiểm soát nguồn đầu vào, giới hạn môi trường thực thi và đo mức độ tuân thủ. Mức kiểm soát phải tăng theo quyền tự chủ của hệ thống và hậu quả mà hành động của hệ thống có thể gây ra.
- Kiểm kê trường hợp sử dụng thay vì chỉ liệt kê công cụ, gồm dữ liệu AI có thể truy cập và hành động hệ thống có thể thực hiện. Hoạt động kiểm kê cũng phải xác định những nền tảng có thể bị tác động. Cách này cho thấy phạm vi rủi ro rõ hơn tên sản phẩm hoặc tên mô hình.
- Xây dựng đầu vào đáng tin cậy cho phần mềm do AI tạo ra, vì hệ thống có thể lựa chọn thành phần mang theo rủi ro. Những thành phần này gồm gói phần mềm, thư viện, ảnh vùng chứa và thành phần phụ thuộc. Lập trình viên và tác tử cần được tiếp cận các thành phần đã phê duyệt, tối giản và được duy trì liên tục.
- Coi hoạt động thực thi là chưa đáng tin cho đến khi được xác minh, trước hết bằng cách cô lập hoạt động của tác tử. Tổ chức phải áp dụng nguyên tắc đặc quyền tối thiểu, hạn chế thông tin xác thực và kiểm soát truy cập mạng. Ranh giới kiểm soát cần được đặt bên ngoài tác tử.
- Đo hiệu quả của con đường được phê duyệt, gồm mức độ quan sát, tỷ lệ sử dụng được phê duyệt và không được phê duyệt, số trường hợp ngoại lệ cùng tình trạng nhân viên tiếp tục đi vòng qua kiểm soát.
Quản trị phải thay đổi khi AI đi từ hỗ trợ sang thực thi và tự chủ. Việc quan sát tác tử AI trên hạ tầng Kubernetes không thể dừng ở tên mô hình. Phạm vi theo dõi phải bao gồm quyền, thành phần phụ thuộc và hành động diễn ra trong môi trường vận hành.
Bảo mật phải trở thành năng lực hỗ trợ
Bảo mật hỗ trợ AI bằng cách đưa kiểm soát vào kiến trúc ngay từ đầu, cung cấp môi trường thử nghiệm được phê duyệt và xác định rõ trách nhiệm. Cách làm này đòi hỏi sự phối hợp giữa bộ phận bảo mật, kỹ thuật, nền tảng và nghiệp vụ thay vì đặt toàn bộ trách nhiệm lên một cửa phê duyệt cuối quy trình.
Theo KPMG, gần ba phần tư lãnh đạo xem rủi ro, bảo mật và quyền riêng tư là những mối lo lớn về AI. Tuy nhiên, chỉ 24% đưa các yếu tố này vào chiến lược và công nghệ. KPMG cũng ghi nhận 58% cho rằng năng lực trên toàn doanh nghiệp là thiết yếu. Chỉ 12% nói rằng tổ chức của họ triển khai hiệu quả.
Đưa kiểm soát vào chiến lược AI
Giám đốc an toàn thông tin phải kết hợp chuyên môn kỹ thuật, hiểu biết kinh doanh, quản trị rủi ro và quản trị AI trong cùng một chiến lược. Đội bảo mật cần xác định nơi được phép thử nghiệm, sau đó cung cấp môi trường đã phê duyệt, thành phần đáng tin cậy và hàng rào kiểm soát có thể tái sử dụng.
Mục tiêu là đưa bảo mật vào kiến trúc và thiết kế trước khi hệ thống đi vào vận hành. Quyền truy cập, thông tin xác thực, kết nối mạng và khả năng hành động của AI cần có ranh giới an toàn ngay khi được xác định.
Doanh nghiệp có thể bắt đầu quản trị AI từ đâu?
Doanh nghiệp có thể bắt đầu bằng một trường hợp sử dụng AI đang hoạt động, sau đó lập bản đồ dữ liệu, quyền truy cập, hành động và người chịu trách nhiệm. Phạm vi nhỏ giúp tổ chức kiểm tra liệu con đường được phê duyệt có quan sát được, thực thi được và phù hợp với nhu cầu công việc hay không.
Chương trình quản trị không cần hoàn hảo trước khi bắt đầu. Nhân viên vẫn có thể thử nghiệm trong các ranh giới có thể quan sát và kiểm soát. Mỗi công cụ, thành phần phụ thuộc hoặc hành động tự chủ mới phải được đưa vào phạm vi quản trị trước khi trở thành rủi ro không có chủ sở hữu.
Bước đầu tiên là chọn một trường hợp sử dụng AI, ghi lại dữ liệu hệ thống có thể truy cập, quyền hệ thống được cấp và cá nhân hoặc bộ phận chịu trách nhiệm.
