Tác tử AI có thể hoàn thành công việc bằng quyền truy cập hợp lệ về mặt kỹ thuật. Tuy nhiên, nhật ký kiểm toán vẫn không xác định được ai đã yêu cầu công việc, ai phê duyệt quyền truy cập và quyền đó đến từ đâu.
Khoảng trống này thường chỉ lộ ra sau khi sự cố đã xảy ra, theo The New Stack.
Vấn đề nằm ở sự khác biệt giữa danh tính được hệ thống ghi nhận và người thực sự giao việc. Khi doanh nghiệp đưa tác tử AI vào lớp hạ tầng, nhật ký có thể ghi tên chủ sở hữu mã thông báo. Nhật ký cũng có thể ghi một tài khoản dịch vụ chung thay vì người đã yêu cầu hoặc phê duyệt hành động.
Nhật ký ghi một cái tên, nhưng chưa chắc đúng người
Mã thông báo mà tác tử sử dụng quyết định danh tính xuất hiện trong nhật ký. Mã thông báo cá nhân khiến hành động mang tên một nhân viên, còn tài khoản dịch vụ chung chỉ xác định tài khoản kỹ thuật. Cả hai đều có thể bỏ sót người đã giao việc hoặc chấp thuận quyền truy cập.
Nhóm của Shawn Petty đã xem xét các chính sách truy cập liên quan đến MCP trong môi trường của khách hàng và khách hàng tiềm năng. Theo số liệu The New Stack dẫn lại, hơn 20 phần trăm số chính sách này bị lỗi hoặc không tồn tại. Trong phần lớn trường hợp, máy chủ MCP chạy bằng mã thông báo cá nhân của một nhân viên thay vì tài khoản dịch vụ.
Nếu tác tử dùng mã thông báo cá nhân, mọi hoạt động có thể xuất hiện trong nhật ký dưới tên của kỹ sư sở hữu mã thông báo. Nếu tác tử dùng tài khoản dịch vụ chung, nhật ký chỉ ghi tên tài khoản đó. Bản ghi trong cả hai trường hợp đều không xác định chính xác người đã yêu cầu tác tử làm việc. Bản ghi cũng không xác định người đã chấp thuận quyền mà tác tử sử dụng.
Khoảng trống này ảnh hưởng trực tiếp đến quyết định tác tử AI nên được trao bao nhiêu quyền. Một bản ghi cho biết tài khoản nào thực hiện thao tác chưa đủ để quy trách nhiệm nếu tài khoản và người ra quyết định không phải cùng một chủ thể.
Quyền được cấp khác với quyền phát sinh
Quyền được cấp có hồ sơ về yêu cầu, phê duyệt và quá trình cấp quyền tại nhà cung cấp danh tính. Quyền phát sinh có thể được thừa hưởng từ dịch vụ hoặc đến từ mã thông báo được cho mượn, nên nhà cung cấp danh tính không lưu được toàn bộ nguồn gốc của quyền.
Với quyền được cấp qua quy trình chính thức, doanh nghiệp có thể xác định quyền đến từ đâu và ai tham gia quyết định cấp quyền. Chuỗi truy vết này nối người yêu cầu, người phê duyệt và quyền mà tác tử sử dụng.
Quyền phát sinh xuất hiện theo cách khác. Tác tử có thể thừa hưởng vai trò từ dịch vụ đã khởi chạy nó hoặc dùng mã thông báo cá nhân mà nhà phát triển cho mượn để hoàn thành tác vụ. Nhà cung cấp danh tính không có hồ sơ về các quyền này. Nếu tác tử truy cập một tài nguyên không phù hợp, doanh nghiệp không thể lần ngược đầy đủ từ hành động đến người chịu trách nhiệm.
Vì vậy, việc phân quyền dữ liệu và mô hình AI cần bao gồm nguồn gốc của quyền. Chỉ kiểm tra tác tử có được phép thực hiện thao tác tại thời điểm chạy không giải quyết được khoảng trống kiểm toán.
Nội dung một nhật ký kiểm toán sử dụng được
Nhật ký kiểm toán cần liên kết ba yếu tố trong cùng một chuỗi truy vết: tác vụ đã chạy, thông tin xác thực được sử dụng và người chịu trách nhiệm. Nhật ký cũng cần phân biệt hành động tự động được phép với hành động phải có con người phê duyệt.
CloudBolt cho rằng hoạt động của tác tử cần được nối với nhà cung cấp danh tính hiện có, thay vì tạo thêm một hệ thống danh tính song song. Cách tiếp cận này nhằm liên kết tác vụ đã chạy, thông tin xác thực được sử dụng và người chịu trách nhiệm.
Nhật ký phải cho biết tác tử được phép thực hiện những hành động hạ tầng nào mà không cần con người phê duyệt. Với thao tác vượt quá giới hạn đó, hệ thống cần ghi nhận yêu cầu và quyết định chấp thuận trước khi cấp quyền.
The New Stack giới thiệu một buổi trình diễn trực tiếp với Shawn Petty, Giám đốc Khách hàng của CloudBolt, và Mike Bombard, Giám đốc Kỹ thuật Tiền bán hàng Toàn cầu của CloudBolt. Cùng người dẫn Viktor Farcic, họ dự kiến truy vết thông tin xác thực và hành động của một tác tử. Quá trình này đi từ tác vụ đã chạy đến người chịu trách nhiệm. Lịch được công bố là 12 giờ trưa theo giờ miền Đông và 9 giờ sáng theo giờ Thái Bình Dương vào thứ Ba, ngày 27 tháng 10.
Điểm cần kiểm tra trước khi xảy ra sự cố
Doanh nghiệp cần kiểm tra liệu từng quyền truy cập có thể được lần ngược đến người yêu cầu, người phê duyệt và thông tin xác thực đã sử dụng hay không. Việc tác tử hoàn thành đúng nhiệm vụ không chứng minh rằng chuỗi kiểm toán đã đầy đủ.
Một tác tử vẫn có thể tạo ra khoảng trống kiểm toán nếu quyền truy cập không đi qua nhà cung cấp danh tính. Doanh nghiệp cần phân biệt quyền đã được phê duyệt với quyền mà tác tử thừa hưởng hoặc nhận tạm thời trong lúc làm việc.
Việc rà soát nên theo toàn bộ đường đi của từng quyền truy cập, từ người yêu cầu đến bước phê duyệt và bản ghi cuối cùng trong nhật ký kiểm toán.
