Nội dung
Bảo mật tác tử AI phải là một vòng đời liên tục gồm quan sát, thực thi chính sách, xây dựng và triển khai. Một lần phê duyệt trước khi vận hành không đủ vì tác tử có thể diễn giải mục tiêu, chọn công cụ, tạo tác tử con và thực hiện những hành động chưa được người giao quyền dự kiến.
Bảo mật doanh nghiệp lâu nay dựa trên một trình tự khá rõ ràng: xác lập danh tính, xác thực bên yêu cầu, xác định tài nguyên mà danh tính đó được phép truy cập, rồi thực thi quyền hạn tương ứng. Tác tử AI làm mô hình này phức tạp hơn vì nó không chỉ truy cập hệ thống. Nó còn đưa ra quyết định và hành động, thường sử dụng quyền được kế thừa hoặc ủy thác từ con người, nhưng cũng có thể dùng danh tính dịch vụ hoặc quyền được cấp riêng.
Theo The New Stack về vòng đời bảo mật tác tử AI, vấn đề không nhất thiết nằm ở việc tác tử thiếu thông tin xác thực. Chính thông tin hợp lệ ấy có thể cho phép tác tử làm điều mà người sở hữu quyền chưa từng có ý định giao cho nó. Khác với phần mềm thông thường, tác tử còn có thể tự thay đổi đường thực thi để đạt mục tiêu.
Đội ngũ bảo mật vì thế phải đánh giá chủ thể đang hành động, việc tác tử định làm, nguồn quyền hạn được ủy thác và chính sách áp dụng. Các kiểm soát này phải đi cùng tác tử trong suốt quá trình quan sát, thực thi chính sách, xây dựng và triển khai.
Phòng thủ nhiều lớp vẫn cần kiểm soát từng hành động
Phòng thủ nhiều lớp bảo vệ mạng, môi trường chạy, hạ tầng và mô hình, nhưng không tự quyết định liệu một hành động cụ thể của tác tử có được phép hay không. Quyết định đó cần được đưa ra ngay trước khi hành động diễn ra, dựa trên danh tính, quyền được ủy thác, tài nguyên đích và chính sách hiện hành.
Bảo mật mạng kiểm soát cách tác tử giao tiếp. Cơ chế bảo vệ thiết bị đầu cuối và môi trường chạy giới hạn nơi mã được thực thi. Hạ tầng và cơ chế bảo vệ ở cấp phần cứng tạo nền tảng cho môi trường thực thi đáng tin cậy. Các rào chắn của mô hình định hướng hành vi. Doanh nghiệp cần tất cả những lớp này, nhưng không lớp nào tự trả lời được liệu một hành động cụ thể có nên được phép hay không.
Thông tin xác thực hợp lệ vẫn có thể dẫn đến hành động sai
Giả sử một tác tử dùng thông tin xác thực hợp lệ của lập trình viên để xóa cơ sở dữ liệu đang vận hành. Hệ thống mạng có thể nhận diện đây là lưu lượng được cho phép. Môi trường chạy có thể xác nhận tiến trình đã được duyệt. Nhà cung cấp danh tính cũng có thể kết luận thông tin xác thực là hợp lệ. Cả ba lớp đều hoạt động đúng thiết kế, trong khi hành động vẫn gây hậu quả nghiêm trọng.
Câu hỏi còn thiếu là liệu tác tử cụ thể này có được phép thực hiện hành động cụ thể đó hay không, kể cả khi người đã ủy quyền cho nó có quyền làm vậy. Quyết định cần xét danh tính của tác tử, con người hoặc dịch vụ đã giao quyền, thao tác được yêu cầu, tài nguyên đích và chính sách hiện hành.
Lớp thực thi nối mô hình AI với công cụ, giao diện lập trình ứng dụng, tệp và hệ thống bên ngoài là một vị trí quan trọng để áp dụng kiểm soát. Dịch vụ công cụ và giao diện của tài nguyên cũng phải tự thực thi quyền hạn. Cách bố trí này bổ sung kiểm soát hành động vào mô hình phân quyền dữ liệu và mô hình AI, thay vì thay thế các lớp phòng thủ đang có.
Bốn hoạt động tạo thành một vòng đời liên tục
Kiến trúc bảo mật tác tử gồm bốn hoạt động liên kết với nhau: quan sát, thực thi, xây dựng và triển khai. Đây không phải bốn cửa kiểm tra diễn ra theo thứ tự. Kết quả từ mỗi hoạt động trở thành dữ liệu đầu vào để điều chỉnh những hoạt động còn lại.
Doanh nghiệp có thể bắt đầu tại điểm phù hợp với hạ tầng và mức độ trưởng thành hiện có. Đơn vị đã vận hành tác tử có thể bắt đầu bằng cách quan sát hành vi. Nhóm phát triển tác tử mới có thể đưa cơ chế ủy quyền vào kiến trúc ngay từ đầu. Khi mở rộng một hệ thống đang chạy, doanh nghiệp có thể phát hiện hoạt động mới và phải điều chỉnh chính sách.
Quan sát những gì tác tử thực sự làm
Quan sát tác tử phải tập trung vào hành vi khi thực thi, gồm công cụ được gọi, tài nguyên được truy cập, thông tin xác thực được dùng và quyền được kế thừa. Danh mục ứng dụng hoặc tệp cấu hình chỉ cho biết tác tử tồn tại, không cho biết nó thực sự làm gì.
Đội ngũ bảo mật cần thấy được công cụ và giao diện nào đang được gọi, lệnh nào đang chạy, hệ thống và tài nguyên nhạy cảm nào đang bị truy cập. Họ cũng cần biết thông tin xác thực nào được sử dụng, quyền hạn đến từ ai, tác tử con nào được tạo ra và các tác tử đó kế thừa quyền gì. Dữ liệu quan sát còn phải cho thấy hành động nào sẽ vi phạm một chính sách đang được đề xuất.
Nhật ký ứng dụng thông thường chưa đủ nếu nó không nối hành động với danh tính, quan hệ ủy thác và quyết định cấp quyền. Đây cũng là lý do hạ tầng vận hành tác tử AI trên Kubernetes cần cung cấp bối cảnh bảo mật ở sát nơi hành động diễn ra.
Quan sát còn cho phép thử chính sách trước khi chặn hoạt động thật. Khi hệ thống ngăn chặn xâm nhập và tường lửa ứng dụng web trở nên phổ biến, doanh nghiệp từng nhận ra rằng bật ngay quy tắc chặn nghiêm ngặt có thể làm gián đoạn ứng dụng hợp lệ. Theo dõi trước, thiết lập đường cơ sở cho hành vi rồi tăng dần mức thực thi là cách thực tế hơn. Tác tử AI cần cùng nguyên tắc ấy, dù hành vi của nó biến đổi linh hoạt hơn.
Đặt ranh giới xác định quanh hành vi có tính xác suất
Chính sách bảo mật phải đặt ranh giới xác định quanh hành vi có tính xác suất của tác tử. Cùng một chỉ dẫn có thể dẫn đến công cụ, thứ tự thao tác hoặc đường thực thi khác nhau, nên hệ thống không thể dựa vào kỳ vọng rằng mô hình luôn chọn phương án an toàn nhất.
Một tác tử viết mã có thể được phép làm việc trong kho mã nguồn. Đọc tệp có thể được chấp thuận. Sửa nhánh được bảo vệ có thể cần con người phê duyệt. Xóa kho mã nguồn có thể bị cấm. Các hành động đều xuất phát từ cùng một tác tử đã xác thực và trong cùng một môi trường, nhưng phải nhận quyết định cấp quyền khác nhau.
Kiểm tra quyền tại điểm thực thi đáng tin cậy
Trong ví dụ giản lược của The New Stack, yêu cầu cấp quyền xác định tác nhân là tác tử viết mã số 42, quyền được ủy thác đến từ tài khoản lập trình viên số 17, hành động được yêu cầu là xóa kho mã nguồn, đích là kho mã nguồn đang vận hành và quyết định chính sách là từ chối. Kiểm tra phải diễn ra tại một điểm thực thi đáng tin cậy, thay vì chỉ xuất hiện trong câu lệnh nhắc mô hình cư xử đúng.
Hoạt động có rủi ro cao có thể bị từ chối hoặc phải chờ con người duyệt. Hoạt động ít rủi ro hơn có thể tự động tiếp tục. Tuy nhiên, kiểm tra tại một lớp thực thi chỉ bảo vệ những hành động đi qua lớp đó. Một thiết kế vững hơn sẽ kết hợp cấp quyền ở cấp hành động với quyền được thực thi độc lập tại giao diện lập trình ứng dụng, máy chủ công cụ và tài nguyên nền.
Mục tiêu không phải khiến tác tử mất khả năng hành động. Ranh giới quyền hạn cần rõ ràng, có thể thực thi và nhất quán. Điều này đặc biệt quan trọng khi tác tử AI viết mã có thể đọc, sửa hoặc xóa tài sản phần mềm trong cùng một phiên làm việc.
Đưa danh tính và quyền hạn vào kiến trúc tác tử
Danh tính, quyền được ủy thác, kiểm tra hành động và nhật ký kiểm toán nên là hạ tầng dùng chung của kiến trúc tác tử. Nếu từng nhóm tự xây các cơ chế này, chính sách sẽ thiếu nhất quán và khó bảo trì khi số tác tử tăng lên.
Quan sát và thực thi chính sách giúp bảo vệ những tác tử đang tồn tại. Lợi ích dài hạn lớn hơn xuất hiện khi các bài học đó thay đổi cách tác tử được xây dựng.
Các nhóm phát triển có thể dùng những mô hình, khung phần mềm, giao thức công cụ và môi trường chạy khác nhau. Nếu mỗi nhóm phải tự thiết kế cách truyền danh tính, giao quyền, viết chính sách cấp quyền và lưu nhật ký kiểm toán, cơ chế bảo mật sẽ thiếu nhất quán và khó bảo trì.
Biến danh tính và cấp quyền thành hạ tầng dùng chung
Bộ công cụ phát triển phần mềm, giao diện lập trình ứng dụng và dịch vụ cấp quyền tập trung có thể giúp nhóm phát triển đưa kiểm soát vào ứng dụng ngay từ đầu. Mỗi tác tử cần có bối cảnh thực thi nhận diện được. Quyền hạn phải được giao rõ ràng và giới hạn theo nhiệm vụ. Lời gọi công cụ nhạy cảm phải qua kiểm tra. Quyết định bảo mật và hành động có hậu quả phải để lại dấu vết kiểm toán.
Tác tử cũng không nên tự động kế thừa toàn bộ quyền của người khởi tạo. Một nhân viên dùng trợ lý AI để đối chiếu hóa đơn có thể có quyền xem hóa đơn, duyệt thanh toán và cập nhật hồ sơ nhà cung cấp. Nhiệm vụ được giao cho tác tử chỉ cần lấy và đối chiếu hóa đơn. Kiến trúc đúng sẽ giao đúng những quyền cần cho nhiệm vụ, không sao chép toàn bộ quyền của nhân viên.
Khi tác tử tạo tác tử con hoặc gọi công cụ dưới danh tính dịch vụ khác, hệ thống phải tiếp tục bảo toàn và giới hạn quyền được ủy thác. Danh tính và cấp quyền vì thế nên là hạ tầng dùng lại được, không phải tính năng riêng của từng ứng dụng. Đó cũng là hướng tiếp cận cần thiết để giải quyết câu hỏi AI nên được trao bao nhiêu quyền trong hoạt động bảo mật.
Triển khai kiểm soát nhất quán ở quy mô máy
Ở quy mô lớn, kiểm soát bảo mật phải hoạt động tự động và nhất quán theo tốc độ của tác tử. Rà soát quyền bằng tay hoặc để từng nhóm tự áp dụng chính sách không thể đáp ứng hàng nghìn tác tử hoạt động trên nhiều ứng dụng, phòng ban và môi trường.
Tác tử có thể gọi công cụ mới, phối hợp với tác tử khác và tham gia quy trình đi qua nhiều miền cấp quyền. Bối cảnh danh tính, quyền được ủy thác, chính sách và yêu cầu kiểm toán phải theo chúng qua các môi trường được hỗ trợ.
Mô hình hoặc khung phần mềm nền không nên quyết định hệ thống có kiểm soát bảo mật hay không. Việc dùng công cụ mới cũng không nên buộc doanh nghiệp xây lại toàn bộ kiến trúc. Giao diện không phụ thuộc khung phần mềm và chính sách được quản lý tập trung cho phép duy trì chuẩn bảo mật chung, đồng thời để nhóm phát triển chọn công nghệ phù hợp với ứng dụng.
Kiểm soát phải theo kịp tốc độ hoạt động của máy
Quy mô của hệ thống tác tử không chỉ là thêm người dùng, giao dịch hoặc tải xử lý. Nó còn là thêm nhiều chủ thể độc lập đang tự quyết định, gọi công cụ và tạo thêm tác tử. Số hành động có hậu quả có thể tăng nhanh hơn số ứng dụng được triển khai. Vì thế, kiến trúc bảo mật phải hoạt động tự động và nhất quán theo tốc độ của hoạt động do máy tạo ra.
Dữ liệu vận hành lại hé lộ quy trình ngoài dự kiến, quan hệ phụ thuộc mới, lỗ hổng cấp quyền và cơ hội sửa chính sách. Những phát hiện này quay trở lại khâu quan sát, thực thi và xây dựng. Vòng đời tiếp tục từ chính bằng chứng sinh ra trong môi trường thật.
Từ cửa kiểm tra sang hạ tầng bảo mật
Bảo mật tác tử phải chuyển từ một cửa kiểm tra trước triển khai thành hạ tầng liên tục đi cùng từng hành động. Quyền tối thiểu, mô hình Zero Trust (không mặc nhiên tin cậy bất kỳ danh tính hay yêu cầu nào), phân tách nhiệm vụ, liên kết danh tính và phòng thủ nhiều lớp vẫn giữ nguyên vai trò, nhưng phải được áp dụng sát nơi hành động xảy ra.
Kiến trúc truyền thống thường giả định rằng kiểm soát quyền truy cập hệ thống là đủ để quản lý những gì diễn ra sau đó. Tác tử AI phá vỡ giả định này vì nó có thể tự đưa ra quyết định gây hậu quả trong phạm vi quyền đã được cấp.
Mô hình bảo mật vì thế cần thay đổi theo ba hướng. Khả năng quan sát phải dựa trên hành vi thực tế thay vì chỉ dựa vào cấu hình. Quyết định cấp quyền phải xét từng hành động trong bối cảnh danh tính, quan hệ ủy thác và chính sách. Các năng lực đó phải trở thành hạ tầng dùng chung, đi cùng tác tử từ phát triển đến vận hành rồi quay lại chu trình cải tiến.
Cho phép tác tử hoạt động mà không buông lỏng kiểm soát
Doanh nghiệp có thể mở rộng quyền tự chủ của tác tử khi có đủ khả năng quan sát, trách nhiệm giải trình và kiểm soát từng hành động. Cách tiếp cận này tránh cả việc tin tác tử quá mức lẫn hạn chế nó đến mức không còn mang lại giá trị.
Thông tin xác thực hợp lệ và chỉ dẫn được viết kỹ không đủ để bảo đảm an toàn. Ngược lại, hạn chế mọi hành động sẽ làm mất lợi ích năng suất ban đầu. Doanh nghiệp phải biết tác tử thực sự làm gì, thực thi đúng phạm vi được phép, đưa kiểm soát vào quá trình phát triển và áp dụng nhất quán khi triển khai.
Công việc này không có điểm kết thúc cố định. Mô hình, khung phần mềm, công cụ và quy trình mới sẽ tiếp tục tạo ra hành vi cùng rủi ro mới. Thành công không nằm ở số hành động bị chặn, mà ở số hành động có giá trị mà doanh nghiệp có thể cho phép một cách tự tin và an toàn.
Bảo mật tác tử AI vì thế không thể là một lần phê duyệt trước khi đưa hệ thống vào sử dụng. Nó phải là vòng đời liên tục, thay đổi cùng chính các tác tử.
Hãy tiếp tục theo dõi Sine để cập nhật cách doanh nghiệp xây dựng và vận hành tác tử AI an toàn hơn.
