AI tác tử trên Kubernetes có thể quan sát trạng thái hệ thống, phân tích tín hiệu và đề xuất hoặc thực hiện hành động trong phạm vi đã định. Khả năng này hữu ích nhất khi doanh nghiệp vận hành nhiều cụm. Hiệu quả phụ thuộc vào ngữ cảnh tác tử được phép sử dụng, quyền truy cập và cơ chế phê duyệt của con người.
AI đang thay đổi yêu cầu đối với hạ tầng điện toán và hoạt động vận hành Kubernetes. Khi mô hình chạy gần nguồn dữ liệu, trách nhiệm triển khai, mở rộng và quản trị thường chuyển nhiều hơn sang đội nền tảng. Số cụm, môi trường và tín hiệu vận hành càng tăng, cách quản lý thủ công càng dễ trở thành điểm nghẽn.
The New Stack về AI tác tử trên Kubernetes cho biết phần mềm tác tử có thể quan sát hệ thống và phân tích tình trạng. Phần mềm chỉ hành động trong giới hạn đã định. Giá trị của nó phụ thuộc vào ngữ cảnh tác tử nhìn thấy và ranh giới do tổ chức đặt ra. Nếu thiếu trạng thái cụm, chính sách và quy tắc truy cập, tác tử chỉ có thể phỏng đoán.
Các tổ chức có thể vận hành hạ tầng kết hợp giữa trung tâm dữ liệu, đám mây và các điểm biên. Vấn đề cốt lõi không phải trao toàn quyền cho AI. Tổ chức cần phân định rõ hệ thống được quan sát, đề xuất và thay đổi điều gì.
AI đang tác động đến hạ tầng điện toán
AI không còn chỉ là một thành phần ứng dụng chạy trên hệ thống sẵn có. Khi khối lượng công việc AI đi vào sản xuất, chúng làm tăng yêu cầu đối với tính toán, lưu trữ, mạng và điều phối tài nguyên, từ đó chuyển thêm trách nhiệm xuống lớp hạ tầng.
Một báo cáo của Forrester về ngăn xếp điện toán AI mới mô tả ngăn xếp hiện đại là một hệ thống kéo dài từ mô hình xuống toàn bộ hạ tầng bên dưới.
Nhiều tác vụ cần phần cứng chuyên dụng, trong khi nhu cầu tài nguyên thay đổi theo từng đợt huấn luyện và suy luận. Điều kiện biến động nhanh cũng khiến đội vận hành phải xem lại độ tin cậy của dữ liệu giám sát.
Những yêu cầu này hội tụ ở lớp hạ tầng. Vì vậy, cách tổ chức xây dựng và vận hành hạ tầng AI ảnh hưởng trực tiếp đến hiệu năng của dữ liệu, mô hình, cơ chế điều phối và trải nghiệm người dùng.
Kubernetes trở thành điểm kiểm soát của ngăn xếp AI
Kubernetes cung cấp một điểm kiểm soát chung để lập lịch khối lượng công việc, áp dụng chính sách và duy trì giao diện nhất quán giữa trung tâm dữ liệu, đám mây và điểm biên. Vai trò này khiến Kubernetes trở thành lớp điều phối phù hợp cho các tác tử vận hành AI.
Lớp hạ tầng gồm tài nguyên tính toán, lưu trữ và mạng mà mọi khối lượng công việc đều dựa vào. Khi AI mở rộng, các quyết định về dung lượng, vị trí triển khai và quyền kiểm soát sẽ chi phối những lớp phía trên.
Quản lý từng máy chủ bằng tay khó đáp ứng một hệ thống phân bố trên nhiều địa điểm. Trong môi trường ứng dụng đám mây hiện đại, Kubernetes giúp đội nền tảng quản lý các tài nguyên phân tán qua một lớp điều phối chung.
Thay vì chỉ thực thi một kịch bản cố định, tác tử có thể đọc trạng thái hiện tại, phân tích tín hiệu rồi đề xuất hoặc thực hiện hành động trong phạm vi được phê duyệt.
AI tác tử khác tự động hóa cố định như thế nào
Tự động hóa cố định thực thi một kịch bản được xác định trước, còn AI tác tử lựa chọn bước tiếp theo sau khi đọc trạng thái và phân tích tín hiệu hiện tại. Dù linh hoạt hơn, tác tử vẫn phải hoạt động trong phạm vi quyền hạn và quy trình phê duyệt do tổ chức thiết lập.
Trong quản lý nhiều cụm Kubernetes, tác tử đọc trạng thái cụm và dữ liệu vận hành. Sau đó, nó đưa ra chẩn đoán hoặc bước xử lý tiếp theo. Hành động chỉ được thực hiện trong phạm vi đã phê duyệt, thường sau khi có xác nhận của con người. Mỗi yêu cầu cũng có thể được chuyển đến một tác tử chuyên trách chỉ nhận phần siêu dữ liệu cần thiết.
Đây là điểm phân biệt tác tử vận hành Kubernetes với một trợ lý AI thông thường. Trợ lý có thể biết Kubernetes ở mức khái quát, nhưng không tự biết trạng thái cụm, chính sách nội bộ, quyền truy cập hay thay đổi vừa được triển khai. Việc xác định AI nên được trao bao nhiêu quyền phải đi cùng thiết kế kỹ thuật, không thể chỉ dựa vào khả năng của mô hình.
Quản lý Kubernetes thủ công khó mở rộng
Quản lý thủ công có thể đáp ứng một số ít cụm. Cách làm này khó duy trì khi số môi trường, công cụ và địa điểm triển khai tăng. Mỗi cụm mới bổ sung công việc nâng cấp, vá lỗi, cấu hình và gia hạn. Nó cũng làm tăng nguy cơ sai lệch chính sách và mất khả năng quan sát.
AI tác tử không mang lại cùng một mức lợi ích trong mọi môi trường. Với một cụm nhỏ, chi phí thiết lập và kiểm soát có thể lớn hơn phần công việc tiết kiệm được.
Trong môi trường kết hợp, các nhiệm vụ vận hành dễ nhân lên và dần khác biệt giữa các khu vực. Các thiết lập ban đầu giống nhau có thể mất đồng bộ, còn chính sách được áp dụng không đều giữa các đội. Từng sai lệch riêng lẻ có thể xử lý được, nhưng khi tích tụ, chúng làm tăng nguy cơ gián đoạn hoặc triển khai thất bại.
Khả năng quan sát cũng suy giảm khi các cụm nằm rải rác ở trung tâm dữ liệu, đám mây và điểm biên. Kỹ sư có thể phải ghép nhật ký, chỉ số và cảnh báo từ nhiều công cụ. Khi đó, quá trình xác định nguyên nhân sẽ chậm hơn và dễ sai hơn. Một góc nhìn thống nhất giúp con người và tác tử đưa ra quyết định dựa trên cùng trạng thái hệ thống.
AI thiếu ngữ cảnh riêng của từng tổ chức
Mô hình AI có thể hiểu Kubernetes ở mức khái quát nhưng không tự biết trạng thái cụm, chính sách nội bộ, lịch sử triển khai hoặc quyền truy cập của một doanh nghiệp. Tác tử chỉ đưa ra hỗ trợ vận hành cụ thể khi được cung cấp ngữ cảnh hiện tại và các quy tắc chi phối hệ thống.
Kiến thức Kubernetes thường phân bố không đều trong doanh nghiệp. Kỹ sư cấp cao có thể nắm rõ lịch sử vận hành mà đội ứng dụng không biết. Nhật ký nằm ở một công cụ, chỉ số nằm ở công cụ khác, còn chính sách, tài liệu xử lý sự cố, quy tắc truy cập và lịch sử triển khai lại được lưu riêng.
Khi tác tử đọc được tín hiệu hiện tại cùng các quy tắc chi phối hệ thống, đề xuất của nó trở nên cụ thể và có thể kiểm tra. Trong sự cố, hệ thống có thể đối chiếu nhật ký với một thay đổi gần đây. Trước đợt triển khai, tác tử có thể kiểm tra thay đổi theo chính sách. Khi khắc phục lỗi, tác tử có thể tính đến quyền truy cập thay vì phỏng đoán.
Giảm công việc vận hành lặp lại
AI tác tử có thể giảm công việc vận hành lặp lại bằng cách thu thập tín hiệu, đối chiếu dữ liệu và đề xuất nguyên nhân để kỹ sư đánh giá. Mục tiêu không phải thay thế quyết định chuyên môn, mà là giảm thời gian dành cho phân loại sự cố, ghép tín hiệu và thực hiện các bước kiểm tra thường lệ.
Các đội đảm bảo độ tin cậy của hệ thống dùng khái niệm công việc vận hành lặp lại để chỉ những nhiệm vụ thủ công giúp hệ thống tiếp tục chạy nhưng không tạo ra cải tiến lâu dài. Trong Kubernetes, đó có thể là phân loại sự cố, ghép tín hiệu bằng tay, theo dõi cảnh báo và thực hiện các bước kiểm tra thường lệ.
Những nhiệm vụ này không nhất thiết khó, nhưng có thể chiếm nhiều thời gian và sự tập trung. Hoạt động hiện đại hóa chủ động dễ đình trệ khi kỹ sư dành phần lớn ngày làm việc cho điều tra lặp lại. Kế hoạch nâng cấp cũng có thể bị chậm. Đội ngũ sau đó không còn đủ năng lực để xử lý nguyên nhân tạo ra khối lượng công việc ban đầu.
Khi vẫn chịu sự xem xét của con người, AI tác tử có thể tiếp nhận một phần công việc tương quan dữ liệu thường lệ và trả lại thời gian cho các quyết định cần kinh nghiệm chuyên môn. Cách tổ chức vai trò cũng đang thay đổi khi doanh nghiệp xác định lại vai trò kỹ sư trong thời AI.
Xây dựng hạ tầng thông minh mà không mất quyền kiểm soát
Triển khai AI tác tử trên Kubernetes cần bốn lớp kiểm soát. Đó là ngữ cảnh có thể quan sát, sự tách biệt giữa đề xuất và hành động, quản lý danh tính cùng quyền truy cập, và khả năng tích hợp với công cụ hiện có. Con người nên giữ quyền phê duyệt đối với những thay đổi có hậu quả vận hành.
Nội dung của bốn lớp kiểm soát
- Trước khi phân tích vấn đề, tác tử cần được tiếp cận trạng thái cụm, chính sách và lịch sử hiện tại có thể quan sát được.
- Đề xuất phải tách khỏi hành động. Tác tử có thể đưa ra khuyến nghị, nhưng thay đổi chỉ diễn ra sau khi con người phê duyệt và xác định phạm vi.
- Mọi hoạt động của tác tử cần đi qua quy tắc truy cập, danh tính và đường kiểm toán mà tổ chức đang sử dụng.
- Nền tảng nên tích hợp với công cụ và tiêu chuẩn hiện có để tránh khóa toàn bộ quy trình vào một hệ sinh thái duy nhất.
Áp dụng các lớp kiểm soát trên nền tảng
SUSE Rancher Prime và SUSE AI Factory là những ví dụ được nguồn gốc dùng để minh họa các nguyên tắc này. Trong SUSE Rancher Prime, các trợ lý AI hoạt động như một nhóm tác tử chuyên trách cùng bộ định tuyến thông minh. Nền tảng sử dụng ngữ cảnh cụm sẵn có và hành động qua cơ chế truy cập hiện hành. Con người có thể giữ một đề xuất để phê duyệt trước khi tác tử thực thi.
Khả năng kết nối với máy chủ dùng Giao thức Ngữ cảnh Mô hình bên ngoài cho phép đội ngũ mở rộng nguồn dữ liệu cho nhóm tác tử. Kiến trúc này chỉ phát huy tác dụng nếu tổ chức duy trì quyền kiểm soát đối với ngữ cảnh, danh tính, phạm vi hành động và lịch sử kiểm toán.
Không phải hệ thống nào cũng cần AI tác tử
AI tác tử phù hợp nhất với môi trường có nhiều cụm, nhiều nguồn tín hiệu và khối lượng vận hành lặp lại đáng kể. Với hệ thống nhỏ hoặc quy trình yêu cầu mọi thay đổi phải được thực hiện thủ công, vai trò phù hợp của tác tử có thể chỉ giới hạn ở quan sát, phân tích và đề xuất.
Giá trị cần được đo bằng thực tế công việc hằng ngày. Tác động lớn nhất xuất hiện khi AI được cung cấp đúng ngữ cảnh, bị ràng buộc bởi cơ chế kiểm soát rõ ràng, hoạt động trên một hệ sinh thái mở và giữ con người trong các quyết định có hậu quả vận hành.
Nếu đang đánh giá AI tác tử cho Kubernetes, tổ chức nên bắt đầu với một quy trình quan sát và đề xuất có phạm vi hẹp trước khi cho phép hệ thống thực hiện thay đổi.
