Một yêu cầu của người dùng có thể tạo ra khoảng 20 lượt gọi từ tác tử AI. Các tác tử cần phản hồi trong chưa đầy 200 mili giây, trong khi Kubernetes chỉ bảo đảm một khoang mới khởi động trong khoảng một giây. Chênh lệch này buộc hệ sinh thái Kubernetes thay đổi cách triển khai mô hình, điều phối tài nguyên và kiểm soát tác tử.
Bob Killen và Daniel Krook là hai giám đốc của Quỹ Điện toán Đám mây Bản địa. Họ nêu các số liệu này trong cuộc phỏng vấn được Bill Doerrfeld tổng hợp trên The New Stack. Bài viết này tập trung vào chênh lệch giữa khoảng 20 lượt gọi, yêu cầu phản hồi dưới 200 mili giây và thời gian khởi động khoang khoảng một giây. Với các đội kỹ thuật tại Việt Nam đang xây dựng hạ tầng AI, ba con số đó giúp xác định phần năng lực phải được chuẩn bị trước thay vì mở rộng sau khi yêu cầu đã đến.
Khoảng cách giữa 20 lượt gọi và một giây khởi động
Killen và Krook mô tả Kubernetes là “một hệ điều hành cho AI”. Nhiều dự án mới không thay thế Kubernetes. Chúng giải quyết các bài toán cụ thể trên lớp nền này, từ suy luận mô hình phân tán đến vận hành tác tử ở quy mô lớn.
Một ví dụ là llm-d, dự án dành cho suy luận mô hình ngôn ngữ lớn theo kiến trúc phân tán. Agent Substrate cung cấp môi trường thực thi cho các đợt triển khai tác tử quy mô lớn. Hướng phát triển này phản ánh cách tác tử xử lý công việc: truy vấn mô hình, sử dụng công cụ, đọc dữ liệu và gọi thêm dịch vụ trước khi trả kết quả.
Độ trễ được cộng dồn qua từng bước. Killen và Krook nêu mốc khoảng 20 lượt gọi cho một yêu cầu cùng thời gian phản hồi dưới 200 mili giây. Cơ chế tạo khoang theo nhu cầu khó đáp ứng mức này nếu mỗi khoang mất khoảng một giây mới sẵn sàng. Hệ thống phải tính đến khoang đã làm nóng, năng lực được chuẩn bị trước và cách phân phối công việc hiệu quả hơn.
Tác tử trở thành tài nguyên Kubernetes
kagent là dự án trong khu thử nghiệm của Quỹ Điện toán Đám mây Bản địa. Dự án cho phép chạy tác tử AI dưới dạng tài nguyên tùy chỉnh của Kubernetes. Đội vận hành có thể mô tả và quản lý tác tử bằng những cơ chế quen thuộc trong cụm thay vì coi nó là một ứng dụng bên ngoài.
The New Stack dẫn lại hướng dẫn của Antonio Berben thuộc Solo.io và Felipe Vicens thuộc Telefónica. Theo hướng dẫn này, người dùng khai báo một tác tử bằng lời nhắc hệ thống, mô hình và danh sách công cụ. Bộ điều khiển biến khai báo thành một khoang đang chạy. Khoang có thể giao tiếp qua giao thức tác tử với tác tử.
Mô hình và cơ chế kiểm soát
Hướng dẫn chạy toàn bộ quy trình trên máy tính xách tay bằng mô hình cục bộ qua Ollama. kagent cũng hỗ trợ các nhà cung cấp mô hình được lưu trữ như OpenAI, Anthropic, Azure OpenAI và Gemini. Tuy nhiên, Berben và Vicens nhận thấy các mô hình nhỏ gặp khó khăn khi tạo bản khai hợp lệ.
Quy trình mẫu giới hạn tác tử xây dựng trong danh sách cho phép gồm ba công cụ. Mọi tài nguyên đều cần con người phê duyệt trước khi được áp dụng. Cơ chế kiểm soát truy cập theo vai trò chỉ cho phép tác tử ghi tài nguyên Agent. Người vận hành có thể điều khiển tác tử qua giao diện của kagent hoặc giao diện lập trình tác tử với tác tử.
Bài phân tích về tác tử AI trên Kubernetes trình bày rộng hơn về lớp hạ tầng này. Trong phạm vi bài hiện tại, kagent là ví dụ cho chi phí vận hành nằm sau khoảng 20 lượt gọi: mỗi công cụ, quyền ghi và bước phê duyệt đều có thể ảnh hưởng đến thời gian hoàn tất yêu cầu.
Hai mươi lượt gọi làm tăng nhu cầu về dữ liệu nền tảng
Sự phổ biến của tác tử viết mã không làm kỹ thuật nền tảng kém quan trọng. Cory O’Daniel là đồng sáng lập kiêm giám đốc điều hành Massdriver và từng thúc đẩy OpenTofu từ sớm. Ông cho rằng hạ tầng quanh nền tảng dành cho nhà phát triển phải thay đổi để phục vụ tác tử.
O’Daniel gọi sự chuyển dịch này là chuyển từ “hạ tầng dưới dạng mã” sang “hạ tầng dưới dạng dữ liệu”. Cách tiếp cận đó không thay thế Terraform, OpenTofu hoặc Git. Tài nguyên, quan hệ phụ thuộc, quyền sở hữu, môi trường và chính sách được biểu diễn thành một đồ thị có thể truy vấn để tác tử lấy thông tin hạ tầng hiệu quả hơn.
Mỗi yêu cầu phát sinh nhiều lượt gọi khiến tác tử phải truy vấn tài nguyên, quan hệ phụ thuộc, quyền sở hữu, môi trường và chính sách mà không kéo dài đường phản hồi. Vì vậy, những nỗ lực gỡ nút thắt cho tác tử AI trong hạ tầng phải đi cùng dữ liệu có thể truy vấn và chính sách quyền hạn rõ ràng.
Kiểm soát từng lượt gọi cần trách nhiệm cụ thể
Matteo Bisi của Reevo nêu một ranh giới thực tế: đội bảo mật có thể viết chính sách nhưng không thể tự hợp nhất biểu đồ Helm. Trong bài đăng của Quỹ Điện toán Đám mây Bản địa được The New Stack dẫn lại, Bisi đặt câu hỏi ai chịu trách nhiệm bảo đảm nền tảng Kubernetes đáp ứng NIS2 và DORA của Liên minh châu Âu.
Bisi đề xuất xây dựng chuỗi truy vết. Các đội rủi ro, pháp lý và bảo mật xác định phạm vi, yêu cầu kiểm soát và bằng chứng cần thu thập. Đội nền tảng và đội ứng dụng sau đó nhận các đầu việc cụ thể, hạng mục trong chu kỳ phát triển và hoạt động cần lặp lại.
Doanh nghiệp Việt Nam không nhất thiết áp dụng trực tiếp hai quy định của Liên minh châu Âu cho mọi hệ thống. Bài học từ trường hợp này là chính sách chỉ có tác dụng khi được chuyển thành tài nguyên, quyền hạn, bằng chứng và người phụ trách cụ thể trong quy trình Kubernetes.
Không phải hệ thống nào cũng cần Kubernetes
Theo The New Stack, Faith Sodipe đưa ra một đối trọng tại Nordic APIs Summit 2026 ở Stockholm, Thụy Điển. Bà là kỹ sư phần mềm tại Bauer Media Outdoor UK. Sodipe gọi việc xây dựng cho vẻ ngoài của quy mô thay vì quy mô thực tế là “biểu diễn hạ tầng”.
Theo phần trình bày được The New Stack thuật lại, hệ thống tiếp nhận dữ liệu của Bauer Media Outdoor UK xử lý gần một triệu sự kiện mỗi ngày. Lưu lượng của hệ thống tăng đột biến và kích thước tải thay đổi. Dù vậy, việc sửa tình trạng cạn nhóm kết nối, hiện tượng nhiều yêu cầu đồng thời đánh vào bộ nhớ đệm và các truy vấn chậm mang lại giá trị lớn hơn một nền tảng điều phối vùng chứa nặng.
Đội ngũ vẫn đóng gói ứng dụng bằng Docker nhưng không dùng Kubernetes. Trường hợp này không phủ nhận vai trò của Kubernetes đối với tác tử AI. Nó cho thấy quyết định triển khai phải xuất phát từ tải thực tế, yêu cầu độ trễ và độ phức tạp vận hành, thay vì giả định rằng mọi hệ thống đều cần cùng một lớp điều phối.
Các nội dung khác của hệ sinh thái cũng đang dịch chuyển
HPE Morpheus Software đã nhận chứng nhận SUSE và hỗ trợ SUSE Linux Enterprise Server 16. Theo thông báo của HPE được bài gốc dẫn lại, xác thực hệ điều hành giúp giảm rủi ro triển khai và tạo kết quả dễ dự đoán hơn trong môi trường sản xuất. Điều này liên quan trực tiếp đến các doanh nghiệp quản lý hạ tầng đám mây lai và máy ảo từ nhiều nhà cung cấp.
Platform Engineering Day đã được tổ chức cùng các sự kiện KubeCon và CloudNativeCon từ năm 2024. Theo lịch được The New Stack tổng hợp, sự kiện năm 2026 diễn ra vào thứ Hai, ngày 9 tháng 11. Sự kiện nằm trong khuôn khổ KubeCon và CloudNativeCon Bắc Mỹ tại Salt Lake City, Utah. Chương trình tập trung đáng kể vào tác tử trong hai vai trò: tạo dịch vụ cho nền tảng nội bộ và sử dụng chính các dịch vụ đó.
KubeCon và CloudNativeCon Bắc Mỹ 2026 được lên lịch từ ngày 9 đến 12 tháng 11 tại Salt Lake City, theo thông tin sự kiện trong bài của The New Stack. Trong các nội dung được tổng hợp, mốc khoảng 20 lượt gọi, yêu cầu dưới 200 mili giây và thời gian khởi động khoang khoảng một giây tạo thành một bài toán hiệu năng cụ thể. Các dự án suy luận phân tán, tài nguyên tác tử và cơ chế quyền truy cập được nhắc đến như những cách xử lý từng phần của bài toán đó.
Theo dõi Sine để tiếp tục cập nhật cách các tác tử AI đang thay đổi hạ tầng và công việc vận hành phần mềm.
