Để biến phản hồi vận hành AI thành tác tử tốt hơn, đội phát triển cần nối dấu vết thực tế với dữ liệu đã tuyển chọn, phương án cải thiện và kết quả đánh giá có thể lặp lại. Theo The New Stack, vòng phản hồi này giúp đội ngũ tìm lỗi, chọn cách sửa phù hợp và kiểm chứng phiên bản mới trước khi đưa đến người dùng.
Một tác tử hoạt động ổn định chưa chắc đang trả lời chính xác hơn hoặc làm người dùng hài lòng hơn. Sau lần triển khai đầu tiên, đội ngũ còn phải kiểm soát chất lượng, độ trễ và chi phí mà không để việc bảo trì công cụ hoặc bàn giao giữa các nhóm lấn át thời gian cải thiện sản phẩm.
Tìm khoảng trống giữa các nhóm
Khoảng trống xuất hiện khi nhóm huấn luyện, nhóm ứng dụng và nhóm vận hành dùng các hệ thống khác nhau để đánh giá cùng một tác tử. Dịch vụ có thể hoạt động bình thường trong khi nhóm nghiên cứu vẫn thiếu dữ liệu về chất lượng câu trả lời và cảm nhận của người dùng.
Nhóm huấn luyện hiểu một kết quả tốt phải trông như thế nào, còn nhóm vận hành chịu trách nhiệm giữ dịch vụ hoạt động. Hai bên vì thế có thể nhìn cùng một hệ thống qua những bảng điều khiển hoàn toàn khác nhau.
Xác định nơi bối cảnh bị mất
Dấu vết ứng dụng thường đi vào bảng theo dõi thời gian hoạt động. Kỹ sư trực ca thấy dịch vụ khỏe mạnh, nhưng nhóm nghiên cứu lại không biết nhiều hơn về chất lượng câu trả lời hoặc cảm nhận của người dùng. Trong lúc hành vi người dùng thay đổi, bộ đánh giá cũng dần lỗi thời nếu không có người chịu trách nhiệm cập nhật. Đến lần phát hành tiếp theo, nhà nghiên cứu, kỹ sư AI và người phụ trách kinh doanh lại trở về các hệ thống riêng.
Dịch vụ có thể hoạt động bình thường trong khi nhóm nghiên cứu gần như không biết câu trả lời có tốt hơn hay không.
Một điểm khởi đầu thực tế là xác định ai có quyền biến lỗi trong môi trường vận hành thành trường hợp đánh giá và ai chịu trách nhiệm giữ trường hợp đó phù hợp. Nếu quy trình đòi hỏi sao chép bối cảnh thủ công giữa nhiều nhóm, thông tin dễ biến mất trong lúc bàn giao. Đây cũng là vấn đề rộng hơn của hạ tầng AI và cách vận hành các thành phần liên quan.
Nối năm giai đoạn của vòng cải tiến
Vòng cải tiến AI gồm năm giai đoạn: vận hành, quan sát, tuyển chọn dữ liệu, cải thiện và đánh giá. Mỗi giai đoạn phải chuyển đủ bối cảnh sang giai đoạn tiếp theo để đội ngũ biết điều gì đã xảy ra, lỗi nằm ở đâu, thay đổi nào được đề xuất và kết quả có thực sự tốt hơn hay không.
nội dung cần chuyển qua từng giai đoạn
Vận hành bắt đầu bằng việc chọn mô hình cùng bộ mã và công cụ bao quanh mô hình theo đúng khối lượng công việc. Hệ thống cần ghi lại từ đầu những tín hiệu sẽ được dùng để điều tra hành vi sau khi triển khai.
Quan sát đòi hỏi đội ngũ theo dõi nhiều hơn trạng thái hoạt động của dịch vụ. Dấu vết, chỉ số, lượt gọi công cụ và phản hồi hành vi cho phép kỹ sư xem lại quyết định của tác tử và xác định một lượt chạy sai ở đâu. Với tác tử viết mã, hiểu rõ cách tác tử lập trình hoạt động cũng giúp chọn đúng dữ liệu cần quan sát.
Tuyển chọn chuyển các ví dụ thực tế thành tập dữ liệu hữu ích và dùng chúng để làm mới bộ đánh giá. Con người vẫn cần tham gia rà soát. Nguồn gốc của từng ví dụ cũng phải được giữ lại để đội ngũ biết dữ liệu đến từ đâu.
Chọn thay đổi và kiểm chứng kết quả
Cải thiện bắt đầu bằng cách sửa phù hợp với loại lỗi. Đội ngũ có thể điều chỉnh lớp công cụ quanh mô hình, đổi mô hình, học tăng cường, tinh chỉnh có giám sát hoặc chưng cất mô hình. Trước khi thực hiện, nhóm phụ trách cần xác định kết quả mong đợi về chất lượng, độ trễ hoặc chi phí.
Đánh giá là bước so sánh phiên bản ứng viên với các tiêu chuẩn có thể lặp lại trước, trong và sau khi triển khai. Một bản phát hành phải cho thấy điều gì đã tiến bộ thay vì chỉ dựa vào vài câu trả lời có vẻ khả quan.
Giữ hồ sơ đi cùng công việc
Một hồ sơ chung phải nối từng bản triển khai với đúng phiên bản mô hình, tập dữ liệu, bài đánh giá và ví dụ thu được trong môi trường vận hành. Mối liên hệ này cho phép đội ngũ xác định thay đổi nào đã được thực hiện, bằng chứng nào hỗ trợ thay đổi đó và kết quả sau triển khai có tốt hơn hay không.
Theo The New Stack, những điểm đứt gãy trong bàn giao đã định hình cách CoreWeave xây dựng CoreWeave Forge, được công bố tại hội nghị Fully Connected 2026 vào tuần trước thời điểm bài gốc xuất bản. Môi trường này kết nối năm giai đoạn vận hành, quan sát, tuyển chọn, cải thiện và đánh giá. MasterClass và Canva đang bắt đầu sử dụng Forge để hoàn thiện vòng cải tiến AI của họ.
CoreWeave Registry quản lý mô hình, tác tử và tập dữ liệu. Weights & Biases Models theo dõi thử nghiệm, quá trình dò siêu tham số, phân tích và luồng công việc tự động. Hồ sơ chung cho biết thay đổi nào đã được thực hiện và kết quả có tốt hơn hay không.
Theo dõi tín hiệu và bằng chứng đánh giá
Ở lớp quan sát, CoreWeave Agent Lens ghi lại các bước, quyết định và lượt gọi công cụ, đồng thời cung cấp góc nhìn theo cuộc hội thoại và chi tiết kỹ thuật. Hệ thống giám sát chấm điểm lưu lượng đang chạy với sự kiểm tra và tuyển chọn của con người. Theo The New Stack dẫn lại bài công bố của CoreWeave, Agent Lens cải thiện khả năng phát hiện lỗi thêm 20% và xử lý vấn đề với chi phí bằng một nửa. Mỗi đội vẫn cần đánh giá các kết quả này trên khối lượng công việc của chính mình.
CoreWeave Notebooks cung cấp sổ tay Python được quản lý để dùng chung bài đánh giá và thực hiện phân tích tùy chỉnh. CoreWeave ARIA phân tích lượt chạy, đề xuất thử nghiệm và khuyến nghị thay đổi mã được lưu trên GitHub. Việc tích hợp với Weights & Biases Models hỗ trợ nghiên cứu tự động dựa trên tín hiệu phát hiện được. Bằng chứng đánh giá cần nằm cạnh thay đổi đề xuất để người phụ trách có thể xem kết quả trước khi chấp thuận.
CoreWeave Sandboxes cung cấp môi trường bộ xử lý trung tâm hoặc bộ xử lý đồ họa biệt lập cho tác tử, lượt gọi công cụ, học tăng cường và đánh giá. CoreWeave ARIA cùng CoreWeave Sandboxes đã được cung cấp rộng rãi. Agent Lens, Notebooks và Model Distillation đang ở giai đoạn xem trước và là các phần mới trong CoreWeave Forge.
Chọn cách cải thiện phù hợp với công việc
Cách cải thiện phải dựa trên lỗi đã quan sát và yêu cầu của khối lượng công việc. Điều chỉnh công cụ, tinh chỉnh có giám sát, học tăng cường và chưng cất mô hình giải quyết những vấn đề khác nhau. Mỗi phương án cần được đánh giá theo chất lượng, độ trễ và chi phí trước khi nhận lưu lượng thực tế.
Quá trình hậu huấn luyện sử dụng tín hiệu thực tế để cải thiện chất lượng mô hình, độ trễ và chi phí mà không yêu cầu một cụm huấn luyện riêng. Serverless SFT và Serverless RL cho phép các nhóm thử nghiệm công thức huấn luyện của họ.
Với một nhiệm vụ đã được chứng minh trong môi trường vận hành, Model Distillation huấn luyện một mô hình nhỏ hơn có trọng số mở bằng đầu ra của mô hình lớn. Sau đó, hệ thống chấm điểm trực tiếp mô hình ứng viên với mô hình đang dùng. Kết quả so sánh là căn cứ để quyết định có chuyển lưu lượng sang mô hình nhỏ hơn hay không. Kích thước nhỏ chỉ có giá trị khi mô hình vẫn đáp ứng yêu cầu của nhiệm vụ.
Coi suy luận là một phần của vòng lặp
Suy luận không chỉ là bước phục vụ câu trả lời cuối cùng. Nó tạo dữ liệu vận hành cho quá trình quan sát, đánh giá và hậu huấn luyện. Lựa chọn giữa hạ tầng dùng chung và hạ tầng biệt lập phụ thuộc vào mức kiểm soát mà khối lượng công việc yêu cầu đối với mô hình, tài nguyên và quy trình triển khai.
CoreWeave Inference cung cấp Serverless Inference để truy cập các mô hình có trọng số mở và Dedicated Inference cho công việc chạy trên hạ tầng biệt lập. Với Serverless Inference, CoreWeave quản lý hạ tầng. Dedicated Inference cho phép đội ngũ kiểm soát trọng số mô hình, thiết lập triển khai và tài nguyên bộ xử lý đồ họa. Đội ngũ có thể chuyển đổi khi yêu cầu thay đổi.
Cline sử dụng các mô hình mã nguồn mở trong Serverless Inference cho tác tử lập trình mã nguồn mở, cho phép người dùng tự chọn mô hình. Theo bài công bố của CoreWeave được The New Stack dẫn lại, Cline được hơn 11 triệu nhà phát triển tin dùng. Grammarly sử dụng Dedicated Inference với khả năng chọn rõ bộ xử lý đồ họa và hoạt động được quản lý toàn phần.
Đưa trọng số mới trở lại hệ thống phục vụ
Học tăng cường đặt ra thêm một yêu cầu. Chính sách tạo ra các mẫu hành vi (rollout) để huấn luyện, quá trình huấn luyện tạo trọng số mới, rồi các trọng số đó quay lại hệ thống phục vụ cho vòng tiếp theo. Nếu tải điểm kiểm tra chậm, toàn bộ chu kỳ cũng chậm theo.
Tính năng RL Rollouts mới trong Dedicated Inference dùng nền tảng NVIDIA Dynamo để nạp nóng các điểm kiểm tra đã cập nhật với thời gian gián đoạn tối thiểu. CoreWeave hợp tác với NVIDIA và đội kỹ thuật của You.com để hậu huấn luyện NVIDIA Nemotron 3.5 Lightning bằng RL Rollouts trong NeMo gym, sử dụng giao diện lập trình ứng dụng tìm kiếm web của You.com. Theo bài công bố của CoreWeave được The New Stack dẫn lại, độ trễ khi nạp lại mô hình được cải thiện 15 lần so với mức cơ sở.
Giữ vòng cải tiến mở với hệ thống hiện có
Vòng cải tiến cần kết nối với nền tảng quan sát, kho dữ liệu, hệ thống bảo mật và công cụ mà doanh nghiệp đang sử dụng. Các giao diện mở giúp dữ liệu đã tuyển chọn và bộ đánh giá tiếp tục được dùng khi khối lượng công việc chạy trên CoreWeave Cloud, một đám mây khác hoặc trung tâm dữ liệu riêng.
CoreWeave Partner Network gồm hạ tầng, dịch vụ dữ liệu, nhà cung cấp phần mềm độc lập, mô hình và dịch vụ suy luận. Các giải pháp trong mạng lưới được thử nghiệm trên CoreWeave trong điều kiện vận hành thực tế.
Phạm vi đó bao gồm cả công cụ mà tác tử gọi. Exa, Parallel Web Systems và You.com cung cấp lớp tìm kiếm web trực tiếp qua một kết nối. Tìm kiếm giúp tác tử tiếp cận thông tin nằm ngoài dữ liệu huấn luyện, nhưng đội ngũ vẫn phải quan sát và đánh giá cả lượt gọi công cụ lẫn câu trả lời tạo ra. Yêu cầu quan sát và đánh giá này cũng áp dụng khi doanh nghiệp xem xét cách tác tử lựa chọn công cụ và hệ quả với doanh nghiệp.
CoreWeave cho biết Forge được xây dựng cho các nhóm chạy công việc trên CoreWeave Cloud, đám mây khác và trung tâm dữ liệu riêng. Dữ liệu cải tiến vẫn có thể di chuyển nhờ các giao diện mở giữa từng giai đoạn.
Bắt đầu từ một lỗi trong môi trường vận hành
Cách triển khai vòng cải tiến rõ nhất là chọn một lỗi mà đội ngũ đã hiểu, rồi theo dõi lỗi đó từ dấu vết vận hành đến ví dụ đã tuyển chọn, phương án sửa, kết quả đánh giá và lần triển khai tiếp theo. Quy trình này làm rõ nơi bối cảnh bị mất và người chịu trách nhiệm ở từng bước.
- Chọn một lỗi có thật trong môi trường vận hành.
- Tìm dấu vết, lượt gọi công cụ và bối cảnh liên quan.
- Chuyển trường hợp đó thành dữ liệu đã tuyển chọn.
- Chọn cách cải thiện phù hợp với loại lỗi.
- So sánh phiên bản ứng viên bằng bài đánh giá có thể lặp lại.
- Chỉ triển khai khi kết quả cho thấy thay đổi đáp ứng yêu cầu.
CoreWeave Forge cung cấp bản dùng thử Pro trong 30 ngày kèm tín dụng cho nhiều dòng sản phẩm. CoreWeave ARENA hướng đến các nhóm muốn kiểm chứng khối lượng công việc thực tế với quyền tiếp cận trực tiếp chuyên gia và hạ tầng của CoreWeave. Mỗi lần triển khai cần cung cấp dữ liệu cho lần xây dựng kế tiếp, kèm bằng chứng rằng phiên bản mới tốt hơn phiên bản trước.
Nếu đang vận hành một tác tử AI, hãy chọn một lỗi có thật và theo dõi trọn vòng cải tiến của lỗi đó.
