Dynatrace mua Arize với giá 915 triệu USD. Thương vụ kết hợp khả năng quan sát ứng dụng và hạ tầng với công nghệ theo dõi, đánh giá và gỡ lỗi mô hình cùng tác tử AI. Nhóm kỹ thuật có thể lần theo một lỗi từ đầu ra của tác tử đến dịch vụ, ứng dụng và tài nguyên điện toán bên dưới. Theo The New Stack, thương vụ lấp khoảng trống giữa công cụ giám sát hạ tầng và công cụ theo dõi mô hình.
“Không ai muốn ngồi xem hàng tỷ dấu vết. Sẽ không có ai làm việc đó. Vì vậy, câu hỏi là làm thế nào để tác tử đọc dữ liệu đo từ xa”, Aparna Dhinakaran, đồng sáng lập kiêm giám đốc sản phẩm Arize, nói với The New Stack.
Thương vụ 915 triệu USD giải quyết vấn đề gì
Một ứng dụng có thể vận hành ổn định ở tầng hạ tầng nhưng tác tử AI bên trên vẫn trả lời sai, gọi nhầm công cụ hoặc không hoàn thành nhiệm vụ. Dynatrace công bố ý định thâu tóm Arize vào giữa tháng 8 và thương vụ hiện đã hoàn tất. Dynatrace đặt mục tiêu tạo ra một nền tảng theo sát toàn bộ hệ thống AI, từ hạ tầng kỹ thuật đến hành vi của mô hình.
Nội dung thương vụ: Hai lớp quan sát đang nhập làm một
Dynatrace quan sát ứng dụng, dịch vụ và hạ tầng, còn Arize theo dõi hành vi cùng đầu ra của mô hình và tác tử. Sau thương vụ, nhóm kỹ thuật có thể điều tra cùng một sự cố ở cả hai lớp thay vì chuyển giữa công cụ quan sát phần mềm và công cụ đánh giá AI.
Nền tảng quan sát của Dynatrace
Dynatrace có hơn hai thập kỷ kinh nghiệm trong lĩnh vực giám sát hiệu năng ứng dụng. Sau đó, công ty mở rộng sang quan sát toàn bộ hệ thống và bảo mật. Theo The New Stack, Dynatrace được thành lập tại Áo năm 2005 và được Compuware mua với giá 256 triệu USD vào năm 2011. Thoma Bravo mua Compuware năm 2014. Năm 2015, tập đoàn này tách Dynatrace thành doanh nghiệp độc lập rồi hợp nhất công ty với Keynote Systems. Dynatrace lên sàn chứng khoán New York năm 2019. The New Stack tổng hợp các mốc thời gian và giá trị giao dịch này từ hồ sơ công bố của các bên liên quan.
Steve Tack đã theo sát phần lớn hành trình đó. Theo The New Stack, sau hơn một thập kỷ tại Compuware, ông gia nhập Dynatrace năm 2012 với vị trí phó chủ tịch cấp cao phụ trách quản lý sản phẩm và trở thành giám đốc sản phẩm từ năm 2024.
AI trong sản phẩm Dynatrace
Trí tuệ nhân tạo ngày càng giữ vai trò lớn trong sản phẩm của Dynatrace. Theo The New Stack, năm 2017, công ty chính thức giới thiệu Davis, trợ lý số dùng AI để giám sát hiệu năng. Davis sau đó phát triển thành hệ thống AI nhân quả có nhiệm vụ tìm nguyên nhân gốc của sự cố. Dynatrace tiếp tục bổ sung AI dự báo, AI tạo sinh và gần đây là AI tác tử, trong đó có các tác tử SRE tự chủ có thể điều tra và xử lý sự cố.
“Một việc Dynatrace đã làm trong thời gian dài là đầu tư vào việc dùng AI để tăng sức mạnh cho khả năng quan sát. Điều đó nằm trong ADN của chúng tôi”, Tack nói với The New Stack.
Năng lực theo dõi AI của Arize
Arize tiếp cận bài toán từ phía còn lại. Công ty xuất hiện công khai năm 2020, tập trung giúp doanh nghiệp giám sát và khắc phục sự cố của mô hình học máy trong môi trường thực tế. Khi mô hình ngôn ngữ lớn và tác tử trở nên phổ biến, Arize mở rộng sang theo dõi hành vi tác tử và thực hiện đánh giá. Công nghệ của hãng còn phát hiện những lỗi mà công cụ giám sát ứng dụng thông thường có thể bỏ qua.
Dynatrace chủ yếu phục vụ các nhóm SRE và kỹ thuật nền tảng. Arize hướng đến kỹ sư AI và nhà phát triển. Việc kết hợp hai lớp này phản ánh cách hạ tầng AI được tổ chức và vận hành: mô hình phụ thuộc vào nhiều dịch vụ, giao diện lập trình và tài nguyên điện toán thay vì hoạt động riêng lẻ.
Điều tra lỗi xuyên suốt hai lớp
Dhinakaran cho biết công cụ của Arize có thể phát hiện vấn đề trong quá trình suy luận, sử dụng công cụ hoặc tạo đầu ra. Tuy nhiên, nếu lỗi bắt nguồn từ dịch vụ phần mềm mà tác tử gọi đến, nhà phát triển vẫn phải kiểm tra dấu vết của lớp phần mềm bên dưới.
“Trước đây, chúng tôi có một mặt của đồng xu, tức khả năng gỡ lỗi bộ khung và những vấn đề liên quan đến mô hình ngôn ngữ lớn. Nếu đó là lỗi phần mềm, chúng tôi phải chuyển sang xem dấu vết phần mềm để tìm nguyên nhân gốc. Giờ đây, chúng tôi có cả hai mặt để gỡ lỗi”, Dhinakaran nói.
Khi hai nền tảng được nối với nhau, một lỗi của tác tử có thể được điều tra xuyên suốt từ đầu ra của mô hình đến dịch vụ, ứng dụng và hạ tầng đã tham gia xử lý yêu cầu.
Stephen Elliot là phó chủ tịch nhóm phụ trách phát triển phần mềm và vận hành công nghệ thông tin tại IDC. Ông nhận định việc đưa đánh giá và quan sát vào cùng một quy trình sẽ nối liền hai giai đoạn: xây dựng ứng dụng AI và vận hành chúng ổn định. Các nhóm kỹ thuật nhờ đó có thể phát hiện vấn đề sớm hơn và xử lý nhanh hơn.
Từ đọc dữ liệu đến trực tiếp hành động
Tác tử AI có thể trở thành bên đầu tiên đọc dữ liệu quan sát, khoanh vùng sự cố và đề xuất cách xử lý trước khi chuyển quyết định cho con người. Vai trò này thay đổi quy trình vận hành từ việc kỹ sư tự lần theo từng dấu vết sang kiểm tra kết quả phân tích hoặc bản sửa lỗi do tác tử tạo ra.
Quy mô dữ liệu khiến cách làm cũ khó duy trì. Phần mềm hiện đại có thể tạo ra nhiều dữ liệu đo từ xa hơn mức kỹ sư có thể tự kiểm tra. Tác tử có thể liên tục rà soát lượng dữ liệu này, thu hẹp phạm vi sự cố và chuyển phần cần quyết định cho con người.
Tác tử sàng lọc dữ liệu ở quy mô lớn
Một ví dụ đã xuất hiện trong công tác đánh giá an ninh mạng. Anthropic công bố các sự cố đánh giá an ninh mạng trong đó mô hình Claude truy cập được hệ thống thực của bên thứ ba. Khi điều tra, Anthropic dùng tìm kiếm bằng tác tử để sàng lọc lượng lớn bản ghi hội thoại. Claude cũng tham gia rà soát hàng triệu cuộc trò chuyện đã được đánh dấu để kiểm tra kỹ hơn.
Khả năng đọc dữ liệu mới chỉ là bước đầu. Theo Dhinakaran, tác tử có thể tạo bản sửa lỗi sau khi nhận diện nguyên nhân nếu được truy cập kho mã và các kỹ năng cần thiết. Nhiều tác tử lập trình AI cũng đang tiến theo hướng này. Con người vẫn kiểm tra các thay đổi trước khi đưa chúng vào hệ thống.
Alyx và Signal đưa phân tích thành bản sửa lỗi
Arize đã áp dụng mô hình này với Alyx, trợ lý nằm trong sản phẩm của công ty. Signal rà soát dấu vết của Alyx và phát hiện các lỗi lặp lại có cùng nguyên nhân. Sau đó, hệ thống mở yêu cầu hợp nhất mã để sửa lỗi. Theo Dhinakaran, Arize chấp nhận khoảng 65% đến 70% số yêu cầu đó. Kỹ sư phụ trách Alyx vì thế chuyển từ tự đọc dấu vết sang kiểm tra các bản sửa do tác tử đề xuất.
Dhinakaran mô tả hướng phát triển dài hạn là phần mềm có thể tự duy trì, tự bảo dưỡng và phần nào tự cải thiện. Con người vẫn thực hiện bước đánh giá cuối cùng. Mô hình này cũng đặt ra câu hỏi về mức quyền nên trao cho AI, tương tự bài toán phân quyền cho AI trong hoạt động an ninh.
Vì sao Dynatrace chọn mua thay vì tự xây dựng
Công nghệ sẵn có rút ngắn quá trình tích hợp
Dynatrace chọn mua Arize vì công ty này đã có công nghệ chuyên biệt để theo dõi, đánh giá và gỡ lỗi ứng dụng AI. Quyền sở hữu công nghệ cho phép Dynatrace tích hợp sâu dữ liệu hạ tầng với dấu vết ứng dụng. Công ty cũng có thể kết nối trực tiếp các dữ liệu đó với việc đánh giá hành vi AI, thay vì chỉ dựa vào quan hệ đối tác.
Dynatrace và Arize chưa từng là đối tác chính thức trước thương vụ, dù có chung một số khách hàng. Theo Tack, một số khách hàng đã đề nghị hai công ty hoạt động giống một thực thể thống nhất hơn. Tác tử AI vẫn sống trong một hệ sinh thái phần mềm rộng hơn, gồm ứng dụng, dịch vụ, nền tảng đám mây và hạ tầng.
Phoenix và OpenInference là tài sản cốt lõi
Arize sở hữu những thành phần khó xây dựng từ đầu. Phoenix là nền tảng có mã nguồn khả dụng để theo dõi, đánh giá và gỡ lỗi ứng dụng cùng tác tử AI. OpenInference mở rộng quy ước của OpenTelemetry để ghi nhận các hoạt động đặc thù như lệnh gọi mô hình ngôn ngữ lớn, sử dụng công cụ, truy xuất dữ liệu và hành vi của tác tử.
“Đó không phải là những thứ dễ xây dựng”, Tack nói.
Một quan hệ đối tác thông thường có thể cho phép hai bên thực hiện một phần tích hợp. Tuy nhiên, Tack cho rằng cách đó khó tạo ra trải nghiệm liền mạch trên toàn bộ chuỗi vận hành. Mua lại giúp Dynatrace kết hợp sâu hơn dữ liệu hạ tầng, dấu vết ứng dụng và đánh giá hành vi AI.
Sản phẩm Arize vẫn được cung cấp độc lập
Arize vẫn được cung cấp như một sản phẩm độc lập sau khi thương vụ hoàn tất. Công ty tiếp tục hỗ trợ Phoenix và AX, còn các năng lực theo dõi và đánh giá AI của Arize sẽ được tích hợp dần vào nền tảng Dynatrace. Khách hàng không cần sử dụng Dynatrace để triển khai công nghệ của Arize.
Tích hợp dần vào nền tảng Dynatrace
Mục tiêu dài hạn là nối hai giai đoạn thường bị tách rời: đánh giá ứng dụng AI khi xây dựng và theo dõi hành vi của chúng sau khi đưa vào vận hành thực tế.
Thương vụ 915 triệu USD cho thấy quan sát AI không còn là việc bổ sung một bảng điều khiển. Khi tác tử vừa tạo ra dạng lỗi mới vừa có thể trở thành bên đầu tiên phát hiện và sửa lỗi, doanh nghiệp cần theo dõi đồng thời cách phần mềm vận hành và cách AI đưa ra quyết định.
Hãy tiếp tục theo dõi Sine để cập nhật cách tác tử AI đang thay đổi quy trình phát triển và vận hành phần mềm.
