Nvidia đang kết hợp mô hình mở, truy xuất dữ liệu, đồ thị tri thức và mô hình dữ liệu quan hệ. Mục tiêu là giúp tác tử trí tuệ nhân tạo hiểu ngữ cảnh doanh nghiệp. Agent Knowledge Foundation để dữ liệu tiếp tục nằm trong Snowflake, Databricks, Palantir hoặc hệ thống hiện có. Các quyền truy cập và chính sách bảo mật đang áp dụng vẫn được giữ nguyên.
Theo The New Stack, Nvidia công bố hướng tiếp cận này tại GTC Berlin. Agent Knowledge Foundation được bổ sung vào bộ công cụ dành cho tác tử. Thành phần của nền tảng gồm Nemotron Retriever, Auto-Ontology, họ mô hình Kumo và các thư viện xử lý dữ liệu CUDA-X.
Với doanh nghiệp Việt Nam, điểm đáng chú ý là dữ liệu không phải chuyển sang một kho mới do Nvidia kiểm soát. Cách tổ chức này phù hợp với bài toán phân quyền dữ liệu và mô hình trí tuệ nhân tạo, nơi quyền truy cập quan trọng không kém năng lực của mô hình.
Kết nối dữ liệu vẫn chưa đủ
Kết nối tác tử với nhiều nguồn dữ liệu không bảo đảm rằng mô hình hiểu ý nghĩa và quan hệ giữa các trường dữ liệu. Tác tử vẫn có thể tìm sai tài liệu hoặc xem hai trường cùng nghĩa là hai khái niệm khác nhau nếu thiếu ngữ cảnh kinh doanh.
Adel El Hallak, phó chủ tịch phụ trách sản phẩm trí tuệ nhân tạo tác tử tại Nvidia, nói rằng kết nối dữ liệu chưa tạo ra ngữ cảnh doanh nghiệp. Việc nối tác tử với Snowflake, hệ thống thư điện tử và kho tri thức không khiến mô hình tự động hiểu toàn bộ tổ chức. Mô hình ngôn ngữ lớn dự đoán đơn vị ngôn ngữ tiếp theo tốt nhưng vẫn có thể khó tìm thông tin trong bảng tính nhiều trang.
Vấn đề nằm ở mối quan hệ giữa dữ liệu. Một cột có tên “gói” trong hệ thống này có thể mang cùng ý nghĩa với “hạng” trong hệ thống khác. Con người thường nhận ra sự tương đương đó từ bối cảnh kinh doanh, còn mô hình có thể xem chúng là hai khái niệm khác nhau.
Hiệu quả của tác tử vì thế không chỉ phụ thuộc vào mô hình nền. Như phân tích về điểm yếu của tác tử nằm ở khâu truy xuất, một tác tử có thể đưa ra câu trả lời kém dù mô hình đủ mạnh nếu nó nhận sai tài liệu hoặc thiếu quan hệ giữa các dữ kiện.
Truy xuất chính xác hơn để giảm số lần tìm kiếm
Nvidia ưu tiên độ chính xác của bước truy xuất và xếp hạng lại, ngay cả khi một lần tra cứu chậm hơn một chút. Nếu kết quả đầu tiên phù hợp hơn, tác tử có thể cần ít lượt tìm kiếm hơn và giảm tổng thời gian xử lý.
El Hallak cho rằng tác tử cần mô hình biểu diễn dữ liệu và xếp hạng lại có độ chính xác cao. Theo số liệu Nvidia cung cấp cho The New Stack, Nemotron Retriever tăng 65% mức độ liên quan của kết quả tìm kiếm. Thử nghiệm được thực hiện với một hệ thống OpenSearch nguồn mở. Nvidia cho biết mô hình cần ít bước tìm kiếm hơn và gần như không làm tăng độ trễ.
Cũng theo Nvidia, phiên bản mô hình xếp hạng lại được SAP tinh chỉnh hoạt động nhanh gần gấp ba lần. ServiceNow đạt chất lượng xếp hạng lại tốt hơn trong khi giảm độ trễ gần 25%. Các con số này do Nvidia công bố và chưa phải kết quả đánh giá độc lập được bài viết dẫn lại.
Từ truy xuất văn bản sang đồ thị tri thức
Agent Knowledge Foundation bổ sung đồ thị tri thức để biểu diễn quan hệ giữa dữ liệu doanh nghiệp. Lớp ngữ nghĩa này giúp tác tử nhận ra rằng những trường có tên khác nhau trong nhiều hệ thống vẫn có thể chỉ cùng một khách hàng, sản phẩm hoặc khái niệm kinh doanh.
Truy xuất có bổ sung dữ liệu giúp mô hình tìm các đoạn văn bản gần với câu hỏi. Tuy nhiên, kết quả không nhất thiết thể hiện rõ quan hệ giữa khách hàng, sản phẩm, đơn hàng và các khái niệm nội bộ. Nvidia muốn giải quyết khoảng trống đó bằng đồ thị tri thức.
Nội dung của lớp ngữ nghĩa
Thư viện Auto-Ontology tạo đồ thị từ các bảng dữ liệu của doanh nghiệp. Sau đó, thư viện ánh xạ dữ liệu thô vào những khái niệm kinh doanh. Danh mục phần mềm của Nvidia cho biết Auto-Ontology có giao diện lập trình REST. Thư viện cũng có máy chủ Giao thức Ngữ cảnh Mô hình để tác tử truy vấn.
Auto-Ontology không thay thế hoàn toàn truy xuất. Thư viện bổ sung cấu trúc để tác tử hiểu hai trường dữ liệu khác tên có thể cùng chỉ một khái niệm. Với doanh nghiệp có nhiều hệ thống được triển khai qua nhiều năm, lớp ngữ nghĩa chung có thể ngăn tác tử diễn giải từng bảng như một nguồn dữ liệu biệt lập.
Nvidia đã mua Illumex, công ty khởi nghiệp Israel chuyên tự động hóa lớp ngữ nghĩa và bản thể học cho dữ liệu doanh nghiệp. The New Stack dẫn mức giá được đưa tin là 75 triệu USD vào tháng Hai.
Khi đó, một người phát ngôn của Nvidia nói với Globes rằng chuyên môn của Illumex sẽ hỗ trợ việc áp dụng trí tuệ nhân tạo tác tử. Đội ngũ này tập trung vào các thư viện và mô hình dành cho tổ chức.
Kumo đưa dự báo vào dữ liệu dạng bảng
Kumo cung cấp các mô hình nền cho dữ liệu quan hệ và sử dụng dữ liệu đã được hài hòa để thực hiện phân loại hoặc dự báo. Trong kiến trúc của Nvidia, Auto-Ontology tạo sự nhất quán giữa các bảng, còn Kumo phân tích dữ liệu có cấu trúc đó.
Nvidia mua Kumo vào tháng Sáu trong một thương vụ được The Information định giá hơn 400 triệu USD, theo The New Stack. Sau thương vụ, Nvidia phát hành một số mô hình Kumo dưới dạng trọng số mở trên Hugging Face, trong đó có Kumo Tabular vào tháng Chín.
El Hallak cho biết các mô hình này có thể thay thế nhiều quy trình riêng của đội dữ liệu. Trước đây, họ phải xây quy trình cho từng nhiệm vụ như phân loại, dự báo khách hàng rời bỏ hoặc phân tích cảm xúc. Auto-Ontology tạo sự nhất quán giữa các bảng. Kumo dùng dữ liệu đã được hài hòa cho phân tích dự báo.
Với cách tiếp cận này, Nvidia không chỉ cung cấp phần cứng tăng tốc. Công ty đang ghép mô hình truy xuất, lớp ngữ nghĩa và mô hình dữ liệu quan hệ thành một nền móng chung cho tác tử. Đây là một phần của lớp hạ tầng dành cho tác tử trí tuệ nhân tạo đang hình thành quanh các hệ thống doanh nghiệp.
Nvidia chọn hợp tác thay vì giữ dữ liệu
Nvidia muốn cung cấp mô hình và thành phần xử lý mà không tiếp quản nơi lưu trữ dữ liệu. Snowflake, Databricks, Palantir và các nền tảng đối tác tiếp tục quản lý dữ liệu, danh sách kiểm soát truy cập và các lớp bảo mật của doanh nghiệp.
El Hallak nói Nvidia không muốn cạnh tranh với Snowflake mà muốn hợp tác với công ty này. Lập trường đó định hình vai trò của Agent Knowledge Foundation: Nvidia xây mô hình và thành phần xử lý, còn các nền tảng dữ liệu tiếp tục quản lý nơi lưu trữ, danh sách kiểm soát truy cập và các lớp bảo mật.
Đội chuỗi cung ứng của Nvidia đang sử dụng Agent Knowledge Foundation thông qua nền tảng Foundry của Palantir. Databricks kết hợp mô hình phát hiện bất thường Kumo với Genie Ontology, lớp ngữ cảnh được giới thiệu vào tháng Sáu. Khách hàng Snowflake có thể chạy mô hình Kumo trong Snowflake Notebooks.
Các đối tác xử lý phần Nvidia không muốn sở hữu trực tiếp, gồm quyền truy cập dữ liệu và chính sách bảo mật. Cách phân chia này giúp Nvidia tham gia sâu vào quy trình tác tử mà không buộc doanh nghiệp thay nền tảng dữ liệu đang dùng.
Cuộc đua kiểm soát toàn bộ hệ thống
Nvidia phân phối mô hình rộng rãi và để đối tác giữ quyền kiểm soát dữ liệu, trong khi một số nhà cung cấp khác tích hợp nhiều thành phần hơn vào hệ thống của họ. Sự khác biệt nằm ở bên quản lý mô hình, dữ liệu và quyền truy cập khi doanh nghiệp triển khai tác tử.
Theo The New Stack, SAP hoàn tất việc mua Prior Labs vào tháng Bảy. Công ty đứng sau các mô hình dữ liệu bảng TabPFN này được cam kết đầu tư hơn 1 tỷ euro trong bốn năm. SAP hiện cung cấp TabPFN-3.5 Plus trong SAP AI Core cùng các mô hình RPT do hãng phát triển.
Nvidia đi theo hướng phân phối rộng hơn. Công ty đưa các mô hình lên Hugging Face. Theo The New Stack, Nvidia đã đồng ý mua nền tảng này với giá 12,9 tỷ USD vào tháng Chín. El Hallak mô tả vai trò của Nvidia là xây trọng số và mô hình rồi phát hành chúng trên Hugging Face.
Nvidia giữ phần mô hình, trong khi Snowflake, Databricks và các đối tác tiếp tục kiểm soát dữ liệu cùng quyền truy cập. Canh bạc của Nvidia dựa trên giả định rằng doanh nghiệp không cần thêm một kho dữ liệu trung tâm. Doanh nghiệp cần một lớp ngữ cảnh đủ tốt để tác tử hiểu những hệ thống đã có.
Hãy theo dõi sine.vn để tiếp tục cập nhật cách các nền tảng dữ liệu và mô hình mở đang định hình thế hệ tác tử trí tuệ nhân tạo trong doanh nghiệp.
