Nội dung chính
Google đã đưa TorchTPU, phiên bản PyTorch dành cho chip trí tuệ nhân tạo của hãng, thành dự án mã nguồn mở. Nhà phát triển có thể chuyển ứng dụng PyTorch hiện có sang bộ xử lý tensor của Google và Google Cloud. Quá trình này chỉ cần một thay đổi cấu hình, thay vì viết lại ứng dụng.
Theo TechCrunch, Google công bố động thái này vào thứ Ba. Công ty tham gia cùng Amazon trong nỗ lực giảm lợi thế lâu năm của Nvidia trên thị trường phần cứng trí tuệ nhân tạo. Phần lớn ứng dụng trí tuệ nhân tạo hiện được viết để mặc định chạy trên bộ xử lý đồ họa của Nvidia.
Vì sao PyTorch giúp Nvidia giữ lợi thế
Nhiều tính năng của PyTorch được xây dựng khi bộ xử lý đồ họa Nvidia đã là phần cứng tiêu chuẩn trong nghiên cứu trí tuệ nhân tạo. Mối liên hệ này giúp Nvidia giữ lợi thế. TorchTPU cho phép chuyển ứng dụng PyTorch hiện có sang TPU bằng một thay đổi cấu hình mà không cần viết lại ứng dụng.
PyTorch là bộ công cụ mã nguồn mở phổ biến để xây dựng, huấn luyện và vận hành mô hình trí tuệ nhân tạo. TechCrunch dẫn một số thống kê cho rằng PyTorch được sử dụng trong 85% ứng dụng trí tuệ nhân tạo.
Meta, khi đó còn mang tên Facebook, phát triển PyTorch vào năm 2016. Theo TechCrunch, bộ xử lý đồ họa Nvidia lúc ấy đã là phần cứng tiêu chuẩn trong nghiên cứu trí tuệ nhân tạo, nên nhiều tính năng của PyTorch được xây dựng riêng để hoạt động với loại chip này. Đến năm 2022, Meta chuyển PyTorch cho Linux Foundation, tổ chức phi lợi nhuận quản lý nhiều dự án mã nguồn mở quan trọng.
Mối liên hệ hình thành từ sớm giữa PyTorch và bộ xử lý đồ họa Nvidia tạo ra một lợi thế khó phá vỡ. Google cho biết TorchTPU giúp ứng dụng PyTorch chuyển sang TPU mà không phải viết lại mã. Google đang cố giảm phần việc đó bằng TorchTPU mã nguồn mở.
Amazon đi trước với TorchNeuron
Amazon theo đuổi cùng mục tiêu bằng TorchNeuron, phiên bản PyTorch dành cho chip Trainium. Công cụ này cho phép chuyển ứng dụng trí tuệ nhân tạo sang Trainium và dịch vụ đám mây Amazon mà không phải viết lại mã. Nhờ đó, nhà phát triển gặp ít rào cản hơn khi rời phần cứng Nvidia.
Amazon giới thiệu TorchNeuron một ngày trước thông báo của Google. Hãng cũng gửi mã nguồn vào dự án PyTorch chính nhằm tách một số tính năng khỏi chip Nvidia.
Mục tiêu của Amazon là giúp PyTorch hỗ trợ nhiều loại phần cứng hơn ngay từ thiết kế mặc định, thay vì buộc các nhà cung cấp khác xây dựng đường vòng quanh những thành phần gắn chặt với Nvidia.
Cuộc cạnh tranh này tác động trực tiếp đến cách doanh nghiệp lựa chọn hạ tầng trí tuệ nhân tạo. Nếu ứng dụng có thể chuyển giữa nhiều loại chip mà không cần viết lại, nhà phát triển sẽ có thêm lựa chọn về nền tảng đám mây và phần cứng triển khai.
Google mở rộng hỗ trợ quanh TorchTPU
Google không chỉ mở mã nguồn TorchTPU mà còn phối hợp với các đơn vị phát triển công cụ trí tuệ nhân tạo để cải thiện khả năng tương thích. Hãng cũng phát hành bộ tác tử hỗ trợ chuyển ứng dụng và cập nhật LiteRT để kết nối PyTorch với quá trình triển khai mô hình trên thiết bị.
Google cho biết hãng đã làm việc trực tiếp với Meta và Hugging Face. Các đối tác khác gồm Inferact, đơn vị phát triển vLLM, và RadixArk, đơn vị phát triển SGLang. Mục đích là giúp các tính năng và thư viện của TorchTPU hoạt động với những công cụ phát triển trí tuệ nhân tạo phổ biến. Google muốn khả năng tương thích này gần với PyTorch gốc.
Google cũng phát hành bộ tác tử TPU. Công cụ này hỗ trợ nhà phát triển chuyển ứng dụng sang chip và nền tảng đám mây của Google, đồng thời hỗ trợ sửa lỗi trong quá trình chuyển đổi.
LiteRT cũng được cập nhật để tương thích tốt hơn với ứng dụng PyTorch. Đây là công cụ của Google dùng để chạy trí tuệ nhân tạo trên điện thoại, máy tính xách tay và thiết bị nhúng.
Nvidia chưa mất vị thế ngay lập tức
TorchTPU và TorchNeuron làm giảm chi phí kỹ thuật khi thử chip khác, nhưng chưa đủ để khiến nhà phát triển đồng loạt rời Nvidia. Khả năng di chuyển ứng dụng chỉ loại bỏ một phần rào cản và không tự động thay đổi những lựa chọn phần cứng đã được thiết lập trong ngành.
Google và Amazon đều muốn PyTorch bớt phụ thuộc vào Nvidia, qua đó đưa chip và nền tảng đám mây riêng vào danh sách lựa chọn thực tế của nhà phát triển. Với các nhóm đang xây dựng tác tử lập trình bằng trí tuệ nhân tạo, lợi ích này chỉ áp dụng khi ứng dụng dùng PyTorch và tương thích với TorchTPU hoặc TorchNeuron.
Hãy tiếp tục theo dõi Sine để cập nhật những thay đổi trong cuộc cạnh tranh hạ tầng trí tuệ nhân tạo giữa Google, Amazon và Nvidia.
