DeepSeek đã mở mã nguồn DeepInfer, nền tảng suy luận đứng sau giao diện lập trình của hãng. Lập trình viên có thể dùng nền tảng này để vận hành mô hình trên hạ tầng riêng. DeepInfer hỗ trợ Huawei Ascend 950 và Nvidia Blackwell ngay từ đầu. Tuy nhiên, dữ liệu hiện có chỉ xác nhận khả năng tương thích, chưa chứng minh phần cứng Huawei đạt hiệu năng ngang Nvidia.
Phát hiện chính về DeepInfer
DeepInfer là nền tảng suy luận được DeepSeek thiết kế để chạy DeepSeek V4.1 Flash trên hạ tầng của người dùng. DeepSeek dự kiến bổ sung hỗ trợ cho các mô hình tương lai. Theo bài viết gốc của The New Stack, dự án công khai nhiều kỹ thuật tối ưu hóa. DeepSeek đang dùng các kỹ thuật này phía sau giao diện lập trình chính thức của hãng.
Mã nguồn DeepInfer cho phép lập trình viên tự triển khai mô hình thay vì phụ thuộc hoàn toàn vào giao diện lập trình do DeepSeek vận hành.
Việc công khai trọng số mô hình vốn không mới với DeepSeek. Lập trình viên đã có thể tải trọng số và chạy chúng bằng phần mềm của bên thứ ba như vLLM. Khác biệt nằm ở lớp vận hành: phần mềm tiếp nhận yêu cầu, phân phối tác vụ giữa các bộ xử lý và tạo phản hồi có thể ảnh hưởng trực tiếp đến tốc độ, thông lượng và chi phí tính toán.
DeepInfer vì thế không chỉ cung cấp một mô hình. Dự án cho thấy cách DeepSeek giải quyết một số vấn đề khi vận hành mô hình ở quy mô thực tế, vốn là phần quan trọng của hạ tầng trí tuệ nhân tạo.
DeepInfer có thể giảm chi phí vận hành như thế nào?
DeepSeek cho biết hãng chia sẻ hệ thống đang dùng trong thực tế để giúp cộng đồng giảm chi phí tính toán, giảm mức tiêu thụ năng lượng và mở rộng khả năng tiếp cận trí tuệ nhân tạo. Nền tảng kết hợp các nhân tính toán, thư viện liên lạc và cơ chế phân phối suy luận trên nhiều bộ xử lý.
Trong thông báo ngày 20 tháng 10 năm 2026, DeepSeek cho biết đây là mục tiêu chính của việc phát hành dự án. Dự án sử dụng giấy phép Apache 2.0 và chứa các thành phần đã được tối ưu hóa, gồm FlashMLA, DeepGEMM và DeepEP.
Hệ thống hỗ trợ giải mã suy đoán, kỹ thuật dự đoán rồi xác minh nhiều đơn vị văn bản trong một lượt để tăng tốc tạo phản hồi. Lập lịch bất đồng bộ giảm thời gian bộ xử lý phải chờ tác vụ mới. Nền tảng cũng hỗ trợ đầu ra có cấu trúc để lập trình viên quy định định dạng câu trả lời của mô hình.
Cùng với DeepInfer, DeepSeek mở mã nguồn deepseek-recipe, thư viện chuyển yêu cầu từ giao diện lập trình thành đầu vào của mô hình rồi xử lý kết quả thành phản hồi. Thư viện có phiên bản cho Rust và Python, giúp hệ thống tự triển khai tái tạo hành vi của giao diện lập trình DeepSeek.
Theo nhật ký thay đổi của dự án, deepseek-recipe được phát hành vào tháng 9 năm 2026 và nhận bản cập nhật trong ngày DeepInfer được công bố.
Nội dung DeepSeek đã công khai có phải toàn bộ hệ thống?
DeepInfer chưa phải toàn bộ dịch vụ đứng sau giao diện lập trình DeepSeek. Phiên bản công khai hỗ trợ suy luận ngoại tuyến và các chức năng cốt lõi để phục vụ mô hình ở quy mô lớn, nhưng chưa bao gồm một số lớp quản lý bộ nhớ, phân phối tác vụ và cân bằng tải cần cho dịch vụ hoàn chỉnh.
Tháng 4 năm 2025, DeepSeek công bố tài liệu giải thích vì sao hãng chưa thể phát hành toàn bộ bộ máy suy luận. Phần mềm ban đầu phát triển từ vLLM nhưng dần trở thành một hệ thống tùy biến sâu, gắn chặt với công cụ quản lý cụm máy tính nội bộ.
Vì sao bản phát hành vẫn có giới hạn?
Công ty khi đó cho rằng việc đưa hệ thống ra môi trường bên ngoài sẽ cần những sửa đổi lớn. Đội ngũ nghiên cứu tương đối nhỏ của DeepSeek cũng phải cân nhắc khả năng duy trì thêm một dự án mã nguồn mở quy mô lớn. Thay vì phát hành toàn bộ, hãng chọn đóng góp từng thành phần và cải tiến cho các dự án đã tồn tại.
DeepSeek chưa giải thích cụ thể cách hãng giải quyết những khó khăn đó. Phạm vi của DeepInfer cho thấy phiên bản công khai tập trung vào một phần hẹp hơn so với dịch vụ hoàn chỉnh.
Theo tài liệu DeepInfer, các phần còn thiếu gồm hệ thống quản lý bộ nhớ đệm khóa và giá trị, hạ tầng tách các giai đoạn suy luận trên nhiều máy và khả năng cân bằng tải giữa các bản sao. Lập trình viên vẫn phải tự xây dựng những lớp này nếu muốn vận hành một dịch vụ đầy đủ.
Phạm vi hẹp hơn có thể giải thích vì sao DeepSeek nay công khai được phần lớn bộ máy chạy mô hình dù trước đó nhận định việc phát hành toàn hệ thống là chưa thực tế.
Vì sao Huawei xuất hiện bên cạnh Nvidia?
DeepInfer hỗ trợ hai nền tảng phần cứng ngay từ đầu: kiến trúc Nvidia SM100 dùng trong bộ xử lý đồ họa Blackwell và bộ xử lý thần kinh Huawei Ascend 950. Việc ưu tiên Ascend phản ánh quan hệ ngày càng gần giữa DeepSeek và Huawei trong bối cảnh doanh nghiệp Trung Quốc khó tiếp cận chip Nvidia tiên tiến.
Trong phía Nvidia, DeepInfer hiện chỉ hỗ trợ kiến trúc SM100 dùng trong bộ xử lý đồ họa trung tâm dữ liệu Blackwell. Nền tảng còn lại là dòng bộ xử lý thần kinh Huawei Ascend 950. Các kiến trúc Nvidia cũ hơn, gồm Hopper, chưa được hỗ trợ.
Lựa chọn này phù hợp với kế hoạch mã nguồn mở DeepSeek công bố trong năm 2025. Khi chưa sẵn sàng phát hành toàn bộ bộ máy suy luận, công ty cam kết phối hợp với nhà sản xuất phần cứng trước các đợt ra mắt mô hình để hỗ trợ nhiều kiến trúc bộ xử lý ngay từ ngày đầu.
Quan hệ giữa DeepSeek và Huawei
Các hạn chế xuất khẩu của Mỹ khiến doanh nghiệp Trung Quốc khó tiếp cận bộ xử lý Nvidia tiên tiến nhất. Theo Bloomberg vào tháng 9 năm 2026, DeepSeek dự kiến triển khai ít nhất 160.000 bộ xử lý Huawei Ascend 950DT tại một trung tâm dữ liệu mới ở Nội Mông. Số bộ xử lý này được dùng để chạy các mô hình của hãng.
DeepSeek chủ yếu dùng Nvidia cho quá trình huấn luyện. Tuy nhiên, The Information đưa tin vào tháng 9 năm 2026 rằng công ty có kế hoạch tăng sử dụng bộ xử lý Huawei trong huấn luyện, với các lô hàng có thể được giao sớm nhất vào quý IV. Reuters cũng cho biết DeepSeek và Huawei đang hợp tác phát triển công cụ phần mềm để lập trình bộ xử lý Ascend dễ hơn.
Huawei và Nvidia có hiệu năng ngang nhau trên DeepInfer không?
Chưa có dữ liệu cho thấy Huawei Ascend 950 và Nvidia Blackwell đạt hiệu năng ngang nhau trên DeepInfer. Một số tính năng hiện chỉ hoạt động trên Nvidia, còn các phép đo do DeepSeek công bố cũng không có kết quả tương ứng cho Ascend 950.
Khả năng suy luận không phụ thuộc kích thước lô và lấy mẫu xác định của DeepInfer hiện chỉ có trên phần cứng Nvidia. Hai tính năng này giúp tái tạo kết quả trong những điều kiện đã định.
Các phép đo hiệu năng do DeepSeek công bố sử dụng bộ xử lý đồ họa Nvidia. Theo số liệu của công ty, cấu hình thử nghiệm dùng bốn bộ xử lý SM100 cho giai đoạn nạp ngữ cảnh và 64 bộ xử lý cho giai đoạn giải mã. DeepSeek chưa đưa ra số liệu tương ứng để so sánh hiệu năng trên Ascend 950.
Vì vậy, vị trí của Huawei trong DeepInfer thể hiện khả năng tương thích và mức độ ưu tiên, không phải bằng chứng về hiệu năng ngang Nvidia. Việc hỗ trợ phần cứng Trung Quốc từ ngày đầu vẫn cho thấy DeepSeek đang đầu tư vào hệ sinh thái Ascend.
DeepInfer có giá trị gì nếu chưa có phần cứng tương thích?
Người không có Nvidia SM100 hoặc Huawei Ascend 950 chưa thể dùng trọn vẹn DeepInfer theo cấu hình được hỗ trợ. Giá trị trước mắt nằm ở mã nguồn, qua đó lập trình viên có thể nghiên cứu cách DeepSeek xây dựng nhân tính toán, truyền dữ liệu, lập lịch công việc và tăng tốc quá trình tạo phản hồi.
Các kỹ thuật trong dự án có thể được điều chỉnh cho bộ máy suy luận khác. Công việc này liên quan trực tiếp đến cách tác tử lập trình bằng trí tuệ nhân tạo và các ứng dụng mô hình lớn xử lý yêu cầu với độ trễ thấp hơn.
DeepInfer chưa trao cho cộng đồng toàn bộ dịch vụ đứng sau giao diện lập trình DeepSeek. Dự án đã công khai thêm công nghệ suy luận mà công ty dùng trong thực tế và đặt Huawei bên cạnh Nvidia trong danh sách phần cứng được ưu tiên, nhưng chưa cung cấp bằng chứng rằng hai nền tảng có hiệu năng tương đương.
Hãy tiếp tục theo dõi Sine để cập nhật cách DeepInfer và hệ sinh thái Ascend thay đổi việc triển khai mô hình trí tuệ nhân tạo.
