Nvidia muốn rút ngắn thời gian xây dựng nhà máy AI bằng DSX POD, một hệ thống điện toán lắp sẵn trong container. Các đối tác hoàn thiện giá máy chủ, mạng và hệ thống làm mát tại nhà máy, sau đó chuyển container đến trung tâm dữ liệu. Nvidia cho biết DSX POD có thể bắt đầu tạo token nhanh nhất trong 14 ngày nếu địa điểm đã có đủ điện, làm mát và kết nối mạng.
Theo The New Stack, Nvidia giới thiệu thiết kế tham chiếu DSX POD tại hội nghị GTC Berlin. Các đối tác sẽ lắp giá máy chủ Vera Rubin, thiết bị mạng và hệ thống làm mát bằng chất lỏng vào container trước khi xuất xưởng.
Việc lắp đặt và đấu nối các giá máy chủ trong một trung tâm dữ liệu thông thường có thể kéo dài nhiều tháng, theo Nvidia. DSX POD chuyển phần lớn công việc lắp ráp và kiểm thử sang môi trường nhà máy, nhưng không giải quyết bài toán cấp điện, làm mát hoặc kết nối tại địa điểm triển khai.
| Yếu tố | Lắp đặt thông thường | DSX POD |
|---|---|---|
| Nơi lắp ráp chính | Trung tâm dữ liệu | Nhà máy của đối tác |
| Dây dẫn và mạng | Đấu nối tại công trường | Lắp đặt và kiểm thử trước |
| Thời gian lắp đặt và đấu nối giá máy chủ | Có thể kéo dài nhiều tháng | Phần lớn được lắp đặt, đấu nối và kiểm thử trước khi giao |
| Điện và kết nối tại chỗ | Địa điểm phải cung cấp | Địa điểm vẫn phải cung cấp |
Cách tiếp cận này bổ sung một mô hình triển khai mới cho hạ tầng AI và hoạt động vận hành. Nhà sáng lập kiêm giám đốc điều hành Nvidia Jensen Huang nhấn mạnh rằng một nhà máy AI chỉ tạo ra giá trị khi bắt đầu sản xuất token, không phải khi công trình vừa hoàn tất.
Nội dung bên trong mỗi DSX POD có gì?
Mỗi DSX POD chứa 7 giá máy chủ Vera Rubin NVL72 với tổng cộng 504 bộ xử lý đồ họa Rubin. Nvidia cho biết hệ thống có khoảng 10 triệu linh kiện, nặng khoảng 28 tấn và được giao cùng phần lớn hệ thống cáp đã lắp đặt, kiểm thử.
Theo Nvidia và phần trình bày của Ian Buck, phó chủ tịch phụ trách điện toán siêu quy mô và hiệu năng cao của hãng, mỗi container có khoảng 20 km cáp đồng và 17 km mạng kết nối mở rộng.
Khi DSX POD đến địa điểm, đội triển khai đặt container vào vị trí, kết nối nó với các cụm bên cạnh rồi thực hiện các bài kiểm tra vận hành cuối cùng. Quy trình này chuyển nhiều công đoạn vốn diễn ra tại trung tâm dữ liệu về nhà máy, nơi các đối tác lắp ráp hệ thống theo một thiết kế chung.
DSX POD làm mát mà không tiêu thụ nước như thế nào?
Nvidia thiết kế DSX POD để không dùng nước trong hoạt động làm mát. Vera Rubin có thể vận hành với chất làm mát ở nhiệt độ lên tới 45 độ C, cho phép hệ thống sử dụng bộ làm mát khô thay cho tháp làm mát bay hơi.
Ian Buck ví cơ chế làm mát khô với két tản nhiệt ô tô. Tuy nhiên, Nvidia lưu ý rằng đơn vị vận hành tại một số vùng khí hậu vẫn có thể cần máy làm lạnh trong những ngày nóng nhất.
Với một cơ sở có công suất 2 gigawatt, Nvidia ước tính phương pháp làm mát khô có thể tiết kiệm khoảng 54 triệu lít nước mỗi ngày so với tháp làm mát. Đây là ước tính của Nvidia, không phải số liệu vận hành thực tế từ một cơ sở DSX POD đã triển khai.
Lựa chọn hệ thống làm mát gắn trực tiếp với nhu cầu tài nguyên tại nơi triển khai. Đây cũng là điểm giao với các vấn đề mà ngành công nghệ khí hậu đang theo dõi. Nvidia chưa nói rằng DSX POD sẽ loại bỏ nhu cầu làm lạnh bổ sung trong mọi điều kiện thời tiết.
Trung tâm dữ liệu đóng trong container có phải ý tưởng mới?
Trung tâm dữ liệu dạng container đã xuất hiện từ nhiều năm trước. Điểm khác của DSX POD là vai trò của nó: một cấu phần lắp sẵn dành cho trung tâm dữ liệu lớn hơn, thay vì một hệ thống độc lập phục vụ vận chuyển dữ liệu hoặc các nhiệm vụ đặc biệt.
Sun Microsystems công bố Project Blackbox vào năm 2006, theo The New Stack. Project Blackbox là một trung tâm dữ liệu nằm trong container dài 20 feet.
Tại sự kiện re:Invent 2016, Andy Jassy, khi đó là giám đốc điều hành AWS, đưa Snowmobile lên sân khấu trên một xe đầu kéo. Container dài 45 feet này có thể vận chuyển 100 petabyte dữ liệu. Microsoft và AWS sau đó cũng xây dựng các trung tâm dữ liệu dạng container cho vùng thảm họa và nhiệm vụ quân sự.
Nvidia không mô tả DSX POD như một trung tâm dữ liệu độc lập. Ian Buck gọi hệ thống này là “khối xây dựng cho các nhà máy AI mới”, nhấn mạnh vai trò của nó trong một cơ sở lớn hơn.
Ai sẽ chế tạo DSX POD và khi nào hệ thống được giao?
Nvidia cho biết 17 đối tác sẽ tham gia chế tạo DSX POD, trong đó có Armada, Bull, Dell, HPE, Schneider Electric và Vertiv. Các đối tác dự kiến bắt đầu giao hệ thống trên toàn cầu vào đầu năm 2027.
Armada đã bán các trung tâm dữ liệu biên dạng container. Với DSX POD, các đối tác lắp ráp trước những cụm máy chủ đã được đấu nối và kiểm thử, thay vì lắp từng thành phần sau khi đưa tới công trường.
Tài liệu về DSX POD không đưa ra kết luận rộng hơn về hướng phát triển AI của Nvidia. Nội dung được công bố chỉ xác lập DSX POD là thiết kế tham chiếu cho hạ tầng AI lắp sẵn do các đối tác chế tạo.
Hãy tiếp tục theo dõi Sine để cập nhật cách các thiết kế hạ tầng mới đang thay đổi tốc độ xây dựng và vận hành nhà máy AI.
