Cuộc chạy đua vũ trang hạ tầng AI tăng tốc: Nvidia ra mắt Spectrum-6, cạnh tranh sức mạnh tính toán bước vào kỷ nguyên mới với tỷ watt

Cạnh tranh về hạ tầng AI đang vượt qua một ngưỡng hoàn toàn mới về quy mô.

Nvidia gần đây đã chính thức ra mắt Spectrum-6, bộ chuyển mạch Ethernet thế hệ mới dành cho các nhà máy AI tiêu thụ điện năng lên tới hàng tỷ watt, với băng thông mạng gấp đôi thế hệ trước, và đã được các ông lớn xây dựng hạ tầng AI như CoreWeave, Microsoft, Nebius, SpaceX AI và Tesla tiên phong ứng dụng.

Spectrum-6 là bộ chuyển mạch Ethernet có dung lượng lên tới 102.4T, được phát triển riêng cho nền tảng Nvidia Vera Rubin, là thành phần cốt lõi trong nền tảng Ethernet Spectrum-X thế hệ mới.Khi quy mô các nhà máy AI trên toàn cầu mở rộng tới hàng trăm nghìn GPU tính toán song song, Nvidia xác định mạng lưới là biến số then chốt ảnh hưởng đến tổng sản lượng năng lực tính toán, thay vì chỉ là thành phần kết nối.

CoreWeave, Microsoft và Nebius sẽ trở thành những nhà cung cấp dịch vụ đám mây đầu tiên triển khai hạ tầng Vera Rubin dựa trên Spectrum-6, cung cấp dịch vụ truy cập nền tảng cho các nhà phát triển, startup và doanh nghiệp sử dụng. Lộ trình triển khai này cho thấy quá trình thương mại hóa hạ tầng tính toán AI hàng tỷ watt đang được đẩy nhanh, có tác động trực tiếp tới cục diện cung ứng năng lực tính toán và nhịp độ chi tiêu vốn liên quan.

Logic nền tảng mà Nvidia đưa ra khi ra mắt Spectrum-6 xuất phát từ mâu thuẫn cấu trúc giữa đặc điểm giao tiếp của các khối lượng công việc huấn luyện và suy luận AI quy mô lớn với kiến trúc mạng truyền thống.

Nhiệm vụ AI quy mô lớn yêu cầu hàng nghìn accelerator trao đổi dữ liệu thường xuyên, các thao tác giao tiếp tập thể sinh ra lượng lớn lưu lượng đông-tây, đồng thời trong hệ thống thường có nhiều nhiệm vụ song song truyền tải lưu lượng. Ethernet truyền thống vốn được thiết kế để đảm bảo lưu lượng doanh nghiệp theo hướng Nam-Bắc, chứ không tối ưu cho mô hình giao tiếp đồng bộ, cường độ cao của AI.

Nền tảng Ethernet Spectrum-X được tạo ra nhằm giải quyết khoảng cách đó. Theo Nvidia, so với Ethernet thông thường, Spectrum-X có thể cung cấp hiệu năng mạng AI cao gấp 1.6 lần, duy trì hiệu suất mạng lên đến 95% ngay cả khi quy mô triển khai vượt quá 100.000 GPU.Cấu trúc đa mặt phẳng gia tốc phần cứng của Spectrum-X giúp giảm số lượng switch cần thiết trong trung tâm dữ liệu tới 40%, cộng thêm công nghệ quang học silicon giúp nâng cao hiệu suất năng lượng lên gấp 5 lần và thời gian trung bình giữa hai lần hỏng hóc tăng 10 lần, góp phần giảm chi phí vận hành đáng kể.

Laurelle Roseman, Phó Chủ tịch Hợp tác Toàn cầu của Nebius, cho biết:

"Trên các hệ thống quy mô hàng tỷ watt, sự phối hợp quyết định hiệu năng tổng thể: đảm bảo mọi GPU luôn đồng bộ, tránh để bất kỳ điểm nghẽn làm chậm cả hệ thống. Đây chính là mục tiêu mà Nvidia Spectrum-6 hướng tới và cũng là lý do chúng tôi tiên phong ứng dụng nó."

Danh sách những đơn vị tiên phong triển khai Spectrum-6 đã phác họa bức tranh tổng thể về sức mạnh xây dựng hạ tầng AI toàn cầu hiện nay. Việc năm tổ chức trọng điểm gồm CoreWeave, Microsoft, Nebius, SpaceX AI và Tesla cùng tham gia xác nhận sản phẩm này đã vượt qua giai đoạn thử nghiệm công nghệ, gia nhập các mô hình triển khai thương mại quy mô lớn.

Min Jun, Giám đốc sản phẩm mạng của CoreWeave, nhận xét:

"Việc đưa Nvidia Spectrum-6 và hạ tầng Ethernet Spectrum-X làm mát bằng chất lỏng vào các nhà máy AI của chúng tôi giúp gia tăng băng thông, độ tin cậy và hiệu suất, từ đó nâng cấp dịch vụ huấn luyện mô hình và đẩy nhanh triển khai dịch vụ suy đoán cho khách hàng."

Đối với các nhà cung cấp dịch vụ đám mây, giá trị cốt lõi của Spectrum-6 là khả năng tập hợp nhiều GPU thành một tài nguyên hiệu năng cao có thể lên lịch linh hoạt, ảnh hưởng trực tiếp đến chu kỳ huấn luyện mô hình và tốc độ phản hồi dịch vụ suy luận. Với các doanh nghiệp AI tự xây dựng hạ tầng, điều này đồng nghĩa với việc tăng tỷ lệ sử dụng hệ thống ở các nhiệm vụ giao tiếp tập thể cường độ cao và nâng cao độ ổn định với các bài huấn luyện lâu dài—cả hai đều hướng đến việc hoàn thành khối lượng công việc nhanh hơn và giảm chi phí tính toán Token xuống mức tối thiểu.

Spectrum-6 không phải là một sản phẩm độc lập mà là thành phần lớp mạng của toàn bộ nền tảng tính toán Nvidia Vera Rubin. Nền tảng này tích hợp Vera CPU, Rubin GPU, switch NVLink 6, ConnectX-9 SuperNIC, BlueField-4 DPU cùng switch Ethernet Spectrum-6, tạo thành một hệ thống phối hợp đầu-cuối được thiết kế đồng bộ.

Chip switch Spectrum-6 kết hợp với ConnectX-9 SuperNIC tạo nên nền tảng phần cứng Ethernet Spectrum-X thế hệ mới. Ở lớp phần mềm, nền tảng kết hợp switch thông minh cùng phần mềm mạng toàn diện, hỗ trợ cân bằng lưu lượng thông minh và khôi phục nhanh các sự cố mạng.

Về hình thái và thiết kế tản nhiệt, Spectrum-6 hỗ trợ hai chuẩn: module cắm linh hoạt và tích hợp quang-điện, đồng thời hỗ trợ giải pháp làm mát bằng chất lỏng, có thể tham gia vào triển khai làm mát toàn diện của nhà máy AI, nâng hiệu suất năng lượng tổng thể.

Nvidia định nghĩa phương pháp thiết kế này là "tích hợp dọc, mở ngang": phối hợp thiết kế chip, hệ thống và phần mềm trên toàn bộ lớp nền tảng tính toán, bên cạnh đó vẫn tương thích với Ethernet tiêu chuẩn, hệ điều hành mạng mở và giao thức mở; hỗ trợ đa dạng hệ sinh thái cho nhà cung cấp dịch vụ đám mây, nhà sản xuất hệ thống cũng như đối tác hạ tầng. Theo Nvidia, khách hàng nhận được một nền tảng nhà máy AI hoàn chỉnh, thay vì từng bộ phận rời rạc cần tự tích hợp tối ưu.