NVIDIA ConnectX-8 Supernic tăng cường đáng kể kết nối mạng thông qua một số tính năng và công nghệ chính:
1. Mạng siêu cao tốc độ cao: Supernic ConnectX-8 hỗ trợ cả mạng infiniband và Ethernet ở tốc độ lên tới 800 gigabits mỗi giây (GB/s), tăng gấp đôi tốc độ của bộ phận lớn.
2. Tăng tốc và giảm tốc độ tính toán của mạng: Nó tích hợp khả năng tăng tốc và giảm tốc độ tính toán của mạng, làm giảm độ trễ mạng và tăng cường hiệu quả thông lượng. Điều này đạt được thông qua giảm tải giao thức cấp độ phần cứng và tăng tối ưu hóa GPU-NIC, cung cấp độ trễ cực thấp và truyền mạng không mất mát để đào tạo AI, suy luận và kịch bản lưu trữ phân tán [1] [2].
3. Hỗ trợ giao thức nâng cao: Supernic ConnectX-8 hỗ trợ các giao thức khác nhau nhằm nâng cao hiệu suất mạng:
-RDMA/ROCEV2: Cho phép truyền dữ liệu không có bản sao với độ trễ thấp như các phần giây phụ, cải thiện hiệu quả truyền dữ liệu trên các mạng [1].
-Công nghệ GPUDIRECT: Cho phép tương tác dữ liệu GPU-to Storage/NIC trực tiếp, bỏ qua CPU và giảm chi phí truyền dữ liệu [1].
- Nvidia Sharpv3: Cung cấp gia tốc phần cứng truyền thông tổng hợp cho các hoạt động như Allreduce và phát sóng, nâng cao hiệu quả đào tạo AI [1].
- Giảm tải phần cứng TLS/IPSEC: Hỗ trợ mã hóa và giải mã toàn lưu lượng mà không mất hiệu suất, đảm bảo truyền dữ liệu an toàn [1].
4. Kiểm soát định tuyến và tắc nghẽn nâng cao: Supernic ConnectX-8 bao gồm các khả năng điều khiển tắc nghẽn dựa trên định tuyến và từ xa. Các tính năng này giúp đạt được hiệu suất mạng cao nhất và hiệu suất khối lượng công việc AI cao nhất bằng cách quản lý truy cập mạng tự động và ngăn ngừa tắc nghẽn [2] [5].
5. Kết nối đa host và PCIe: Thẻ hỗ trợ các kết nối đa máy chủ và yêu cầu kết nối PCIE nâng cao, chẳng hạn như PCIe Gen6 X16 hoặc hai liên kết Gen5 X16, để xử lý các khả năng băng thông cao của nó. Thiết lập này là rất quan trọng cho kết nối mạnh mẽ trong các hệ thống như nền tảng Grace của NVIDIA [3].
6. Giảm tải phần cứng cho các mạng lớp phủ: Supernic ConnectX-8 cung cấp các công cụ giảm tải phần cứng NVGRE và VXLAN nâng cao. Các động cơ này gói gọn và khử các giao thức lớp phủ, giảm tải CPU và cải thiện khả năng mở rộng mạng trong môi trường ảo hóa [5].
7. Hiệu quả năng lượng và tính bền vững: Với hiệu quả năng lượng nâng cao, các siêu siêu lớn ConnectX-8 hỗ trợ việc tạo ra các trung tâm dữ liệu AI bền vững. Điều này rất cần thiết để vận hành hàng trăm ngàn GPU, đảm bảo cơ sở hạ tầng sẵn sàng trong tương lai cho các tiến bộ của AI trong khi giảm thiểu tác động môi trường [5].
Nhìn chung, NVIDIA Connectx-8 SuperNIC được thiết kế để tăng khối lượng công việc điện toán AI siêu cấp bằng cách cung cấp kết nối mạng tốc độ cao, hiệu quả và tích hợp liền mạch với các nền tảng mạng NVIDIA thế hệ tiếp theo.
Trích dẫn:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-shape-of-things-to-come-nvidias-super-fast-800gbps-supernic-card-spied-at-sc24-and-this-connect-x-8-aib-vaguely-resembles-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8SuperNIC/Supported+Interfaces
[5] https://docs.nvidia.com/networking/display/connectx8SuperNIC/Introduction
[6] https://docs.nvidia.com/networking/display/connectx8SuperNIC
[7] https://docs.nvidia.com/networking/display/connectx8SuperNIC/Specifications
[8] https://lenovopress.lenovo.com/lp2163-thinksystem-nvidia-connectx-8-8180-800gbs-osfp-pcie-gen6-x16-adapter