Supernik NVIDIA ConnectX-8 secara signifikan meningkatkan konektivitas jaringan melalui beberapa fitur dan teknologi utama:
1. Jaringan berkecepatan tinggi ultra-tinggi: Supernik ConnectX-8 mendukung jejaring Infiniband dan Ethernet dengan kecepatan hingga 800 gigabit per detik (GB/s), menggandakan kecepatan pendahulunya dan memberikan konektivitas kecepatan tinggi [1] [1] [Center Komputasi AI, dan Centser Data SCHUME, dan Centser Komputasi, dan Centser Komputasi AI, dan Cents, dan Centser-Centers, dan Centser-Centers, dan Cents Centser, dan Centser Pperpeed.
2. Akselerasi jaringan dan pembongkaran komputasi: Ini mengintegrasikan akselerasi jaringan dan kemampuan pembongkaran komputasi, yang mengurangi latensi jaringan dan meningkatkan efisiensi throughput. Ini dicapai melalui pembongkaran protokol tingkat perangkat keras dan kooptimisasi GPU-NIC, menawarkan latensi yang sangat rendah dan transmisi jaringan lossless untuk pelatihan AI, inferensi, dan skenario penyimpanan terdistribusi [1] [2].
3. Dukungan Protokol Lanjutan: Supernik ConnectX-8 mendukung berbagai protokol yang meningkatkan kinerja jaringan:
-RDMA/ROCEV2: Memungkinkan transfer data nol-salinan dengan latensi serendah sub-mikrosesetik, meningkatkan efisiensi transfer data di seluruh jaringan [1].
-Teknologi GPudirect: Memungkinkan interaksi data GPU-ke-penyimpanan/NIC langsung, melewati CPU dan mengurangi overhead transfer data [1].
- NVIDIA SHARPV3: Menyediakan akselerasi perangkat keras komunikasi agregat untuk operasi seperti AllReduce dan Broadcast, meningkatkan efisiensi pelatihan AI [1].
- TLS/IPSEC Hardware Offload: Mendukung enkripsi lalu lintas penuh dan dekripsi tanpa kehilangan kinerja, memastikan transmisi data yang aman [1].
4. Kontrol Routing dan Kemacetan Lanjutan: Supernik ConnectX-8 mencakup routing lanjutan dan kemampuan kontrol kemacetan berbasis telemetri. Fitur -fitur ini membantu mencapai kinerja jaringan tertinggi dan efisiensi beban kerja AI puncak dengan secara dinamis mengelola lalu lintas jaringan dan mencegah kemacetan [2] [5].
5. Konektivitas multi-host dan PCIe: Kartu mendukung koneksi multi-host dan membutuhkan konektivitas PCIe canggih, seperti PCIe Gen6 x16 atau dua tautan Gen5 X16, untuk menangani kemampuan bandwidth yang tinggi. Pengaturan ini sangat penting untuk konektivitas yang kuat dalam sistem seperti platform Grace Nvidia [3].
6. Offloading Perangkat Keras untuk Jaringan Overlay: Supernik ConnectX-8 menyediakan mesin offloading perangkat keras NVGRE dan VXLAN yang canggih. Mesin-mesin ini merangkum dan menghilangkan protokol overlay, mengurangi beban CPU dan meningkatkan skalabilitas jaringan di lingkungan tervirtualisasi [5].
7. Efisiensi dan Keberlanjutan Daya: Dengan peningkatan efisiensi daya, supernik ConnectX-8 mendukung penciptaan pusat data AI yang berkelanjutan. Ini sangat penting untuk mengoperasikan ratusan ribu GPU, memastikan infrastruktur yang siap di masa depan untuk kemajuan AI sambil meminimalkan dampak lingkungan [5].
Secara keseluruhan, NVIDIA ConnectX-8 Supernic dirancang untuk menambah beban kerja komputasi AI Hyperscale dengan memberikan konektivitas jaringan berkecepatan tinggi dan efisien dan mengintegrasikan dengan mulus dengan platform jaringan NVIDIA generasi berikutnya.
Kutipan:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-manual.pdf
[3] https://www.techradar.com/pro/the-shape-of-things-to-come-nvidias-super-fast-800gbps-supernic-card-spied-at-sc24-and--connect-x-8-ukur-vaguely-ressembles-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+Interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introduction
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8supernic/specifications
[8] https://lenovopress.lenovo.com/lp2163-thinksystem-nvidia-connectx-8-8180-800GBS-OSFP-PCIE-GEN6-X16-Adapter