NVIDIA ConnectX-8 Supernic ช่วยเพิ่มการเชื่อมต่อเครือข่ายอย่างมีนัยสำคัญผ่านคุณสมบัติและเทคโนโลยีที่สำคัญหลายประการ:
1. เครือข่ายความเร็วสูงพิเศษ: ConnectX-8 Supernic รองรับทั้ง Infiniband และ Ethernet Networking ที่ความเร็วสูงถึง 800 Gigabits ต่อวินาที (GB/s) เพิ่มความเร็วของรุ่นก่อนและการเชื่อมต่อที่สูงเป็นพิเศษ
2. การเร่งความเร็วของเครือข่ายและการถ่ายทอดการคำนวณ: มันรวมการเร่งความเร็วของเครือข่ายและความสามารถในการถ่ายทอดการคำนวณซึ่งลดความหน่วงแฝงของเครือข่ายและเพิ่มประสิทธิภาพการรับส่งข้อมูล นี่คือความสำเร็จผ่านการถ่ายโอนโปรโตคอลระดับฮาร์ดแวร์และการเพิ่มประสิทธิภาพร่วม GPU-NIC นำเสนอเวลาแฝงที่ต่ำเป็นพิเศษและการส่งผ่านเครือข่ายที่ไม่สูญเสียสำหรับการฝึกอบรม AI การอนุมานและสถานการณ์การจัดเก็บแบบกระจาย [1] [2]
3. การสนับสนุนโปรโตคอลขั้นสูง: ConnectX-8 Supernic รองรับโปรโตคอลต่าง ๆ ที่เพิ่มประสิทธิภาพเครือข่าย:
-RDMA/ROCEV2: เปิดใช้งานการถ่ายโอนข้อมูลที่เป็นศูนย์โดยมีความหน่วงต่ำเพียงต่ำถึง microseconds ย่อยปรับปรุงประสิทธิภาพการถ่ายโอนข้อมูลผ่านเครือข่าย [1]
-เทคโนโลยี Gpudirect: อนุญาตให้มีการโต้ตอบข้อมูล GPU-to-storage/NIC โดยตรงข้าม CPU และลดค่าใช้จ่ายในการถ่ายโอนข้อมูล [1]
- NVIDIA SharpV3: ให้การเร่งความเร็วฮาร์ดแวร์การสื่อสารแบบรวมสำหรับการดำเนินงานเช่น Allreduce และ Broadcast เพิ่มประสิทธิภาพการฝึกอบรม AI [1]
- ฮาร์ดแวร์ TLS/IPSec Offload: รองรับการเข้ารหัสการรับส่งข้อมูลเต็มรูปแบบและการถอดรหัสโดยไม่สูญเสียประสิทธิภาพทำให้มั่นใจได้ว่าการส่งข้อมูลที่ปลอดภัย [1]
4. การกำหนดเส้นทางขั้นสูงและการควบคุมความแออัด: ConnectX-8 Supernic รวมถึงความสามารถในการกำหนดเส้นทางขั้นสูงและความสามารถในการควบคุมความแออัดของ telemetry คุณสมบัติเหล่านี้ช่วยให้บรรลุประสิทธิภาพเครือข่ายสูงสุดและประสิทธิภาพการทำงานของ AI สูงสุดโดยการจัดการปริมาณการใช้งานเครือข่ายแบบไดนามิกและป้องกันความแออัด [2] [5]
5. การเชื่อมต่อหลายโฮสต์และ PCIe: การ์ดรองรับการเชื่อมต่อแบบหลายโฮสต์และต้องใช้การเชื่อมต่อ PCIe ขั้นสูงเช่น PCIe Gen6 X16 หรือลิงก์ Gen5 X16 สองลิงก์เพื่อจัดการความสามารถแบนด์วิดท์สูง การตั้งค่านี้มีความสำคัญต่อการเชื่อมต่อที่แข็งแกร่งในระบบเช่นแพลตฟอร์ม Grace ของ Nvidia [3]
6. การถ่ายฮาร์ดแวร์สำหรับเครือข่ายซ้อนทับ: ConnectX-8 Supernic ให้บริการเอ็นจินฮาร์ดแวร์ NVGRE ขั้นสูงและ VXLAN เครื่องยนต์เหล่านี้ห่อหุ้มโปรโตคอลการซ้อนทับและยกเลิกการลงโทษลดการโหลด CPU และปรับปรุงความสามารถในการปรับขนาดเครือข่ายในสภาพแวดล้อมเสมือนจริง [5]
7. ประสิทธิภาพการใช้พลังงานและความยั่งยืน: ด้วยประสิทธิภาพการใช้พลังงานที่เพิ่มขึ้น ConnectX-8 Supernics สนับสนุนการสร้างศูนย์ข้อมูล AI ที่ยั่งยืน นี่เป็นสิ่งจำเป็นสำหรับการดำเนินงาน GPU หลายแสน GPUs เพื่อให้มั่นใจว่าโครงสร้างพื้นฐานที่พร้อมใช้งานในอนาคตสำหรับความก้าวหน้าของ AI ในขณะที่ลดผลกระทบต่อสิ่งแวดล้อม [5]
โดยรวมแล้ว NVIDIA ConnectX-8 Supernic ได้รับการออกแบบมาเพื่อเพิ่มปริมาณงานคอมพิวเตอร์ AI Hyperscale AI โดยการส่งมอบการเชื่อมต่อเครือข่ายความเร็วสูงและการรวมเข้ากับแพลตฟอร์มเครือข่าย NVIDIA รุ่นต่อไปอย่างราบรื่น
การอ้างอิง:
[1] https://www.fibermall.com/blog/connectx-8-supernic.htm
[2] https://docs.nvidia.com/networking/display/nvidia-connectx-8-supernic-user-anual.pdf
[3] https://www.techradar.com/pro/the-shape-of-things-to-come-nvidias-super-fast-800gbps-supernic-card-spied-at-sc24 และ this-connect-x-8-aib-vaguely-resembles-a-gpu
[4] https://docs.nvidia.com/networking/display/connectx8supernic/supported+interfaces
[5] https://docs.nvidia.com/networking/display/connectx8supernic/introduction
[6] https://docs.nvidia.com/networking/display/connectx8supernic
[7] https://docs.nvidia.com/networking/display/connectx8supernic/specifications
[8] https://lenovopress.lenovo.com/lp2163-thinksystem-nvidia-connectx-8-8180-800GBS-OSFP-PCIE-GEN6-X16-ADAPTER