การใช้ NVLINK-C2C ในสถานี DGX จะต้องมีการปรับเปลี่ยนฮาร์ดแวร์ที่สำคัญเนื่องจาก NVLINK-C2C ได้รับการออกแบบมาโดยเฉพาะสำหรับระบบเช่น Nvidia Grace Hopper Superchip ซึ่งรวมทั้ง Nvidia Grace CPUs และ Nvidia Hopper GPUs นี่คือข้อกำหนดและข้อควรพิจารณาของฮาร์ดแวร์ที่สำคัญ:
1. Nvidia Grace CPU และการรวม GPU ของ Hopper: NVLINK-C2C ใช้เพื่อเชื่อมต่อ GRACE CPU และ Hopper GPU ภายใน Superchip เดียวกัน อย่างไรก็ตามสถานี DGX มักใช้ Nvidia A100 GPU ซึ่งไม่รองรับ NVLINK-C2C คุณจะต้องเปลี่ยนหรือรวมส่วนประกอบเหล่านี้เข้ากับฮาร์ดแวร์ที่เข้ากันได้
2. การเชื่อมต่อความเร็วสูง: NVLINK-C2C ให้แบนด์วิดท์แบบสองทิศทางสูงถึง 900 GB/s ซึ่งสูงกว่าการเชื่อมต่อ PCIE แบบดั้งเดิมอย่างมีนัยสำคัญ เพื่อให้บรรลุเป้าหมายนี้ระบบจะต้องรองรับเทคโนโลยีการเชื่อมต่อความเร็วสูงของ NVLINK-C2C ซึ่งไม่ได้มีถิ่นกำเนิดในสถาปัตยกรรมปัจจุบันของสถานี DGX
3. หน่วยความจำเชื่อมโยงกัน: NVLINK-C2C รองรับการเชื่อมโยงกันของหน่วยความจำฮาร์ดแวร์ช่วยให้สามารถเข้าถึงหน่วยความจำได้อย่างราบรื่นใน CPU และ GPU โดยไม่ต้องคัดลอกอย่างชัดเจน คุณลักษณะนี้ต้องการการสนับสนุนฮาร์ดแวร์เฉพาะที่ไม่ได้อยู่ในสถานี DGX มาตรฐาน
4. พลังงานและการระบายความร้อน: การรวมส่วนประกอบประสิทธิภาพสูงเช่นส่วนที่อยู่ในเกรซฮ็อปซูเปอร์ชิพจะต้องมีการส่งมอบพลังงานและระบบระบายความร้อนเพื่อจัดการการใช้พลังงานที่เพิ่มขึ้นและการสร้างความร้อน
5. การสนับสนุนซอฟต์แวร์: การใช้ NVLINK-C2C ยังต้องใช้ซอฟต์แวร์และไดรเวอร์ที่เข้ากันได้ซึ่งสามารถใช้ประโยชน์จากคุณสมบัติของมัน สิ่งนี้อาจเกี่ยวข้องกับการปรับแต่งหรืออัปเดตระบบปฏิบัติการและสแต็กซอฟต์แวร์เพื่อรองรับการกำหนดค่าฮาร์ดแวร์ใหม่
โดยสรุปการใช้ NVLINK-C2C ในสถานี DGX จะจำเป็นต้องมีการออกแบบขั้นพื้นฐานของสถาปัตยกรรมของระบบรวมถึงการรวม CPU ที่เข้ากันได้และ GPUs การเชื่อมต่อความเร็วสูงและการแก้ปัญหาพลังงานและการระบายความร้อนที่เหมาะสม นอกจากนี้การปรับเปลี่ยนซอฟต์แวร์จะต้องใช้ประโยชน์อย่างเต็มที่จากความสามารถของ NVLINK-C2C
การอ้างอิง:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-depth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-a100-installation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/