ประสิทธิภาพการใช้พลังงานของ NVLINK-C2C มีผลต่อการจัดการความร้อนของสถานี DGX อย่างไร

NVLINK-C2C ประหยัดพลังงาน

NVLINK-C2C ช่วยเพิ่มประสิทธิภาพการใช้พลังงานโดยการลดพลังงานที่จำเป็นสำหรับการถ่ายโอนข้อมูลระหว่างส่วนประกอบ มันประสบความสำเร็จผ่านความสามารถในการรองรับตัวเร่งความเร็วที่เชื่อมโยงกันและปลอดภัยอย่างเต็มที่กับโปรเซสเซอร์อื่น ๆ หรือบล็อก IP ส่งผลให้ประสิทธิภาพการใช้พลังงานสูงขึ้น 25x เมื่อเทียบกับ PCIe Gen 5 Phy บนชิป Nvidia พร้อมบรรจุภัณฑ์ขั้นสูง [4] การลดลงของการใช้พลังงานนี้ส่งผลโดยตรงต่อการจัดการความร้อนของสถานี DGX โดยการลดความร้อนโดยรวมที่เกิดขึ้นระหว่างการดำเนินการ

ผลกระทบต่อการจัดการความร้อน

1. การสร้างความร้อนที่ลดลง: การใช้พลังงานที่ลดลงหมายถึงความร้อนน้อยลงโดยระบบ สิ่งนี้มีความสำคัญอย่างยิ่งสำหรับระบบคอมพิวเตอร์ประสิทธิภาพสูงเช่นสถานี DGX ซึ่งมีแนวโน้มที่จะมีความร้อนสูงเกินไปเนื่องจากปริมาณงานคำนวณที่รุนแรง

2. ประสิทธิภาพของระบบทำความเย็น: สถานี DGX มีระบบระบายความร้อนด้วยน้ำที่ออกแบบมาเพื่อจับส่วนสำคัญของพลังการออกแบบความร้อนของ GPU (TDP) ช่วยให้การกระจายความร้อนและการทำงานที่เงียบสงบ [3] ภาระความร้อนที่ลดลงเนื่องจากประสิทธิภาพการใช้พลังงานของ NVLINK-C2C ช่วยเติมเต็มระบบทำความเย็นนี้โดยทำให้มั่นใจได้ว่ามันทำงานภายในช่วงความร้อนที่ดีที่สุดรักษาประสิทธิภาพโดยไม่ต้องใช้ความต้องการในการระบายความร้อนมากเกินไป

3. การออกแบบระบบและความสามารถในการปรับขนาด: การออกแบบประหยัดพลังงานอำนวยความสะดวกโดย NVLink-C2C ช่วยให้สามารถกำหนดค่าระบบที่ปรับขนาดได้มากขึ้น ซึ่งหมายความว่าสถานี DGX หลายแห่งสามารถเชื่อมต่อได้อย่างมีประสิทธิภาพทั้งในแง่ของการถ่ายโอนข้อมูลและการจัดการความร้อนทำให้สามารถปรับใช้การคำนวณ AI ขนาดใหญ่ขึ้นได้โดยไม่ต้องใช้ระบบทำความเย็นที่ครอบงำ

โดยสรุปประสิทธิภาพการใช้พลังงานของ NVLINK-C2C ในสถานี DGX ก่อให้เกิดการจัดการความร้อนที่ดีขึ้นโดยการลดการใช้พลังงานและการสร้างความร้อนซึ่งจะช่วยเพิ่มประสิทธิภาพการระบายความร้อนโดยรวมของระบบ การทำงานร่วมกันระหว่าง NVLINK-C2C และระบบระบายความร้อนของสถานี DGX ทำให้มั่นใจได้ว่าการดำเนินการที่เชื่อถือได้และมีประสิทธิภาพสูงสำหรับการเรียกร้องปริมาณงาน AI

การอ้างอิง:
[1] https://www.techpowerup.com/334300/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
[2] https://training.continuumlabs.ai/infrastructure/servers-and-chips/nvidia-gb200-nvl72
[3] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[4] https://www.linkedin.com/pulse/nvidia-nvlink-scalability-from-die-supercomputers-mohamed-hakam-hefny
[5] https://www.nvidia.com/en-us/data-center/dgx-platform/
[6] https://www.supercluster.blog/p/6-ai-supercluster-nvidia-dgx-H100
[7] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers
[8] https://www.nvidia.com/en-gb/data-center/dgx-station/
[9] https://en.wikipedia.org/wiki/nvlink