Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon 在DGX站中实现NVLink-C2C的硬件要求是什么


在DGX站中实现NVLink-C2C的硬件要求是什么


在DGX站中实现NVLink-C2C将需要重大的硬件修改,因为NVLink-C2C专门为Nvidia Grace Hopper SuperChip等系统而设计,该系统都集成了NVIDIA GRACE CPU和NVIDIA HOPPER GPUS。这是关键的硬件要求和注意事项:

1。NVIDIAGRACE CPU和HOPPER GPU集成:NVLink-C2C用于将Grace CPU和Hopper GPU连接在同一超级芯片中。但是,DGX站通常使用NVIDIA A100 GPU,不支持NVLINK-C2C。您需要将这些组件与兼容硬件更换或集成。

2。高速互连:NVLINK-C2C提供多达900 GB/s的双向带宽,这比传统的PCIE连接高得多。为了实现这一目标,该系统必须支持NVLink-C2C的高速互连技术,该技术不是DGX电台当前体系结构的原生。

3。内存相干性:NVLINK-C2C支持硬件存储器相干性,允许无缝访问CPU和GPU的内存,而无需显式复制。此功能需要标准DGX站中不存在的特定硬件支持。

4。功率和冷却​​:像Grace Hopper SuperChip中的高性能组件的整合将需要增强的动力输送和冷却系统,以处理增加的功耗和热量产生。

5。软件支持:实施NVLink-C2C还需要兼容的软件和驱动程序,以利用其功能。这可能涉及自定义或更新操作系统和软件堆栈以支持新的硬件配置。

总而言之,在DGX站中实施NVLink-C2C将需要重新设计系统的体系结构,包括兼容CPU和GPU的集成,高速互连,以及适当的功率和冷却​​解决方案。此外,需要进行软件修改才能充分利用NVLink-C2C的功能。

引用:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-depth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-a100-installation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/