NVIDIA GB10 SUPERCHIP在DGX Spark和Project Digits等系统中采用，使用NVIDIA NVLINK-C2C互连技术设计了CPU+GPU-Coherent Memory模型。与传统的PCIE接口相比，该体系结构可显着提高内存带宽，提供了第五代PCIE的带宽五倍[1] [4]。但是，在可用信息中未明确说明GB10 SuperChip的确切内存带宽。
相比之下，其他与TensorFlow一起使用的GPU具有有据可查的内存带宽：
-NVIDIA A100 GPU：该GPU的内存带宽为1,555 GB/s，其大大高于许多消费级GPU。 A100专为高性能计算和深度学习任务而设计，使其成为可用的最快选项之一[2] [6]。
-NVIDIA V100 GPU：V100的内存带宽为900 GB/s，是深度学习应用程序中使用的另一种功能强大的GPU。它比A100少，但仍可为苛刻的任务提供实质性的性能[2] [6]。
-NVIDIA RTX 3090：该消费级GPU的内存带宽约为936.2 GB/s，对于消费者GPU而言，它很高，但低于A100和V100 [3]。
-NVIDIA RTX 5090：此GPU具有1,792 GB/s的内存带宽，使其成为最快的消费级GPU之一，可用于深度学习和AI推理等任务[7]。
在张量流应用程序的性能方面，内存带宽至关重要，因为它决定了在内存和计算核心之间可以将数据移动的速度。尽管未指定GB10 SuperChip的确切内存带宽，但它对NVLink-C2C技术的使用表明，它已针对高带宽应用进行了优化，由于其相干记忆模型，在某些情况下，具有类似于A100的某些高端GPU的性能优势。但是，没有特定的带宽数字，直接比较具有挑战性。
GB10 SuperChip专为AI开发而设计，并提供统一的连贯的内存，这对于需要CPU和GPU之间的无缝数据访问的任务特别有益，例如大型AI模型培训和推理。该体系结构允许在不同平台(包括云和数据中心环境)上有效地进行原型制定和部署AI模型[1] [4]。
引用：
[1] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-spark-and-dgx-station-personal-ai-computers
[2] https://timdettmers.com/2023/01/30/ WHICH-GPU-FOR-DEEP-LEARNING/
[3] https://stackoverflow.com/questions/67760118/incorrect-memory-bandwidth-when-when-using-using-using-using-using-tensorflow
[4] https://nvidianews.nvidia.com/news/nvidia-puts---------------------- an-every-every-desk-and-at-at-evelvelopers-developers-fingertips
[5] https://forums.developer.nvidia.com/t/difference-of-memory-usage-usage-at---------------------------------------------------------------------ding-tensorflow-c-infere/84392
[6] https://www.digitalocean.com/community/tutorials/gpu-memory-bandwidth
[7] https://forums.fast.ai/t/nvidia-project-digits-vs-vs-rtx-5090-dilemma/115883
[8] https://blog.tensorflow.org/2022/01/impreved-tensorflow-27-operations-for.html
[9] https://ms.codes/blogs/computer-hardware/tensorflow-cpu-faster-than-gpu