NVIDIA DGX电台比构建DIY AI平台提供了多种成本好处，这主要是由于其集成的设计，优化的性能和减少的维护需求。
1。降低硬件成本：构建DIY AI平台通常需要购买单个组件，这可能会导致更高的前期成本，因为需要多个GPU，CPU，内存和存储空间。相比之下，DGX站提供了一个全面的系统，其所有必要的组件针对AI工作负载进行了优化，从而有可能降低整体硬件成本。例如，DGX站A100型号的价格为160克版本为99,000美元，320G版本的价格为149,000美元，其中包括无需购买其他购买的AI计算所需的一切[7]。
2。较低的操作和维护成本：DIY平台需要大量的时间和资源进行设置，调整和维护。 DGX站是一个集成系统，通过提供更易于管理和维护的交钥匙解决方案来最大程度地减少这些成本。这减少了与DIY设置相关的运营费用，例如在硬件维护和故障排除上花费的员工时间[3]。
3。更快的实施和减少的停机时间：DGX站可以比DIY平台更快地集成到组织的IT生态系统中，DIY平台通常需要大量的设置和测试。这种快速部署减少了停机时间，使数据科学家可以专注于模型开发而不是硬件问题，从而使项目完成速度更快并提高生产率[3]。
4。提高的模型训练效率：与DIY设置相比，DGX站可以显着加速模型训练时间。例如，DGX-1被证明可以将深度学习模型培训时间平均减少三天，这可以通过释放数据科学家的时间来进行更具战略意义的时间来节省大量成本[3]。
5。访问优化的软件堆栈：DGX站包括一个优化的软件堆栈，该软件堆栈支持流行的深度学习框架，该框架定期由NVIDIA工程师更新。这消除了对内部软件工程的需求，以优化性能的框架，节省大量资源并降低与维护DIY平台相关的复杂性[4]。
6。可扩展性和灵活性：虽然可以自定义DIY平台，但通常缺乏集成系统(例如DGX站)的可扩展性和灵活性。该电台通过高速连接(例如，在较新型号中的Connectx-8超级名称)与其他单元进行联网的能力允许分布式计算任务，从而在没有自定义网络解决方案的复杂性和成本的情况下更容易扩展AI工作负载[2]。
总体而言，DGX电台通过提供一个全面的优化系统，为AI计算提供了具有成本效益的解决方案，该系统可降低与建筑和维护DIY平台相关的前期和持续成本。
引用：
[1] https://viperatech.com/shop/nvidia-dgx-a100-ai-platform/
[2] https://hothardware.com/news/nvidia-project-digits-renamed-dgx-spark-and-dgx-station
[3] https://www.vion.com/wp-content/uploads/2019/04/the-total-ecomonic-economic-ecomonic-emonconic-mimpact-of-nvidia-dgx1-march-2018-final.pdf
[4] https://www.exxactcorp.com/nvidia-985-22587-2511-d00-e1689784
[5] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[6] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-spark-and-dgx-station-personal-ai-computers
[7] https://en.wikipedia.org/wiki/nvidia_dgx
[8] https://www.youtube.com/watch?v=yxvkcibixsa