MIG(Multi-Insance GPU)技术通过允许将单个GPU分配为多个完全隔离的实例，从而显着提高了NVIDIA DGX A100的可扩展性。此功能使DGX站能够同时支持多个用户或团队，使其非常适合协作环境或共享工作区。
###密钥增强功能
1。资源分区：MIG允许将单个GPU分配到多达七个独立实例中，每个实例都有自己的专用内存，缓存和流多处理器。这样可以确保每个实例在没有资源竞争的情况下独立运行，从而最大程度地提高了GPU效率和利用[4] [8]。
2。保证服务质量(QoS)：通过为每个实例提供孤立的资源，MIG确保可预测的性能和保证的QoS。这对于同时运行多个作业(例如AI推理请求)而没有影响系统性能[8] [9]。
3。多用户支持：当使用MIG启用所有四个GPU时，DGX站A100最多可提供28个单独的GPU实例。这允许多个用户同时访问和使用该系统，使其非常适合数据科学团队和教育机构[2] [7]。
4。部署灵活性：MIG支持各种部署选项，包括在裸机或容器上运行CUDA应用程序。 NVIDIA容器工具包进一步增强了这种灵活性，该工具包使用户可以在GPU实例上运行CUDA加速容器[4] [9]。
5。可扩展性和成本效益：通过使多个用户有效共享相同的GPU资源，MIG有助于减少单个GPU设置或云租赁的需求。这使DGX站成为组织成本效益的解决方案，尤其是在随着时间的推移租用Cloud GPU资源相比[1] [5]。
###用例
- AI培训和推断：MIG允许DGX站中的不同GPU配置为不同的工作负载，例如AI培训，HPC或数据分析。这种灵活性对于需要有效管理多种AI工作负载的组织至关重要[4] [10]。
- 教育和研究环境：同时支持多个用户的能力使DGX站特别有益于教育机构和研究实验室，在那里共享资源很常见[1] [4]。
总而言之，MIG技术通过提供灵活的多用户环境来提高DGX站的可扩展性，从而在确保可预测的性能的同时最大化GPU利用率。这使DGX站成为各个行业的协作AI研发的理想平台。
引用：
[1] https://www.toolify.ai/ai-news/experience-thepower-the-power-of-nvidia-dgx-station-a100-971252
[2] https://www.globenewswire.com/news-release/2020/11/11/16/2127366/0/en/nvidia-nvidia-dgx-station-a100-creachers-researchers-researchers-researchers-researchers-aii-ai-ai-ai-data-centa-center-in-a-a-a-box.html
[3] https://images.nvidia.com/aem-dam/en-zz/solutions/data-center/nvidia-ampere-architecture-white-white-whitepaper.pdf
[4] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-ystem-system-architecture-white-white-phite-paper_paper_paper_paper_papered.pdf
[5] https://www.eweek.com/big-data-and-analytics/how-now-nvidia-a100-station-brings-brings-data-center-heft-heft-to-workgroups/
[6] https://docs.nvidia.com/datacenter/tesla/mig-user-guide/
[7] http://nvidianews.nvidia.com/news/nvidia-dgx-station-a100-finders-researchers-researchers-researchers-ai-ai-data-center-in-a-a-box
[8] https://www.nvidia.com/en-us/technologies/multi-instance-gpu/
[9] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_systems_architecture.pdf
[10] https://www.compecta.com/dgxstation-a100.html
[11] https://www.e4company.com/wp-content/uploads/dgx-family-print-dgx-station-a100-datasheet-us-partner.pdf