La technologie MIG (Multi-instance GPU) améliore considérablement l'évolutivité de la station A100 NVIDIA DGX en permettant le partitionnement de GPU individuels en plusieurs instances entièrement isolées. Cette fonctionnalité permet à la station DGX de prendre en charge plusieurs utilisateurs ou équipes simultanément, ce qui le rend très adapté à des environnements collaboratifs ou à des espaces de travail partagés.
Améliorations de clés
1. Partionnement des ressources: MIG permet la partition d'un seul GPU dans jusqu'à sept instances indépendantes, chacune avec sa propre mémoire, Cache et Streaming multiprocesseur dédié. Cela garantit que chaque instance fonctionne indépendamment sans concurrencer les ressources, maximisant ainsi l'efficacité et l'utilisation du GPU [4] [8].
2. Qualité de service garanti (QoS): En fournissant des ressources isolées pour chaque instance, MIG assure des performances prévisibles et une QoS garantie. Ceci est particulièrement avantageux pour exécuter plusieurs travaux simultanément, tels que les demandes d'inférence de l'IA, sans avoir d'impact sur les performances du système [8] [9].
3. Prise en charge multi-utilisateurs: la station DGX A100 peut fournir jusqu'à 28 instances de GPU distinctes lorsque les quatre GPU sont activés avec MIG. Cela permet à plusieurs utilisateurs d'accéder et d'utiliser le système simultanément, ce qui le rend idéal pour les équipes de science des données et les établissements d'enseignement [2] [7].
4. Flexibilité dans le déploiement: MIG prend en charge diverses options de déploiement, notamment en cours d'exécution de applications CUDA sur du métal nu ou des conteneurs. Cette flexibilité est encore améliorée par la boîte à outils NVIDIA Container, qui permet aux utilisateurs d'exécuter des conteneurs accélérés par Cuda sur les instances GPU [4] [9].
5. Évolutivité et rentabilité: en permettant à plusieurs utilisateurs de partager efficacement les mêmes ressources GPU, MIG aide à réduire le besoin de configurations de GPU individuelles ou de location de cloud. Cela fait de la station DGX une solution rentable pour les organisations, en particulier par rapport à la location de ressources GPU cloud au fil du temps [1] [5].
Cas d'utilisation
- Formation et inférence AI: MIG permet de configurer différents GPU dans la station DGX pour différentes charges de travail, telles que la formation IA, le HPC ou l'analyse de données. Cette flexibilité est cruciale pour les organisations qui ont besoin de gérer efficacement les charges de travail d'IA diverses [4] [10].
- Environnements éducatifs et de recherche: la capacité de soutenir plusieurs utilisateurs rend simultanément la station DGX particulièrement bénéfique pour les établissements d'enseignement et les laboratoires de recherche, où les ressources partagées sont courantes [1] [4].
En résumé, la technologie MIG améliore l'évolutivité de la station DGX en fournissant un environnement multi-utilisateur flexible qui maximise l'utilisation du GPU tout en garantissant des performances prévisibles. Cela fait de la station DGX une plate-forme idéale pour la recherche et le développement collaboratifs de l'IA dans diverses industries.
Citations:
[1] https://www.toolify.ai/ai-news/experence-the--o-of-svidia-dgx-station-a100-971252
[2] https://www.globenewswire.com/news-release/2020/11/16/2127366/0/en/nvidia-dgx-station-a100-offers-researchers-ai-data-center-in-a-box.html
[3] https://images.nvidia.com/aem-dam/en-zz/solutions/data-center/nvidia-ampere-architecture-whitepaper.pdf
[4] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_publish.pdf
[5] https://www.eweek.com/big-data-and-analytics/how-nvidia-a100-station-brings-data-center-heft-to-workgroups/
[6] https://docs.nvidia.com/datacenter/tesla/mig-user-guide/
[7] http://nvidianews.nvidia.com/news/nvidia-dgx-station-a100-offers-researchers-ai-data-center-a-bobbox
[8] https://www.nvidia.com/en-us/technologies/multi-instance-gpu/
[9] https://www.skyblue.de/uploads/datasheets/nvidia_twp_dgx_a100_system_architecture.pdf
[10] https://www.compecta.com/dgxstation-a100.html
[11] https://www.e4company.com/wp-content/uploads/dgx-family-print-dgx-station-a100-datasheet-us-startner.pdf