Het NVIDIA DGX -station A100 is ontworpen om meerdere gebruikers en toegang op afstand te verwerken, waardoor het een ideale oplossing is voor data science -teams en organisaties die gecentraliseerde AI -bronnen vereisen. Hier is hoe het deze mogelijkheden beheert:
Meerdere gebruikers afhandelen
- Multi-Instance GPU (MIG): De DGX Station A100 ondersteunt MIG, waarmee tot 28 afzonderlijke GPU-apparaten kunnen worden toegewezen aan individuele gebruikers of banen. Dit betekent dat meerdere gebruikers dezelfde GPU tegelijkertijd kunnen delen zonder de systeemprestaties te beïnvloeden. MIG stelt elk GPU -exemplaar in staat zijn eigen geheugen, cache en streaming multiprocessor te hebben, waardoor efficiënt resource -gebruik wordt gewaarborgd [1] [2].
- Parallelle workloads: het systeem is in staat om training, inferentie en analyse -workloads parallel uit te voeren. Hierdoor kunnen meerdere gebruikers tegelijkertijd aan verschillende projecten werken, waardoor het volledige potentieel van de vier onderling verbonden NVIDIA A100 GPU's [1] [4] benutten.
- Resource Sharing: MIG faciliteert het delen van bronnen bij meerdere gebruikers, zoals studenten of leden van data science -teams. Deze functie is met name handig voor het evalueren van meerdere inferentiebanen of het gebruik van Jupyter -notebooks voor modelverkenning [2].
Remote Access and Management
- Beheer op afstand: het DGX Station A100 biedt robuuste externe managementmogelijkheden. Gebruikers kunnen het systeem op afstand beheren met behulp van een webgebaseerde interface die gedetailleerde systeemlogboeken, sensorwaarden en prestatiebewaking biedt. Dit omvat temperatuurbewaking van GPU's, geheugen DIMM's, CPU en andere componenten [2].
- IPMI en KVM: het systeem ondersteunt IPMI (Intelligent Platform Management Interface) voor geautomatiseerde monitoring en beheer. Bovendien biedt het KVM -functionaliteit (toetsenbord, video, muis), waardoor gebruikers op afstand toegang hebben tot het display van het systeem en het beheren alsof ze fysiek aanwezig waren. Dit omvat virtuele opslagmogelijkheden voor het opstarten op afstand of het opnieuw installeren van het systeem [2].
- Veilige protocollen: beveiligde protocollen zoals SSH kunnen worden ingesteld om externe toegang tot het DGX -station vanuit verschillende machines mogelijk te maken. Hierdoor kunnen gebruikers hun AI -workloads overal flexibel beheren [5].
-NVIDIA System Management Interface: gebruikers kunnen de NVIDIA System Management Interface (NVIDIA-SMI) -opdrachtregel-tool gebruiken om de GPU-prestaties te bewaken en te beheren, inclusief gebruikspercentages en temperatuurwaarden [5].
Over het algemeen biedt de DGX Station A100 een krachtige, kantoorvriendelijke oplossing voor meerdere gebruikers en externe toegang, waardoor het geschikt is voor verschillende omgevingen, van bedrijfskantoren tot onderzoeksfaciliteiten.
Citaten:
[1] https://www.compecta.com/dgxstation-a100.html
[2] https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-station-a100-system-architecture-white-paper_publiced.pdf
[3] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[4] https://www.e4company.com/wp-content/uploads/dgx-family-print-dgx-station-a100-datasheet-us-partner.pdf
[5] https://www.fibrermall.com/blog/nvidia-dgx-systems.htm
[6] https://opentools.ai/news/nvidia-unleasheshe-the-future-with-personal-ai-supercomputers
[7] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[8] https://www.serversimply.com/blog/how-to-connect-to-nvidia-dgx-cloud-advantages-configuraties-en-setup-gids