Stanica NVIDIA DGX Station A100 je navrhnutá tak, aby efektívne zvládla viacerých používateľov a vzdialený prístup, čo z neho robí ideálne riešenie pre tímy a organizácie v oblasti vedy o údajoch, ktoré si vyžadujú centralizované zdroje AI. Takto riadi tieto schopnosti:
Riešenie viacerých používateľov
- GPU viacerých inštancií (MIG): Stanica DGX A100 podporuje MIG, ktorá umožňuje pridelenie jednotlivých používateľov alebo úloh prideliť až 28 samostatných zariadení GPU. To znamená, že viacerí používatelia môžu zdieľať rovnaké GPU súčasne bez ovplyvnenia výkonu systému. MIG umožňuje každej inštancii GPU mať svoju vlastnú pamäť, vyrovnávaciu pamäť a streamovanie multiprocesoru, čím zabezpečuje efektívne využitie zdrojov [1] [2].
- Paralelné pracovné zaťaženie: Systém je schopný paralelne prevádzkovať pracovné zaťaženie tréningu, inferencie a analytiky. To umožňuje viacerým používateľom pracovať na rôznych projektoch súčasne a využívať plný potenciál štyroch vzájomne prepojených GPU NVIDIA A100 [1] [4].
- Zdieľanie zdrojov: MIG uľahčuje zdieľanie zdrojov medzi viacerými používateľmi, ako sú študenti alebo členovia tímov pre vedu o údajoch. Táto funkcia je obzvlášť užitočná pri hodnotení viacerých inferenčných úloh alebo pri používaní notebookov Jupyter na prieskum modelu [2].
Vzdialený prístup a správa
- Vzdialená správa: Stanica DGX A100 ponúka robustné možnosti diaľkového riadenia. Používatelia môžu spravovať systém z diaľky pomocou webového rozhrania, ktoré poskytuje podrobné protokoly systémov, hodnoty senzorov a monitorovanie výkonnosti. Zahŕňa to monitorovanie teploty GPU, pamäťových DIMMS, CPU a ďalších komponentov [2].
- IPMI a KVM: Systém podporuje IPMI (Intelligent Platform Management Interface) pre automatizované monitorovanie a správu. Okrem toho ponúka funkčnosť KVM (klávesnica, video, myš), ktorá používateľom umožňuje vzdialene získať prístup k displeji systému a spravovať ho, akoby boli fyzicky prítomní. Zahŕňa to možnosti virtuálneho ukladania na vzdialené zavedenie alebo preinštalovanie systému [2].
- Bezpečné protokoly: Bezpečné protokoly, ako je SSH, môžu byť nastavené tak, aby umožnili vzdialený prístup k stanici DGX z rôznych strojov. To umožňuje používateľom flexibilne spravovať svoje pracovné zaťaženie AI od kdekoľvek [5].
-Rozhranie riadenia systému NVIDIA: Používatelia môžu využívať príkazový riadok riadku riadenia systému NVIDIA System Management (NVIDIA-SMI) na monitorovanie a správu výkonu GPU vrátane percentuálneho podielu využitia a hodnoty teploty [5].
Celkovo poskytuje stanica DGX A100 výkonné riešenie pre viacerých používateľov a vzdialený prístup k výkonnému kancelárskemu riešeniu, vďaka čomu je vhodná pre rôzne prostredia, od podnikových kancelárií po výskumné zariadenia.
Citácie:
[1] https://www.compecta.com/dgxstation-a100.html
Https://www.robusthpc.com/wp-content/uploads/2021/11/nvidia-dgx-tation-ation-a100-System-architutec-wite-wite-paper_published.pdf
[3] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[4] https://www.e4company.com/wp-content/uploads/dgx-family-print-dgx-tation-ation-a100-datashet-us-us-partner.pdf
[5] https://www.fiberall.com/blog/nvidia-dgx-systems.htm
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-superComputers
[7] https://www.techpowerup.com/forums/threads/nvidia-annunces-dgx-park-and-dgx-station-pation-personal-ai-cacomputers.334300/
[8] https://www.serversimply.com/blog/how-to-connect-to-nvidia-dgx-cloud-advantages-configurations-and-setup-guide