NVIDIA DGX Station A100 on suunniteltu käsittelemään tehokkaasti useita käyttäjiä ja etäkäyttöä, mikä tekee siitä ihanteellisen ratkaisun tietotekniikan ryhmille ja organisaatioille, jotka vaativat keskitettyjä AI -resursseja. Näin se hallinnoi näitä ominaisuuksia:
Useiden käyttäjien käsittely
- Multi-instance GPU (MIG): DGX-asema A100 tukee MIG: tä, jonka avulla jopa 28 erillistä GPU-laitetta voidaan allokoida yksittäisille käyttäjille tai työpaikoille. Tämä tarkoittaa, että useat käyttäjät voivat jakaa saman GPU: n samanaikaisesti vaikuttamatta järjestelmän suorituskykyyn. MIG antaa jokaiselle GPU -ilmentymään oma muistin, välimuistin ja suoratoisto moniprosessorin, mikä varmistaa tehokkaan resurssien hyödyntämisen [1] [2].
- Rinnakkaistyökuormat: Järjestelmä pystyy suorittamaan koulutus-, päätelmät ja analytiikan työmäärät rinnakkain. Tämän avulla useat käyttäjät voivat työskennellä erilaisissa projekteissa samanaikaisesti hyödyntämällä neljän toisiinsa kytketyn NVIDIA A100 GPU: n kokonaispotentiaalia [1] [4].
- Resurssien jakaminen: MIG helpottaa resurssien jakamista useiden käyttäjien, kuten Data Science -tiimien opiskelijoiden tai jäsenten keskuudessa. Tämä ominaisuus on erityisen hyödyllinen arvioitaessa useita päätelmätyötä tai käyttämällä Jupyter -muistikirjoja mallin tutkimiseen [2].
etäkäyttö ja hallinta
- Etähallinta: DGX Station A100 tarjoaa vankat etähallintaominaisuudet. Käyttäjät voivat hallita järjestelmää etäisyydeltä verkkopohjaisella käyttöliittymällä, joka tarjoaa yksityiskohtaisia järjestelmärokeja, anturin lukemia ja suorituskyvyn seurantaa. Tähän sisältyy GPU: n, muistidimmien, prosessorin ja muiden komponenttien lämpötilan seuranta [2].
- IPMI ja KVM: Järjestelmä tukee IPMI: tä (älykäs alustan hallintarajapinta) automatisoidun seurannan ja hallinnan varalta. Lisäksi se tarjoaa KVM: n (näppäimistö, video, hiiren) toiminnallisuuden, jonka avulla käyttäjät voivat etäältä käyttää järjestelmän näyttöä ja hallita sitä ikään kuin ne olisivat fyysisesti läsnä. Tämä sisältää virtuaaliset tallennusominaisuudet järjestelmän etäkäynnistykseen tai asentamiseen [2].
- Suojatut protokollat: SSH: n kaltaiset turvalliset protokollat voidaan asettaa, jotta etäkäyttö voidaan käyttää DGX -asemalle eri koneista. Tämän avulla käyttäjät voivat hallita AI -työmääriä joustavasti mistä tahansa [5].
-NVIDIA-järjestelmänhallintarajapinta: Käyttäjät voivat käyttää NVIDIA System Management -rajapinnan (NVIDIA-SMI) komentorivityökalua GPU: n suorituskyvyn seuraamiseen ja hallintaan, mukaan lukien käyttöprosentit ja lämpötila-arvot [5].
Kaiken kaikkiaan DGX Station A100 tarjoaa tehokkaan, toimistoystävällisen ratkaisun useille käyttäjille ja etäkäyttöön, mikä tekee siitä sopivan moniin ympäristöihin yritystoimistoista tutkimustiloihin.
Viittaukset:
[1] https://www.compecta.com/dgxstation-a100.html
.
[3] https://docs.nvidia.com/dgx/pdf/dgx-station-user-guide.pdf
[4] https://www.e4company.com/wp-content/uploads/dgx-family-print-dgx-station-a100-datasheet-us-partner.pdf
[5] https://www.fibermall.com/blog/nvidia-dgx-systems.htm
.
[7] https://www.techpo:
[8] https://www.serversimply.com/blog/how-to-connect-to-nvidia-dgx-cloud-advantages