NVIDIA DGX -aseman Multi Instance GPU (MIG) -teknologia tarjoaa useita merkittäviä etuja, etenkin ympäristöissä, joissa useiden käyttäjien tai joukkueiden on jaettava GPU-resursseja tehokkaasti.
1. Parannettu resurssien käyttö: MIG sallii yhden GPU: n jakamisen useisiin tapauksiin, joista jokaisella on erilliset resurssit, kuten muisti, välimuisti ja laskennat. Tämä maksimoi GPU: n käytön mahdollistamalla useat työkuormat samanaikaisesti yhdellä GPU: lla, mikä on erityisen hyödyllistä tehtäville, jotka eivät kyllästä GPU: n laskentakapasiteettia [1] [3] [9].
2. Taattu palvelun laatu (QoS): Jokainen MIG -ilmentymä toimii itsenäisesti, mikä varmistaa ennustettavan läpimenon ja latenssin. Tämä tarkoittaa, että vaikka useita tehtäviä suoritetaan samalla GPU: lla, jokaisella tehtävällä on johdonmukainen suorituskyky ilman muiden tehtävien häiriöitä, mikä on ratkaisevan tärkeää sovelluksille, jotka vaativat alhaisen viivettä ja korkeaa luotettavuutta [3] [9].
3. Parannettu yhteistyö ja joustavuus: MIG tukee useita käyttöönottovaihtoehtoja, mukaan lukien paljaat-metalli, säiliöt ja virtuaalikoneet. Tämä joustavuus antaa joukkueille mahdollisuuden jakaa GPU -resursseja tehokkaasti, mikä tekee siitä ihanteellisen yhteistyöympäristöihin, kuten tutkimuslaboratorioihin ja tietotekniikan ryhmiin [1] [3] [7].
4. Kustannustehokkuus: Antamalla useille käyttäjille mahdollisuuden jakaa yhden GPU: n, MIG voi vähentää lisälaitteiden tarvetta, mikä tekee siitä kustannustehokkaan ratkaisun verrattuna erillisten GPU: ien ostamiseen jokaiselle käyttäjälle tai vuokraamaan pilvi GPU-esiintymiä [1] [4].
5. Päätelmien työmäärien lisääntynyt läpimenoaika: MIG voi merkittävästi lisätä päätelmien läpimenoa antamalla useita pieniä malleja toimia rinnakkain yhdellä GPU: lla. Tämä on erityisen hyödyllistä sovelluksille, joissa on pieniä, matalan latenssien malleja, jotka eivät vaadi GPU: n täydellistä suorituskykyä [2] [7].
6. Turvallisuus ja eristäminen: MIG tarjoaa tiukan eristyksen esiintymien välillä varmistaen, että jokaisen käyttäjän työmäärä on turvallisesti vaikuttamatta muihin käyttäjiin. Tämä on erityisen tärkeää monivuokrausympäristöissä, joissa tietoturva on ensiarvoisen tärkeää [3] [9].
7. skaalautuvuus ja monipuolisuus: DGX -asema A100, sillä sen tuella MiG: lle, voidaan konfiguroida käsittelemään erilaisia työmääriä samanaikaisesti. Esimerkiksi jotkut GPU: t voidaan omistaa AI-koulutukselle, kun taas toisia käytetään korkean suorituskyvyn laskenta- tai päätelmätehtäviin, kaikki kulkevat samanaikaisesti ilman suorituskyvyn heikkenemistä [2] [7].
Kaiken kaikkiaan DGX-aseman A100 MIG parantaa GPU-resurssien allokoinnin tuottavuutta, tehokkuutta ja joustavuutta, mikä tekee siitä ihanteellisen ratkaisun ympäristöihin, jotka vaativat korkean suorituskyvyn laskentaa ja yhteistyötä.
Viittaukset:
.
[2] https://www.skyblue.de/uploads/datasheeets/nvidia_twp_dgx_a100_system_architecture.pdf
[3] https://docs.nvidia.com/datacenter/tesla/mig-user-guide/
[4] https://www.globenewswire.com/news-release/2020/11/16/2127366/0/en/nvidia-dgx-station-a100-offers-resescesers-ai-data-center-in-ax.html
.
[6] https://www.megware.com/fileadmin/user_upload/landingpage%20nvidia/nvidia-ampe-architecture-whitepaper.pdf
.
[8] https://www.fujitsu.com/au/products/computing/servers/supercomputer/gpu-computing/nvidia-dgx-systems/dgx-station/
[9] https://www.nvidia.com/en-us/technologies/multi-instance-gpu/
[10.