NVLink-C2C: n toteuttaminen DGX-asemalla vaatisi merkittäviä laitteistomuutoksia, koska NVLINK-C2C on suunniteltu erityisesti järjestelmille, kuten Nvidia Grace Hopper SuperChip, joka integroi sekä Nvidia Grace CPU: n että Nvidia Hopper GPUS: n. Tässä ovat keskeiset laitteistovaatimukset ja näkökohdat:
1. Nvidia Grace CPU ja Hopper GPU -integraatio: NVLINK-C2C: tä käytetään Grace CPU: n ja Hopper GPU: n yhdistämiseen samassa superkorissa. DGX-asema käyttää kuitenkin tyypillisesti NVIDIA A100 GPU: ta, jotka eivät tue NVLINK-C2C: tä. Sinun on vaihdettava tai integroidaan nämä komponentit yhteensopivalla laitteistolla.
2. Nopea yhdistäminen: NVLink-C2C tarjoaa jopa 900 Gt/s kaksisuuntaista kaistanleveyttä, mikä on huomattavasti korkeampi kuin perinteiset PCIe-yhteydet. Tämän saavuttamiseksi järjestelmän on tuettava NVLink-C2C: n nopeaa liitäntätekniikkaa, joka ei ole kotoisin DGX-aseman nykyisestä arkkitehtuurista.
3. Muistin johdonmukaisuus: NVLink-C2C tukee laitteistomuistia koherenssia, mikä mahdollistaa saumattoman pääsyn muistiin CPU: n ja GPU: n välillä ilman nimenomaista kopiointia. Tämä ominaisuus vaatii erityistä laitteistotukea, jota ei ole vakiona DGX -asemilla.
4. Teho ja jäähdytys: Korkean suorituskyvyn komponenttien, kuten Grace Hopper SuperChipin, integrointi vaatii parannettua virransyöttö- ja jäähdytysjärjestelmää lisääntyneen virrankulutuksen ja lämmöntuotannon käsittelemiseksi.
5. Ohjelmistotuki: NVLink-C2C: n toteuttaminen vaatii myös yhteensopivia ohjelmistoja ja ohjaimia, jotka voivat hyödyntää sen ominaisuuksia. Tähän voi sisältyä käyttöjärjestelmän ja ohjelmistopinon mukauttaminen tai päivittäminen uuden laitteiston kokoonpanon tukemiseksi.
Yhteenvetona voidaan todeta, että NVLink-C2C: n toteuttaminen DGX-asemalla edellyttäisi järjestelmän arkkitehtuurin perustavanlaatuista uudelleensuunnittelua, mukaan lukien yhteensopivien prosessorien ja GPU: ien integrointi, nopeat väliaikaiset liitännät sekä asianmukaiset voima- ja jäähdytysratkaisut. Lisäksi NVLINK-C2C: n ominaisuuksien hyödyntämiseksi tarvitaan ohjelmistomuutoksia.
Viittaukset:
[1] https://developer.nvidia.com/blog/nvidia-grace-hopper-superchip-architecture-in-depth/
[2] https://www.nvidia.com/en-us/data-center/nvlink/
[3] https://nanoporetech.com/document/nvidia-dgx-station-a100-installation-and-use
[4] https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apu
[5] https://en.wikipedia.org/wiki/nvlink
[6] https://docs.nvidia.com/dgx/dgx-station-user-guide/index.html
[7] https://www.nvidia.com/en-us/data-center/nvlink-c2c/
[8] https://blogs.nvidia.com/blog/what-is-nvidia-nvlink/