Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Er det noen kommende AI -datasystemer med høyere minnebåndbredde enn DGX -stasjonen


Er det noen kommende AI -datasystemer med høyere minnebåndbredde enn DGX -stasjonen


For øyeblikket er NVIDIA DGX -stasjonen et av de kraftigste AI -datasystemene som er tilgjengelige, med en minnebåndbredde på opptil 8 terabyte per sekund med HBM3E -minne og ytterligere 396 GB/s fra LPDDR5X -minne [1] [3]. Imidlertid er det ingen spesifikke kommende systemer som er kunngjort som overgår dette nivået av minnebåndbredde i samme stasjonær formfaktor.

For applikasjoner for datasenter kan systemer som NVIDIA HTX B200, som bruker flere NVIDIA Blackwell GPU -er, oppnå enda høyere minnebåndbredder. HTX B200 tilbyr opptil 62 terabyte per sekund av minnebåndbredden, noe som overskrider DGX -stasjonens funksjoner betydelig [1]. Imidlertid er disse systemene designet for distribusjoner av datasenter i stor skala i stedet for bruk av stasjonær.

Selve DGX-stasjonen er et banebrytende system, som inkluderer NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip og tilbyr en massiv 784 GB med sammenhengende minneplass. Den er designet for å bringe ytelse på datasenternivå til stasjonære maskiner for AI-utvikling, noe som gjør det veldig egnet for å kreve AI-arbeidsmengder som storskala trening og inferencing [5] [6]. Selv om det ikke er noen annonserte systemer som direkte overgår DGX -stasjonens minnebåndbredde i en lignende formfaktor, kan fremskritt innen teknologi føre til fremtidige systemer med enda høyere ytelsesegenskaper.

Oppsummert, selv om det ikke er noen spesifikke kommende Desktop AI-systemer som er kunngjort med høyere minnebåndbredde enn DGX-stasjonen, tilbyr datasenterløsninger som HTX B200 betydelig høyere båndbredde for storskala applikasjoner.

Sitasjoner:
[1] https://www.youtube.com/watch?v=krbh0von-2a
[2] https://www.dalco.ch/blog/nvidia-announces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashesh-the-future-with-personal-ai-supercomputers
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialised-desktop-line-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm