Şu anda, NVIDIA DGX istasyonu, HBM3E belleği ve LPDDR5X belleğinden [1] [3] ek 396 GB/s ile saniyede 8 terabayt bellek bant genişliği içeren mevcut en güçlü AI bilgi işlem sistemlerinden biridir. Bununla birlikte, aynı masaüstü form faktöründe bu bellek bant genişliğini aştığını açıklayan belirli bir yaklaşan sistem yoktur.
Veri merkezi uygulamaları için, birden fazla NVIDIA Blackwell GPU kullanan NVIDIA HTX B200 gibi sistemler daha da yüksek bellek bant genişliği elde edebilir. HTX B200, bellek bant genişliğinin saniyesinde 62 terabayt sunar ve DGX istasyonunun yeteneklerini önemli ölçüde aşar [1]. Ancak, bu sistemler masaüstü kullanımı yerine büyük ölçekli veri merkezi dağıtımları için tasarlanmıştır.
DGX istasyonunun kendisi, NVIDIA GB300 Grace Blackwell Ultra Ultra Masaüstü Superchip'i içeren ve 784 GB tutarlı bir bellek alanı sunan en yeni bir sistemdir. Yapay zeka geliştirme için veri merkezi düzeyinde performans sağlamak için tasarlanmıştır, bu da büyük ölçekli eğitim ve çıkarım gibi AI iş yüklerini talep etmek için oldukça uygun hale getirir [5] [6]. DGX istasyonunun bellek bant genişliğini benzer bir form faktöründe doğrudan aşan bir sistem olmasa da, teknolojideki ilerlemeler daha yüksek performans özelliklerine sahip gelecekteki sistemlere yol açabilir.
Özetle, DGX istasyonundan daha yüksek bellek bant genişliğinde duyurulan belirli bir masaüstü AI sistemleri olmasa da, HTX B200 gibi veri merkezi çözümleri büyük ölçekli uygulamalar için önemli ölçüde daha yüksek bant genişliği sunmaktadır.
Alıntılar:
[1] https://www.youtube.com/watch?v=krbh0von-2a
[2] https://www.dalco.ch/blog/nvidia-ansunces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-onnounces-dgx-park-dgx-s-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-tation-a-new-seccialize-desktop-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm