Saat ini, stasiun NVIDIA DGX adalah salah satu sistem komputasi AI paling kuat yang tersedia, menampilkan bandwidth memori hingga 8 terabyte per detik dengan memori HBM3E dan tambahan 396 GB/s dari memori LPDDR5X [1] [3]. Namun, tidak ada sistem yang akan datang khusus yang diumumkan bahwa melampaui tingkat bandwidth memori ini dalam faktor bentuk desktop yang sama.
Untuk aplikasi pusat data, sistem seperti NVIDIA HTX B200, yang menggunakan beberapa GPU NVIDIA Blackwell, dapat mencapai bandwidth memori yang lebih tinggi. HTX B200 menawarkan hingga 62 terabyte per detik bandwidth memori, secara signifikan melebihi kemampuan stasiun DGX [1]. Namun, sistem ini dirancang untuk penyebaran pusat data skala besar daripada penggunaan desktop.
Stasiun DGX itu sendiri adalah sistem mutakhir, menggabungkan superchip desktop NVIDIA GB300 Grace Blackwell Ultra Desktop dan menawarkan ruang memori koheren 784 GB yang besar. Ini dirancang untuk membawa kinerja tingkat pusat data ke desktop untuk pengembangan AI, membuatnya sangat cocok untuk menuntut beban kerja AI seperti pelatihan skala besar dan inferensi [5] [6]. Meskipun tidak ada sistem yang diumumkan yang secara langsung melampaui bandwidth memori stasiun DGX dalam faktor bentuk yang sama, kemajuan teknologi dapat mengarah pada sistem masa depan dengan kemampuan kinerja yang lebih tinggi.
Singkatnya, sementara tidak ada sistem desktop AI yang akan datang yang diumumkan dengan bandwidth memori yang lebih tinggi daripada stasiun DGX, solusi pusat data seperti HTX B200 menawarkan bandwidth yang jauh lebih tinggi untuk aplikasi skala besar.
Kutipan:
[1] https://www.youtube.com/watch?v=Krbh0von-2a
[2] https://www.dalco.ch/blog/nvidia-announces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputer
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-spesialisasi-desktop-line-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm