ปัจจุบันสถานี NVIDIA DGX เป็นหนึ่งในระบบคอมพิวเตอร์ AI ที่ทรงพลังที่สุดที่มีอยู่ซึ่งมีแบนด์วิดท์หน่วยความจำสูงถึง 8 terabytes ต่อวินาทีด้วยหน่วยความจำ HBM3E และอีก 396 GB/s จากหน่วยความจำ LPDDR5X [1] [3] อย่างไรก็ตามไม่มีระบบที่จะเกิดขึ้นเฉพาะประกาศว่าเกินกว่าแบนด์วิดท์หน่วยความจำในระดับนี้ในฟอร์มฟอร์มเดสก์ท็อปเดียวกัน
สำหรับแอพพลิเคชั่นศูนย์ข้อมูลระบบเช่น Nvidia HTX B200 ซึ่งใช้ GPU ของ Nvidia Blackwell หลายตัวสามารถบรรลุแบนด์วิดท์หน่วยความจำที่สูงขึ้นได้ HTX B200 มีเทราไบต์สูงถึง 62 ต่อวินาทีของแบนด์วิดท์หน่วยความจำซึ่งสูงกว่าความสามารถของสถานี DGX อย่างมีนัยสำคัญ [1] อย่างไรก็ตามระบบเหล่านี้ได้รับการออกแบบมาสำหรับการปรับใช้ศูนย์ข้อมูลขนาดใหญ่แทนที่จะใช้เดสก์ท็อป
สถานี DGX นั้นเป็นระบบที่ทันสมัยโดยรวม Nvidia GB300 Grace Blackwell Ultra Desktop Superchip และนำเสนอพื้นที่หน่วยความจำที่สอดคล้องกัน 784 GB มันถูกออกแบบมาเพื่อนำประสิทธิภาพระดับศูนย์ข้อมูลไปยังเดสก์ท็อปสำหรับการพัฒนา AI ทำให้เหมาะอย่างยิ่งสำหรับการเรียกร้องปริมาณงาน AI เช่นการฝึกอบรมขนาดใหญ่และการอนุมาน [5] [6] ในขณะที่ไม่มีระบบที่ประกาศว่าเหนือกว่าแบนด์วิดท์หน่วยความจำของสถานี DGX โดยตรงในรูปแบบที่คล้ายกันความก้าวหน้าทางเทคโนโลยีอาจนำไปสู่ระบบในอนาคตด้วยความสามารถในการทำงานที่สูงขึ้น
โดยสรุปในขณะที่ไม่มีระบบเดสก์ท็อป AI ที่จะเกิดขึ้นที่จะประกาศด้วยแบนด์วิดท์หน่วยความจำที่สูงกว่าสถานี DGX โซลูชั่นศูนย์ข้อมูลเช่น HTX B200 เสนอแบนด์วิดท์ที่สูงขึ้นอย่างมีนัยสำคัญสำหรับแอปพลิเคชันขนาดใหญ่
การอ้างอิง:
[1] https://www.youtube.com/watch?v=KRBH0VON-2A
[2] https://www.dalco.ch/blog/nvidia-announces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1jej1uk/nvidia_announces_dgx_spark_and_dgx_station/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-station-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-dgx-station-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-supercomputers
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-specialized-desktop-line-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm