Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Ar yra artėjančių AI skaičiavimo sistemų, turinčių didesnį atminties pralaidumą nei DGX stotis


Ar yra artėjančių AI skaičiavimo sistemų, turinčių didesnį atminties pralaidumą nei DGX stotis


Šiuo metu „NVIDIA DGX“ stotis yra viena galingiausių galimų AI skaičiavimo sistemų, pasižyminčių iki 8 terabaitų per sekundę atminties pralaidumą su HBM3E atmintimi ir papildomu 396 GB/s iš LPDDR5X atminties [1] [3]. Tačiau nėra jokių konkrečių artėjančių sistemų, paskelbtų, kad pranoksta šį atminties pralaidumo lygį tame pačiame darbalaukio formos faktoriuje.

Duomenų centro programoms sistemos, tokios kaip „NVIDIA HTX B200“, kurios naudoja kelis NVIDIA Blackwell GPU, gali pasiekti dar didesnį atminties pralaidumą. „HTX B200“ siūlo iki 62 terabaitų per sekundę nuo atminties pralaidumo, žymiai viršijančio DGX stoties galimybes [1]. Tačiau šios sistemos yra skirtos didelio masto duomenų centro diegimui, o ne naudojimui darbalaukyje.

Pati „DGX“ stotis yra pažangiausia sistema, apimanti „NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip“ ir siūlanti didžiulę 784 GB nuoseklios atminties vietos. Jis yra skirtas pateikti duomenų centro lygio našumą staliniams kompiuteriams, skirtoms AI kūrimui, todėl jis yra labai tinkamas reikalauti AI darbo krūvių, tokių kaip didelio masto mokymas ir išvados [5] [6]. Nors nėra paskelbtų sistemų, kurios tiesiogiai pranoksta DGX stoties atminties pralaidumą panašios formos faktoriuje, technologijos pažanga gali sukelti ateities sistemas, turinčias dar didesnes našumo galimybes.

Apibendrinant galima pasakyti, kad nors nėra jokių konkrečių būsimų darbalaukio AI sistemų, paskelbtų su didesniu atminties pralaidumu nei DGX stotis, duomenų centro sprendimai, tokie kaip „HTX B200“, siūlo žymiai didesnį pralaidumą didelio masto programoms.

Citatos:
[1] https://www.youtube.com/watch?v=KRBH0VON-2A
[2] https://www.dalco.ch/blog/nvidia-announces-a100-80gb-gpu/
[3] https://www.reddit.com/r/hardware/comments/1JEJ1UK/NVIDIA_ANNOUNCES_DGX_SPARK_AND_DGX_STATION/
[4] https://images.nvidia.com/content/newsletters/email/pdf/dgx-tation-wp.pdf
[5] https://www.techpowerup.com/forums/threads/nvidia-announces-dgx-spark-and-dgx-stiation-personal-ai-computers.334300/
[6] https://opentools.ai/news/nvidia-unleashes-the-future-with-personal-ai-superkompiuteriai
[7] https://www.pcmag.com/news/what-is-nvidias-dgx-tation-a-new-specifialized-desktop-line-for-ai-work
[8] https://www.fibermall.com/blog/dgx-server.htm