NVIDIA DGX Spark, osobný superpočítač AI, je navrhnutý tak, aby spúšťal modely AI lokálne v prostredí pracovnej plochy. Aj keď nie je priamo integrovaný s cloudovými službami, ako je AWS alebo Azure na nasadenie, používatelia môžu vyvíjať a doladiť modely na DGX Spark a potom ich nasadiť do cloudových platforiem na výrobu. Takto sa dá použiť v spojení s AWS a Azure:
Integrácia s cloudovými službami
1. Vývoj a nasadenie pracovný tok: Používatelia môžu využiť DGX Spark, aby sa vyvíjali, doladili a testovali modely AI lokálne. Akonáhle sú modely pripravené, môžu sa nahrať na cloudové platformy, ako je AWS alebo Azure na rozsiahle nasadenie a odvodenie. Tento prístup umožňuje vývojárom efektívne pracovať v miestnom prostredí pred rozšírením v cloude.
2. NVIDIA DGX Cloud: Aj keď samotná DGX Spark nie je cloudová služba, NVIDIA ponúka platformu DGX Cloud Platform, ktorá je k dispozícii pre AWS, Azure a ďalších poskytovateľov cloudu. DGX Cloud poskytuje škálovateľný prístup k pokročilým GPU NVIDIA, čo používateľom umožňuje trénovať a nasadiť modely AI v cloude. Zatiaľ čo DGX Spark je určená na miestny vývoj, DGX Cloud sa môže použiť na pracovné zaťaženie AI založené na cloude.
3. AWS Integration: AWS ponúka rôzne nástroje a služby pre vývoj AI, ako je Amazon Sagemaker pre nasadenie modelu a dávka AWS na odvodenie dávky. Používatelia môžu vyvíjať modely na DGX Spark a potom ich nasadiť pomocou koncových bodov Sagemaker na inferenciu v reálnom čase. Okrem toho AWS poskytuje škálovateľné úložné riešenia, ako je Amazon S3, ktoré sa dajú použiť na ukladanie a správu veľkých súborov údajov.
4. Integrácia Azure: Azure poskytuje podobné schopnosti s Azure ML pre nasadenie modelu a službu Azure Kubernetes (AKS) pre škálovateľné riadenie modelov. Používatelia môžu vyvíjať modely lokálne na DGX Spark a potom ich nasadiť do Azure na výrobu, využívajúc škálovateľné úložné riešenia Azure, ako je Azure Blob Storage.
Stručne povedané, zatiaľ čo DGX Spark nie je priamo integrovaná s AWS alebo Azure, dopĺňa tieto cloudové platformy tým, že umožňuje používateľom vyvíjať a jemne doladiť modely AI lokálne pred ich nasadením do cloudu pre rozsiahlu výrobu a inferenciu.
Citácie:
[1] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-alackwell-supercomputers-gtc
[2] https://www.datacenterdynamics.com/en/news/nvidia-dgx-cloud-now-available-via-ws/
[3] https://www.constellationr.com/blog-news/insights/nvidia-launches-dgx-park-dgx-station-pation-personal-ai-superComputers
[4] https://www.aquasec.com/cloud-native-academy/cspm/ai-workloads/
Https://docs.aws.amazon.com/pdfs/prescriptive-guidance/latest/tuning-aws-glue-for-apache-park/tuning-aws-glue-apache-park.pdf
[6] https://www.pcmag.com/news/what-is-nvidias-dgx-tation-a-new-specialized-desktop-line-for-ai-work
[7] https://docs.nvidia.com/dgx-lloud/run-ai/latest/appendix.html
[8] https://blogs.nvidia.com/blog/aws-reinvent-ai-rabotics-quantum-software/
Https://page.adn.de/hubfs/25042371/Herstellerseiten/nvidia/download/virtualisierung/nvidia%20AI%20Enterprise%20Licensing-guide.pdf?hslang=de
[10] https://www.bigdatawire.com/2024/12/11/nvidia-touts-mower-ime-to-first-------with-dgx-cloud-on-on-on-aws/
[11] https://nvidianews.nvidia.com/news/nvidia-annunces-dgx-park-and-dgx-station-ation-ational-ational-ai-computers