NVIDIA DGX Spark, personīgais AI superdators, ir paredzēts, lai palaistu AI modeļus lokāli darbvirsmas vidē. Lai gan tas nav tieši integrēts ar mākoņa pakalpojumiem, piemēram, AWS vai Azure for izvietošanai, lietotāji var attīstīt un precīzi noregulēt modeļus uz DGX dzirksteles un pēc tam tos izvietot mākoņa platformās ražošanai. Lūk, kā to var izmantot kopā ar AWS un Azure:
Integrācija ar mākoņa pakalpojumiem
1. Izstrādes un izvietošanas darbplūsma: lietotāji var izmantot DGX dzirksti, lai attīstītu, precīzi noregulētu un pārbaudītu AI modeļus vietējā mērogā. Kad modeļi ir gatavi, tos var augšupielādēt mākoņu platformās, piemēram, AWS vai Azure, liela mēroga izvietošanai un secinājumiem. Šī pieeja ļauj izstrādātājiem efektīvi strādāt vietējā vidē pirms mērogošanas mākonī.
2. NVIDIA DGX CLOUD: Lai arī pati DGX Spark nav mākoņu pakalpojums, NVIDIA piedāvā DGX Cloud platformu, kas ir pieejama AWS, Azure un citiem mākoņu pakalpojumu sniedzējiem. DGX Cloud nodrošina mērogojamu piekļuvi NVIDIA uzlabotajam GPU, ļaujot lietotājiem apmācīt un izvietot AI modeļus mākonī. Kamēr DGX Spark ir paredzēts vietējai attīstībai, DGX Cloud var izmantot mākoņa bāzes AI darba slodzēm.
3. AWS integrācija: AWS piedāvā dažādus rīkus un pakalpojumus AI izstrādei, piemēram, Amazon Sagemaker modeļa izvietošanai un AWS partijai par partijas secinājumiem. Lietotāji var izstrādāt modeļus DGX Spark un pēc tam tos izvietot, izmantojot Sagemaker parametrus reāllaika secinājumiem. Turklāt AWS nodrošina mērogojamus uzglabāšanas risinājumus, piemēram, Amazon S3, kurus var izmantot lielu datu kopu glabāšanai un pārvaldībai.
4. Azure integrācija: Azure nodrošina līdzīgas iespējas ar Azure ML modeļa izvietošanai un Azure Kubernetes pakalpojumam (AKS) mērogojamai modeļa pārvaldībai. Lietotāji var izstrādāt modeļus lokāli uz DGX Spark un pēc tam tos izvietot Azure ražošanai, piesaistot Azure mērogojamos uzglabāšanas risinājumus, piemēram, Azure Blob Storage.
Rezumējot, lai gan DGX dzirkstele nav tieši integrēta ar AWS vai Azure, tā papildina šīs mākoņu platformas, ļaujot lietotājiem attīstīt un precīzi pielāgot AI modeļus uz vietas, pirms tos izvieto mākonī liela mēroga ražošanai un secinājumiem.
Atsauces:
[1.]
[2] https://www.datacenterdynamics.com/en/news/nvidia-dgx-cloud-now-available-via-aws/
[3] https://www.constellationr.com/blog-news/insights/nvidia-launches-dgx-park-dgx-station-personal-ai-supercomputers
[4] https://www.aquasec.com/cloud-native-academy/cspm/ai-workloads/
[5] https://docs.aws.amazon.com/pdfs/prescriptive-guidance/latest/tuning-aws-lue-for-apache-park/tuning-aws-lue-for-apache-park.pdf
[6.]
[7] https://docs.nvidia.com/dgx-cloud/run-ai/latest/appendix.html
[8] https://blogs.nvidia.com/blog/aws-reinvent-ai-robotics-quantum-software/
.
.
[11] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-park-and-dgx-station-personal-ai-computers