NVIDIA DGX Spark, superkomputer AI pribadi, dirancang untuk menjalankan model AI secara lokal di lingkungan desktop. Meskipun tidak secara langsung terintegrasi dengan layanan cloud seperti AWS atau Azure untuk penyebaran, pengguna dapat mengembangkan dan menyempurnakan model pada percikan DGX dan kemudian menggunakannya ke platform cloud untuk produksi. Begini cara digunakan bersama dengan AWS dan Azure:
Integrasi dengan layanan cloud
1. Alur kerja pengembangan dan penyebaran: Pengguna dapat memanfaatkan percikan DGX untuk mengembangkan, menyempurnakan, dan menguji model AI secara lokal. Setelah model siap, mereka dapat diunggah ke platform cloud seperti AWS atau Azure untuk penyebaran dan inferensi skala besar. Pendekatan ini memungkinkan pengembang untuk bekerja secara efisien di lingkungan lokal sebelum meningkatkan di cloud.
2. NVIDIA DGX Cloud: Meskipun DGX Spark itu sendiri bukan layanan cloud, NVIDIA menawarkan platform cloud DGX, yang tersedia di AWS, Azure, dan penyedia cloud lainnya. DGX Cloud menyediakan akses yang dapat diskalakan ke GPU canggih NVIDIA, memungkinkan pengguna untuk melatih dan menggunakan model AI di cloud. Sementara DGX Spark adalah untuk pengembangan lokal, DGX Cloud dapat digunakan untuk beban kerja AI berbasis cloud.
3. AWS Integration: AWS menawarkan berbagai alat dan layanan untuk pengembangan AI, seperti Amazon Sagemaker untuk penyebaran model dan batch AWS untuk inferensi batch. Pengguna dapat mengembangkan model pada DGX Spark dan kemudian menggunakannya menggunakan titik akhir Sagemaker untuk inferensi real-time. Selain itu, AWS menyediakan solusi penyimpanan yang dapat diskalakan seperti Amazon S3, yang dapat digunakan untuk menyimpan dan mengelola kumpulan data yang besar.
4. Azure Integration: Azure menyediakan kemampuan serupa dengan Azure ML untuk penyebaran model dan Azure Kubernetes Service (AKS) untuk manajemen model yang dapat diskalakan. Pengguna dapat mengembangkan model secara lokal di DGX Spark dan kemudian menggunakannya ke Azure untuk produksi, memanfaatkan solusi penyimpanan yang dapat diskalakan Azure seperti Azure Blob Storage.
Singkatnya, sementara percikan DGX tidak secara langsung diintegrasikan dengan AWS atau Azure, ia melengkapi platform cloud ini dengan memungkinkan pengguna untuk mengembangkan dan menyempurnakan model AI secara lokal sebelum menggunakannya ke cloud untuk produksi dan inferensi skala besar.
Kutipan:
[1] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-meng- blackwell-ai-supercomputers-gtc
[2] https://www.datacenterdynamics.com/en/news/nvidia-dgx-cloud-now-available-via-aws/
[3.
[4] https://www.aquasec.com/cloud-native-academy/cspm/ai-workloads/
[5] https://docs.aws.amazon.com/pdfs/prescriptive-guidance/latest/tuning-aws-glue-for-apache-park/tuning-aws-glue-for-apache-park.pdf
[6] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-spesialisasi-desktop-line-for-ai-work
[7] https://docs.nvidia.com/dgx cloud/run-ai/latest/applix.html
[8] https://blogs.nvidia.com/blog/aws-reinvent-ai-robotics-quantum-software/
[9] https://page.adn.de/hubfs/25042371/herstellerseiten/nvidia/download/virtualierung/nvidia%20ai%20Enterprise%20licensing-guide.pdf?hslang=de
[10] https://www.bigdatawire.com/2024/12/11/nvidia-touts-lower-dow-to-first-with-dgx-cloud-on-aws/
[11] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-station-personal-ai-computers