개인 AI 슈퍼 컴퓨터 인 Nvidia DGX Spark는 데스크탑 환경에서 AI 모델을 로컬로 실행하도록 설계되었습니다. AWS 또는 Azure for 배포와 같은 클라우드 서비스와 직접 통합되지는 않지만 DGX Spark에서 모델을 개발하고 미세 조정 한 다음 프로덕션을 위해 클라우드 플랫폼에 배포 할 수 있습니다. 다음은 AWS 및 Azure와 함께 사용할 수있는 방법입니다.
클라우드 서비스와 통합
1. 개발 및 배포 워크 플로우 : 사용자는 DGX Spark를 활용하여 AI 모델을 로컬로 개발, 미세 조정 및 테스트 할 수 있습니다. 모델이 준비되면 대규모 배치 및 추론을 위해 AWS 또는 Azure와 같은 클라우드 플랫폼에 업로드 할 수 있습니다. 이 접근법을 통해 개발자는 클라우드에서 확장하기 전에 지역 환경에서 효율적으로 작업 할 수 있습니다.
2. Nvidia DGX Cloud : DGX Spark 자체는 클라우드 서비스가 아니지만 NVIDIA는 AWS, Azure 및 기타 클라우드 제공 업체에서 사용할 수있는 DGX 클라우드 플랫폼을 제공합니다. DGX Cloud는 NVIDIA의 고급 GPU에 대한 확장 가능한 액세스를 제공하므로 사용자는 클라우드에서 AI 모델을 교육하고 배포 할 수 있습니다. DGX Spark는 로컬 개발을위한 것이지만 DGX 클라우드는 클라우드 기반 AI 워크로드에 사용할 수 있습니다.
3. AWS 통합 : AWS는 모델 배포 용 Amazon Sagemaker 및 배치 추론을위한 AWS 배치와 같은 AI 개발을위한 다양한 도구와 서비스를 제공합니다. 사용자는 DGX Spark에서 모델을 개발 한 다음 실시간 추론을 위해 Sagemaker 엔드 포인트를 사용하여 배포 할 수 있습니다. 또한 AWS는 대형 데이터 세트를 저장하고 관리하는 데 사용할 수있는 Amazon S3와 같은 확장 가능한 스토리지 솔루션을 제공합니다.
4. Azure 통합 : Azure는 모델 배포 용 Azure ML 및 확장 가능한 모델 관리를위한 AKS (Azure Kubernetes Service)와 유사한 기능을 제공합니다. 사용자는 DGX Spark에서 로컬로 모델을 개발 한 다음 Azure Blob Storage와 같은 Azure의 확장 가능한 스토리지 솔루션을 활용하여 생산을 위해 Azure에 배치 할 수 있습니다.
요약하면, DGX Spark는 AWS 또는 Azure와 직접 통합되지 않지만 사용자가 대규모 제작 및 추론을 위해 클라우드에 클라우드에 배포하기 전에 AI 모델을 로컬로 개발하고 미세 조정할 수 있도록함으로써 이러한 클라우드 플랫폼을 보완합니다.
인용 :
[1] https://www.theverge.com/news/631957/nvidia-dgx-spark-station-grace-blackwell-ai-supercomputers-gtc
[2] https://www.datacenterdynamics.com/en/news/nvidia-dgx-cloud-now-available-via-aws/
[3] https://www.constellationr.com/blog-news/insights/nvidia-launches-dgx-spark-dgx-station-personal-ai-supercomputers
[4] https://www.aquasec.com/cloud-native-academy/cspm/ai-workloads/
[5] https://docs.aws.amazon.com/pdfs/prescriptive-guidance/latest/tuning-aw-glue-for-apache-spark/tuning-aws-glue-for-apache-pach.pdf
[6] https://www.pcmag.com/news/what-is-nvidias-dgx-station-a-new-pecialized-desktop-line-for-ai-work
[7] https://docs.nvidia.com/dgx-cloud/run-ai/latest/appendix.html
[8] https://blogs.nvidia.com/blog/aws-reinvent-lobotics-quantum-software/
[9] https://page.adn.de/hubfs/25042371/herstellerseiten/nvidia/download/virtualisierung/nvidia%20ai%20Enterprise%20Licensing-guide.pdf?hslang=de
[10] https://www.bigdatawire.com/2024/12/11/nvidia-touts-lower-time-to-first-train-with-dgx-cloud-on-aws/
[11] https://nvidianews.nvidia.com/news/nvidia-announces-dgx-spark-and-dgx-pistation-pernal-ai-compupers