GPU VM 대신 GPU가있는 로컬 시스템을 사용하는 것은 전적으로 실현 가능하며 특정 요구에 따라 유리할 수 있습니다. 몇 가지 고려 사항은 다음과 같습니다.
1. 성능 및 제어 : 로컬 머신은 GPU에 직접 액세스 할 수 있으므로 하드웨어에 대한 성능을 향상시키고 제어 할 수 있습니다. 이는 딥 러닝 또는 고성능 컴퓨팅 작업과 같은 낮은 대기 시간 및 높은 메모리 대역폭이 필요한 응용 프로그램에 특히 유리합니다 [3].
2. 비용 및 확장 성 : 로컬 GPU를 구매하고 유지하는 데는 비용이 많이들 수 있지만 클라우드 GPU는 확장 성과 비용 지불 가격 모델을 제공하며, 이는 가변 워크로드에보다 비용 효율적일 수 있습니다 [3]. 그러나 일관된 고성능 요구가있는 경우 장기적으로 지역 설정이 더 경제적 일 수 있습니다.
3. 가상화 제한 사항 : 대부분의 가상화 소프트웨어는 VM 내의 일반 컴퓨팅 작업에 GPU를 사용하지 않습니다. 대신, GPU는 주로 VM에 연결할 때 그래픽 렌더링에 주로 사용됩니다 [2] [4]. VM에 머신 러닝 또는 그래픽 집약적 인 응용 프로그램과 같은 작업에 대한 GPU 가속이 필요한 경우 직접 GPU 액세스가있는 로컬 설정에 도움이 될 수 있습니다.
4. 보안 및 규정 준수 : 클라우드 GPU는 강력한 보안 조치를 가진 원격 데이터 센터에서 관리되는 강화 된 보안 및 규정 준수 혜택을 제공합니다 [3]. 그러나 보안상의 이유로 데이터 온-프레미스를 유지 해야하는 경우 로컬 GPU 설정이 바람직합니다.
요약하면, GPU가있는 로컬 시스템을 사용하는 것은 직접 GPU 액세스, 낮은 대기 시간 및 고성능이 필요한 응용 프로그램에 유리할 수 있습니다. 그러나 클라우드 GPU는 가변 또는 대규모 워크로드에 바람직 할 수있는 확장 성 및 비용 혜택을 제공합니다.
인용 :[1] https://cloud.google.com/compute/docs/gpus
[2] https://superuser.com/questions/1288358/how-much-gpu-ram-is-required-to-run-8-10-virtual-machines-at-the-same-t
[3] https://www.linkedin.com/pulse/cloud-gpus-vs-on-premise whith-better-your-us-kumar-yuvraj-
[4] https://www.reddit.com/r/linuxhardware/comments/osia6l/do_i_need_a_dedated_gpu_for_virtualization_stuff/
[5] https://www.reddit.com/r/azure/comments/13ryzwz/gpu_instances_vs_cpu_instances_vs_local_3080/
[6] https://docs.docker.com/desktop/features/gpu/
[7] https://www.oracle.com/pk/cloud/compute/gpu/
[8] https://forums.fast.ai/t/building-local-gpu-server/101865