Uporaba lokalnega stroja z GPU namesto GPU VM je povsem izvedljiva in je lahko ugodna, odvisno od vaših posebnih potreb. Tu je nekaj pomislekov:
1. zmogljivost in nadzor: Lokalni stroj omogoča neposreden dostop do GPU -ja, kar omogoča boljše delovanje in nadzor nad strojno opremo. To je še posebej koristno za aplikacije, ki zahtevajo nizko zakasnitev in visoko pasovno širino pomnilnika, kot so globoko učenje ali visokozmogljive računalniške naloge [3].
2. Stroški in razširljivost: Medtem ko je nakup in vzdrževanje lokalnega GPU-ja lahko drago vnaprej, v oblaku ponujajo razširljivost in model plačljivih cen, kar je lahko bolj stroškovno učinkovit za spremenljive delovne obremenitve [3]. Če pa imate dosledne visokozmogljive potrebe, bi bila lokalna nastavitev na dolgi rok morda bolj ekonomična.
3. Omejitve virtualizacije: Večina programske opreme za virtualizacijo ne uporablja GPU za splošne računalniške naloge znotraj VM -jev. Namesto tega se GPU uporabljajo predvsem za upodabljanje grafike, ko se povežejo z VM [2] [4]. Če vaši VM-ji potrebujejo pospeševanje GPU za naloge, kot so strojno učenje ali grafično intenzivne aplikacije, je lahko koristna lokalna nastavitev z neposrednim dostopom do GPU-ja.
4. Varnost in skladnost: GPU v oblaku ponujajo večje ugodnosti za varnost in skladnost, saj jih upravljajo v oddaljenih podatkovnih centrih z močnimi varnostnimi ukrepi [3]. Če pa morate iz varnostnih razlogov hraniti svoje podatke lokalno, je zaželena lokalna nastavitev GPU-ja.
Če povzamemo, je uporaba lokalnega stroja z GPU lahko koristna za aplikacije, ki zahtevajo neposreden dostop do GPU -ja, nizko zamudo in visoko zmogljivost. Vendar pa Cloud GPU-ji ponujajo razširljivost in stroškovne koristi, ki bi bile morda boljše za spremenljive ali obsežne delovne obremenitve.
Navedbe:[1] https://cloud.google.com/compute/docs/gpus
[2] https://superoser.com/questions/1288358/how-much-gpu-ram-is-required-to-run-about-8-to-10-virtual-machines-at-same-t
[3] https://www.linkedin.com/pulse/cloud-gpus-vs-on-premise-which-beter-your-use-case-kumar-yuvraj-
[4] https://www.reddit.com/r/linuxhardware/comments/osia6l/do_i_need_a_dediced_gpu_for_virtualizacija_stuff/
[5] https://www.reddit.com/r/azure/comments/13ryzwz/gpu_instances_vs_cpu_instances_vs_local_3080/
[6] https://docs.docker.com/desktop/features/gpu/
[7] https://www.oracle.com/pk/cloud/compute/gpu/
[8] https://forums.fast.ai/t/building-local-gpu-server/101865