Použití místního stroje s GPU místo GPU VM je zcela proveditelné a může být výhodné v závislosti na vašich konkrétních potřebách. Zde jsou některé úvahy:
1. Výkon a ovládání: Místní stroj poskytuje přímý přístup k GPU, což umožňuje lepší výkon a kontrolu nad hardwarem. To je obzvláště výhodné pro aplikace vyžadující nízkou latenci a šířku pásma vysoké paměti, jako je hluboké učení nebo vysoce výkonné výpočetní úkoly [3].
2. Náklady a škálovatelnost: Při nákupu a udržování místního GPU může být nákladné předem, cloudové GPU nabízejí škálovatelnost a model cen placených as-you-go, který může být nákladově efektivnější pro proměnnou pracovní zatížení [3]. Pokud však máte konzistentní vysoce výkonné potřeby, může být místní nastavení z dlouhodobého hlediska ekonomičtější.
3. Omezení virtualizace: Většina virtualizačního softwaru nevyužívá GPU pro obecné výpočetní úkoly v rámci VMS. Místo toho se GPU používají primárně pro grafické vykreslování při připojení k VM [2] [4]. Pokud vaše VM vyžadují zrychlení GPU pro úkoly, jako je strojové učení nebo aplikace náročné na grafiky, může být prospěšné místní nastavení s přímým přístupem GPU.
4. Zabezpečení a dodržování předpisů: Cloud GPU nabízejí zvýšené dávky zabezpečení a dodržování předpisů, protože jsou spravovány ve vzdálených datových centrech s robustními bezpečnostními opatřeními [3]. Pokud však potřebujete ponechat svá data v oblasti bezpečnostních důvodů, je vhodnější místní nastavení GPU.
Stručně řečeno, použití místního stroje s GPU může být výhodné pro aplikace vyžadující přímý přístup GPU, nízkou latenci a vysoký výkon. Cloudové GPU však nabízejí škálovatelnost a náklady, které by mohly být výhodnější pro proměnná nebo rozsáhlá pracovní zatížení.
Citace:[1] https://cloud.google.com/compute/docs/gpus
[2] https://superuser.com/questions/1288358/how-much-gpu-ram-is-required-to--run-out-8-ro-10-virtual-achet-the-same-t
[3] https://www.linkedin.com/pulse/cloud-gpus-vs-on-premise-which-better-your-use-case-kumar-yuvraj-
[4] https://www.reddit.com/r/linuxhardware/comments/osia6l/do_i_need_a_dedicated_gpu_for_virtualization_stuff/
[5] https://www.reddit.com/r/azure/comments/13ryzwz/gpu_instances_vs_cpu_instances_vs_local_3080/
[6] https://docs.docker.com/desktop/features/gpu/
[7] https://www.oracle.com/pk/cloud/compute/gpu/
[8] https://forums.fast.ai/t/building-local-gpu-server/101865