Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Google Cloud'daki TPU'ların maliyeti kendi TPU donanımınızı satın almaya ve sürdürmeye nasıl kıyasla


Google Cloud'daki TPU'ların maliyeti kendi TPU donanımınızı satın almaya ve sürdürmeye nasıl kıyasla


Google Cloud TPU'ları kullanmanın maliyetinin kendi TPU donanımınızı satın alma ve sürdürme maliyetinin karşılaştırılması, çeşitli faktörleri içerir:

1. Bulut TPU Maliyetleri: Google Cloud TPU'lar bir bulut hizmeti olarak kullanılabilir, yani yalnızca kullandığınız süre için ödeme yaparsınız. Maliyet TPU sürümüne ve kullanım taahhüdüne göre değişir. Örneğin, 512 çekirdekli bir TPU V2 Pod, isteğe bağlı saatte 384 dolar, uzun vadeli taahhütler için önemli indirimler ile bir yıllık taahhüt için yılda 2,1 milyon dolar ve üç yıl boyunca 4.5 milyon dolar. En son TPU V4 çip başına saatte yaklaşık 8 dolara mal olabilir ve TPU V4-POD gibi büyük ölçekli konfigürasyonlar saatte 32.200 $ 'a ulaşabilir [2] [3].

2. Kendi donanımı satın almak ve sürdürmek: TPU'lar kişisel kullanım için ayrı ayrı satılmaz; Yalnızca Google Cloud gibi bulut hizmetleri aracılığıyla kullanılabilirler. Bununla birlikte, bunu benzer görevler için yaygın olarak kullanılan yüksek performanslı GPU'lar satın almakla karşılaştırabilirsiniz. NVIDIA V100 veya A100 gibi üst düzey GPU'lar birim başına 8.000 ila 15.000 $ arasında olabilir [2]. Ayrıca, kendi donanımınızı korumak, güç, soğutma, genel gider ve personel için önemli devam eden maliyetleri içerir [7].

3. Maliyet Hususları: Sık veya sürekli kullanım için, kendi donanımınızı satın almak ve sürdürmek, özellikle operasyonel giderler de dahil olmak üzere toplam sahip olma maliyetini göz önünde bulundururken, uzun vadede daha uygun maliyetli olabilir. Bununla birlikte, ara sıra veya küçük ölçekli projeler için, Google Cloud TPU'lar gibi bulut hizmetleri, açık sermaye maliyetlerinin eksikliği ve gerektiğinde ölçeklendirme yeteneği nedeniyle daha ekonomik olabilir [7].

Özetle, bulut TPU'ları önceden donanım maliyetleri olmadan esneklik ve ölçeklenebilirlik sunarken, kendi donanımınızı (yüksek performanslı GPU'lar gibi) satın almak ve sürdürmek, hem başlangıç ​​hem de operasyonel giderler göz önüne alındığında uzun vadeli, yoğun kullanım için daha uygun maliyetli olabilir.

Alıntılar:
[1] https://www.reddit.com/r/machinelearning/comments/epx5vg/d_google_cloud_tpu_pod_pricing_grid_a_512core_tpu/
[2] https://www.datacamp.com/blog/tpu-vs-gpu-ai
[3] https://www.chaotropy.com/why-googles-tpus-are-no-chatch-for-nvidias-gpus/
[4] https://www.androidpolice.com/what-are-google-cloud-tpus/
[5] https://cloud.google.com/tpu
[6] https://www.syntio.net/en/labs-musings/machine-rearning-ongcp-cloud-tpu-vs-cloud-fonctions/
[7] https://www.dataknobs.com/generativeai/tpu/tpu-gpu-cost.html
[8] https://cloud.google.com/tpu/docs/intro-to-tpu
[9] https://cloudplatform.googleblog.com/2018/06/cloud-tpu-now-swers-preemptable-pring-and-global-evailable.html