Hlavní rozdíly v nákladech mezi TPU V2 a TPU V3 leží v jejich hodinovém ceně a celkovém výkonu.
- TPU V2: Náklady na jádro TPU V2 jsou od roku 2019 přibližně 6,50 $ za hodinu [3]. U větších konfigurací, jako je TPU V2 POD, mohou být náklady výrazně vyšší, přičemž 512 jádrovými podu stojí 384 $ za hodinu [5].
- TPU V3: Náklady na jádro TPU V3 se od roku 2019 pohybují kolem 8,50 $ za hodinu [3]. Novější ceny naznačují, že plný TPU V3 stojí asi 4,50 $ za hodinu [1]. Pro větší nastavení je podle toho stupnice nákladů, ale specifické ceny POD pro TPU V3 je o něco vyšší než V2 na hodinovém základě pro menší konfigurace [5].
Obecně TPU V3 nabízí více výkonu (123 vrcholů) ve srovnání s TPU V2 (45 vrcholů) [2], což může vést k rychlejšímu výpočtu a potenciálně nižší celkové náklady na rozsáhlé úkoly učení i přes vyšší hodinovou sazbu. Výběr mezi TPU V2 a V3 však závisí na konkrétních potřebách projektu a rozpočtových omezeních.
Citace:[1] https://www.datacamp.com/blog/tpu-vs-gpu-ai
[2] https://community.fs.com/encyclopedia/-tensor-processing-Unit-tpu-.html
[3] https://www.dataknobs.com/generativeai/tpu/tpu-ggu-cost.html
[4] https://cloud.google.com/tpu/docs/quota
[5] https://www.reddit.com/r/machinelearning/comments/epx5vg/d_google_cloud_tpu_pod_pricing_grid_a_512core_tpu/
[6] https://openmetal.io/docs/product-guides/private-cloud/tpu-vs-gpu-dos-and-cons/
[7] https://news.ycombinator.com/item?id=22195516
[8] https://eng.snap.com/training-models-with-tpus