Hlavné rozdiely v nákladoch medzi TPU V2 a TPU V3 spočívajú v ich hodinovom cenách a celkovom výkone.
- TPU V2: Náklady na jadro TPU V2 sú od roku 2019 približne 6,50 dolárov za hodinu [3]. Pre väčšie konfigurácie, ako je napríklad tPU V2, môžu byť náklady výrazne vyššie, pričom 512-jadrová podložka stojí 384 dolárov za hodinu [5].
- TPU V3: Náklady na jadro TPU V3 sú od roku 2019 okolo 8,50 dolárov za hodinu [3]. Najnovšie ceny naznačujú, že úplná TPU V3 stojí okolo 4,50 dolárov za hodinu [1]. V prípade väčších nastavení sú podľa toho škálovanie nákladov, ale špecifická cena POD pre TPU V3 je o niečo vyššia ako V2 na hodinovú základňu pre menšie konfigurácie [5].
Všeobecne platí, že TPU V3 ponúka viac spracovateľského výkonu (123 vrcholov) v porovnaní s TPU V2 (45 vrcholov) [2], čo môže viesť k rýchlejším výpočtovým časom a potenciálne nižším celkovým nákladom na úlohy rozsiahleho strojového učenia napriek vyššej hodinovej sadzbe. Výber medzi TPU V2 a V3 však závisí od konkrétnych potrieb projektu a rozpočtových obmedzení.
Citácie:[1] https://www.datacamp.com/blog/tpu-vs-gpu-ai
[2] https://community.fs.com/encclopedia/-tensor-processing-unit-tpu-.html
[3] https://www.dataknobs.com/generativeai/tpu/tpu-gpu-cost.html
[4] https://cloud.google.com/tpu/docs/quota
Https://www.reddit.com/r/machinearning/comments/epx5vg/d_google_cloud_tpu_Pod_pricing_grid_a_512core_tpu/
[6] https://openmetal.io/docs/product-guides/private-cloud/tpu-vs-gpu-pros-and-cons/
[7] https://news.ycombinator.com/item?id=22195516
[8] https://eng.snap.com/training-models-with-tpus