Основні відмінності в вартості між TPU V2 та TPU V3 полягають у їх погодинному ціноутворенні та загальній продуктивності.
- TPU V2: Вартість ядра TPU V2 становить приблизно 6,50 доларів на годину станом на 2019 рік [3]. Для великих конфігурацій, таких як TPU V2 POD, вартість може бути значно вища, при цьому 512 ядерний стручок коштував 384 долари за годину [5].
- TPU V3: Вартість ядра TPU V3 становить близько 8,50 доларів на годину станом на 2019 рік [3]. Більш недавнє ціноутворення свідчить про те, що повний TPU V3 коштує близько 4,50 доларів на годину [1]. Для більших установ відповідно масштабу витрат, але конкретні ціни на струм для TPU V3 трохи вище, ніж V2 щогодини для менших конфігурацій [5].
Загалом, TPU V3 пропонує більше потужності обробки (123 вершини) порівняно з TPU V2 (45 вершин) [2], що може призвести до швидшого часу обчислень та потенційно зниження загальних витрат на масштабні завдання машинного навчання, незважаючи на більш високу погодинну ставку. Однак вибір між TPU V2 та V3 залежить від конкретних потреб проекту та бюджетних обмежень.
Цитати:[1] https://www.datacamp.com/blog/tpu-vs-gpu-ai
[2] https://community.fs.com/encyclopedia/-tensor-processing-unit-tpu-.html
[3] https://www.dataknobs.com/generativeai/tpu/tpu-gpu-cost.html
[4] https://cloud.google.com/tpu/docs/quota
[5] https://www.reddit.com/r/machinelearning/comments/epx5vg/d_google_cloud_tpu_pod_pring_grid_a_512core_tpu/
[6] https://openmetal.io/docs/product-guides/private-cloud/tpu-vs-gpu-pros-and-cons/
[7] https://news.ycombinator.com/item?id=22195516
[8] https://eng.snap.com/training-models-with-tpus