TPU V2和TPU V3之间成本的主要差异在于他们的每小时定价和整体性能。
-TPU V2:截至2019年,TPU V2核心的成本约为每小时6.50美元[3]。对于诸如TPU V2 POD之类的较大配置,成本可能会明显更高,而512核POD的成本为每小时384美元[5]。
-TPU V3:截至2019年,TPU V3核心的成本约为每小时8.50美元[3]。最新的定价表明,全TPU V3的价格约为每小时4.50美元[1]。对于较大的设置,成本相应地扩展,但是TPU V3的特定POD定价略高于较小配置的小时[5]。
通常,与TPU V2(45个顶部)[2]相比,TPU V3提供了更多的处理能力(123个顶部),这可能会导致更快的计算时间,并且尽管每小时率较高,但大规模机器学习任务的总体成本可能会降低。但是,TPU V2和V3之间的选择取决于特定的项目需求和预算限制。
引用:[1] https://www.datacamp.com/blog/tpu-vs-gpu-ai
[2] https://community.fs.com/encyclopedia/tensor-processing-unit-tpu-.html
[3] https://www.dataknobs.com/generativeai/tpu/tpu-gpu-cost.html
[4] https://cloud.google.com/tpu/docs/quota
[5] https://www.reddit.com/r/machinelearning/comments/epx5vg/d_google_cloud_tpu_pod_pod_pricing_grid_a_512core_tpu/
[6] https://openmetal.io/docs/product-guides/private-cloud/tpu-vs-gpu-pros-and-cons/
[7] https://news.ycombinator.com/item?id=22195516
[8] https://eng.snap.com/training-models-with-tpus