Kuidas võrrelda TPU -de kulusid Google Cloudis oma TPU riistvara ostmisega ja hooldamisega

1. Cloud TPU kulud: Google Cloud TPU -d on pilveteenusena saadaval, mis tähendab, et maksate ainult nende kasutamise aja eest. Kulud varieeruvad TPU versiooni ja kasutuskohustuse järgi. Näiteks maksab 512-tuumaline TPU V2 POD tellitavatel 384 dollarit tunnis, märkimisväärsed allahindlused pikaajaliste kohustuste täitmiseks aastas 2,1 miljonit dollarit üheaastase kohustuse eest ja 4,5 miljonit dollarit kolme aasta jooksul [1]. Viimane TPU V4 võib maksta umbes 8 dollarit tunni kohta kiibi kohta ja suuremahulised konfiguratsioonid nagu TPU V4-POD võib ulatuda 32 200 dollarini tunnis [2] [3].

2. oma riistvara ostmine ja hoidmine: TPU -sid ei müüda isiklikuks kasutamiseks eraldi; Need on saadaval ainult pilveteenuste kaudu nagu Google Cloud. Siiski saate seda võrrelda suure jõudlusega GPU-de ostmisega, mida tavaliselt kasutatakse sarnaste ülesannete jaoks. Kõrgetasemelised GPU-d nagu NVIDIA V100 või A100 võivad maksta 8000–15 000 dollarit ühiku kohta [2]. Lisaks hõlmab oma riistvara säilitamine olulisi jätkuvaid kulusid võimu, jahutamise, IT üldkulude ja personali jaoks [7].

3. Kulu kaalutlused: sagedaseks või pidevaks kasutamiseks võib oma riistvara ostmine ja hooldamine pikas perspektiivis kulutõhusam, eriti kui arvestada omandiõiguse kogukulusid, sealhulgas tegevuskulusid. Aeg-ajalt või väikesemahuliste projektide jaoks võivad sellised pilveteenused nagu Google Cloud TPU-d olla ökonoomsemad, kuna puuduvad kapitalikulude ja vajaduse korral skaleerimise võime [7].

Kokkuvõtlikult võib Cloud TPU-d paindlikkust ja mastaapsust ilma riistvara kuludeta, oma riistvara ostmine ja hooldamine (näiteks suure jõudlusega GPU-d) võib olla pikaajalise ja intensiivse kasutamise jaoks kulutõhusam, arvestades nii alg- kui ka tegevuskulusid.