Kā TPU izmaksas Google Cloud salīdzina ar savas TPU aparatūras iegādi un uzturēšanu

1. Mākoņu TPU izmaksas: Google Cloud TPU ir pieejami kā mākoņa pakalpojums, kas nozīmē, ka jūs maksājat tikai par laiku, kad tos izmantojat. Izmaksas mainās atkarībā no TPU versijas un lietošanas saistībām. Piemēram, 512 kodolu TPU V2 POD maksā 384 USD stundā pēc pieprasījuma ar ievērojamām atlaides ilgtermiņa saistībām 2,1 miljons USD gadā par viena gada saistībām un 4,5 miljoniem USD trīs gadu laikā [1]. Jaunākais TPU V4 var maksāt aptuveni USD 8 stundā par mikroshēmu, un liela mēroga konfigurācijas, piemēram, TPU V4-POD, var sasniegt USD 32 200 stundā [2] [3].

2. Pērkot un uzturot savu aparatūru: TPU netiek pārdoti individuāli personīgai lietošanai; Tie ir pieejami tikai ar mākoņa pakalpojumiem, piemēram, Google Cloud. Tomēr jūs to varat salīdzināt ar augstas veiktspējas GPU iegādi, ko parasti izmanto līdzīgiem uzdevumiem. Augstas klases GPU, piemēram, NVIDIA V100 vai A100, var maksāt no 8000 līdz 15 000 USD par vienību [2]. Turklāt jūsu aparatūras uzturēšana nozīmē ievērojamas pastāvīgas enerģijas, dzesēšanas, tās virs galvas un personāla izmaksas [7].

3. Izmaksu apsvērumi: biežai vai pastāvīgai lietošanai ilgtermiņā varētu būt rentablāka pirkšana un uzturēšana, it īpaši, ņemot vērā kopējās īpašumtiesību izmaksas, ieskaitot darbības izdevumus. Tomēr gadījuma rakstura vai maza mēroga projektiem mākoņa pakalpojumi, piemēram, Google Cloud TPU, var būt ekonomiskāki, jo trūkst sākotnēju kapitāla izmaksu un spēju pēc vajadzības mērogot [7].

Rezumējot, kaut arī Cloud TPU piedāvā elastību un mērogojamību bez iepriekšējām aparatūras izmaksām, savas aparatūras iegāde un uzturēšana (piemēram, augstas veiktspējas GPU) var būt rentablāka ilgtermiņa, intensīvas lietošanas gadījumā, ņemot vērā gan sākotnējos, gan darbības izdevumus.