Tensoriprosessointiyksiköissä (TPU) ovat erityisen hyödyllisiä AI -sovelluksille, jotka luottavat voimakkaasti upotuksiin, kuten syvän oppimisen suositusmalleihin (DLRMS). Näitä malleja käytetään laajasti mainonnassa, hakujen sijoituksessa ja YouTuben kaltaisissa alustoissa. Sparsecores nopeuttaa upotusten käsittelyä muuttamalla suuret kategoriset tilat pienemmiksi tiheiksi tiloiksi, mikä on ratkaisevan tärkeää suositusjärjestelmille. Esimerkiksi TPU V4: n sparsecores tekee siitä 3x nopeamman kuin TPU V3 suositusmalleille ja jopa 5-30x nopeammin kuin CPU-pohjaiset järjestelmät [1] [3].
Lisäksi sparsecores on edullinen sijoitus- ja edistyneissä suositusten työmäärissä, joissa erittäin suuret upotukset ovat yleisiä. Tätä parannetaan edelleen uudemmissa TPU-malleissa, kuten Trillium, jotka integroivat kolmannen sukupolven sparsecores-ohjelmat näiden tiettyjen tehtävien suorituskyvyn optimoimiseksi [7]. Kaiken kaikkiaan AI -sovellus, joka sisältää monimutkaisia upotuksia tai harvoja tietorakenteita
Viittaukset:.
.
.
[4] https://www.datacamp.com/blog/tpu-vs-gpu-ai
.
[6] https://eng.snap.com/training-models-with-tpus
.
.
[9] https://cloud.google.com/tpu
[10] https://arxiv.org/pdf/2309.08918.pdf