SPARSECORES Tensora apstrādes vienībās (TPU) ir īpaši labvēlīgi AI lietojumprogrammām, kas lielā mērā paļaujas uz iegulšanu, piemēram, dziļas mācīšanās ieteikumu modeļiem (DLRM). Šie modeļi tiek plaši izmantoti reklāmas, meklēšanas ranžēšanai un tādās platformās kā YouTube. Sparsecores paātrina iegulšanas apstrādi, pārveidojot lielas kategoriskās telpas mazākās blīvās telpās, kas ir būtiska ieteikumu sistēmām. Piemēram, TPU V4 Sparsecores padara to par 3x ātrāku nekā TPU V3 ieteikumu modeļiem un līdz 5-30x ātrāk nekā uz CPU balstītām sistēmām [1] [3].
Turklāt sparSecores ir izdevīgi vērtējumā un uzlabotās ieteikumu darba slodzēs, kur ir bieži sastopami īpaši lieli iegulumi. Tas tiek vēl vairāk uzlabots jaunākos TPU modeļos, piemēram, Trillium, kas integrē trešās paaudzes niecības, lai optimizētu šo īpašo uzdevumu veiktspēju [7]. Kopumā jebkura AI lietojumprogramma, kas saistīta ar sarežģītiem iegulumiem vai mazām datu struktūrām, var ievērojami gūt labumu no tpus sparSecores iespējām.
Atsauces:[1.]
[2] https://www.wevolver.com/article/tpu-vs-gpu-in-ai-a-compreivey- guide-to-their-roles-and-trimct-on-artifial-intelligence
[3.]
[4] https://www.datacamp.com/blog/tpu-vs-gpu-ai
[5] https://cloud.google.com/blog/products/ai-machine-learning/introducing-cloud-tpu-v5p-and-i-ai-hypercomputer
[6] https://eng.snap.com/training-models-with-tpus
[7] https://futurumgroup.com/insights/the-future-of-ai-infrastructure-unpacking-googles-trillium-tpus/
[8] https://www.zdnet.com/article/5-reasons-why-googles-trillium-could-transform-ai-and-cloud-computing-and-2-obstacles/
[9] https://cloud.google.com/tpu
[10] https://arxiv.org/pdf/2309.08918.pdf