Sparsecores în unitățile de prelucrare a tensiunii (TPU) sunt deosebit de benefice pentru aplicațiile AI care se bazează puternic pe încorporarea, cum ar fi modelele de recomandare de învățare profundă (DLRM). Aceste modele sunt utilizate pe scară largă în publicitate, clasament de căutare și platforme precum YouTube. Sparsecores accelerează procesarea încorporării prin transformarea unor spații categorice mari în spații mai mici, care este crucial pentru sistemele de recomandare. De exemplu, sparsecores de la TPU V4 îl fac cu 3x mai rapid decât TPU V3 pentru modele de recomandare și până la 5-30x mai rapid decât sistemele bazate pe CPU [1] [3].
În plus, sparsecore sunt avantajoase în clasamentul și sarcinile de lucru avansate de recomandare, unde încorporațiile ultra-mari sunt comune. Acest lucru este îmbunătățit în continuare în modele TPU mai noi, cum ar fi Trillium, care integrează sparsecore de generație a treia pentru a optimiza performanța pentru aceste sarcini specifice [7]. În general, orice aplicație AI care implică încorporațiri complexe sau structuri de date rare poate beneficia în mod semnificativ de capacitățile SPARSECORE în TPU.
Citări:[1] https://www.kdnuggets.com/2023/04/introducting-tpu-v4-googles-cutting-edge-supercomputer-large-limbage-models.html
[2] https://www.wevolver.com/article/tpu-vs-gpu-in-ai-a-a-mpreensive-quide-to-their-roles-și-impact-on-lartificial-intelligence
[3] https://www.vibranium.sg/post/introducting-tpu-v4-google-s-supercomputer-pentru-l-margare-modele
[4] https://www.datacamp.com/blog/tpu-vs-gpu-AI
[5] https://cloud.google.com/blog/products/ai-machine-learning/introducting-cloud-tpu-v5p-and-ai-hypercomputer
[6] https://eng.snap.com/training-models-with-tpus
[7] https://futurumgroup.com/insights/the-future-of-ai-infrastructure-unpacking-googles-frillium-tpus/
[8] https://www.zdnet.com/article/5-reasons-why-googles-frillium-could-transform-ai-and-cloud-computing-and-2-obstacles/
[9] https://cloud.google.com/tpu
[10] https://arxiv.org/pdf/2309.08918.pdf