A tensor -feldolgozó egységek (TPU) székkapocsai különösen hasznosak az AI alkalmazásokhoz, amelyek nagymértékben támaszkodnak a beágyazásokra, például a mély tanulási ajánlási modellekre (DLRMS). Ezeket a modelleket széles körben használják a reklámozásban, a keresési rangsorban és az olyan platformokban, mint a YouTube. A SarseCores felgyorsítja az ágynemű feldolgozását azáltal, hogy a nagy kategorikus tereket kisebb sűrű terekké alakítja, ami elengedhetetlen az ajánlási rendszerekhez. Például, a TPU V4 szarvakészek 3x gyorsabbá teszik, mint a TPU V3 az ajánlási modellekhez, és akár 5-30x gyorsabban, mint a CPU-alapú rendszerek [1] [3].
Ezenkívül a SarseCore-k előnyösek a rangsorolásban és a fejlett ajánlások munkaterhelésében, ahol az ultra nagy beágyazások gyakoriak. Ezt tovább javítják az olyan újabb TPU-modellekben, mint a Trillium, amelyek integrálják a harmadik generációs székhelyeket, hogy optimalizálják ezen specifikus feladatok teljesítményét [7]. Összességében bármely olyan AI alkalmazás, amely komplex beágyazást vagy ritka adatszerkezeteket foglal magában, jelentősen előnyös lehet a TPU -kban a Sparecore -k képességeiből.
Idézetek:[1] https://www.kdnuggets.com/2023/04/introducing-tpu-v4-googles-cutting-edge-supercomputer---pluage-models.html
[2] https://www.wevolver.com/article/tpu-vs-gpu-in-a ai-a-comprehensen-guide-their-roles-and-part-on-articial-intelligence
[3] https://www.vibranium.sg/post/introducing-tpu-v4-google-s-supercomputer-for----regge-ganguage-models
[4] https://www.datacamp.com/blog/tpu-vs-gpu-ai
[5] https://cloud.google.com/blog/products/ai-machine-learning/introducing-cloud-tpu-v5p-and-ai-hypercomputer
[6] https://eng.snap.com/training-models-with-tpus
[7] https://futurumgroup.com/insights/the-future-of-ai-infrastructure-unpacking-googles-tillium-tpus/
[8] https://www.zdnet.com/article/5-reasons-hy-googles-trillium-could-transzform-ai-and-computing-and-2-obstacles/
[9] https://cloud.google.com/tpu
[10] https://arxiv.org/pdf/2309.08918.pdf