Tensör işleme birimlerindeki (TPU'lar) sparsecors, derin öğrenme öneri modelleri (DLRMS) gibi gömülmelere büyük ölçüde güvenen AI uygulamaları için özellikle faydalıdır. Bu modeller reklam, arama sıralamasında ve YouTube gibi platformlarda yaygın olarak kullanılmaktadır. Sekretsecors, büyük kategorik alanları daha küçük yoğun alanlara dönüştürerek gömme işlemlerini hızlandırır, bu da öneri sistemleri için çok önemlidir. Örneğin, TPU V4'ün sparecors, tavsiye modelleri için TPU V3'ten 3 kat daha hızlı ve CPU tabanlı sistemlerden 5-30X'e kadar daha hızlı hale getirir [1] [3].
Ek olarak, ultra büyük gömleklerin yaygın olduğu sıralama ve gelişmiş öneri iş yüklerinde avantajlıdır. Bu, bu özel görevler için performansı optimize etmek için üçüncü nesil sparsecorları entegre eden Trillium gibi yeni TPU modellerinde daha da geliştirilmiştir [7]. Genel olarak, karmaşık yerleştirmeleri veya seyrek veri yapılarını içeren herhangi bir AI uygulaması, TPU'lardaki sparecors yeteneklerinden önemli ölçüde yararlanabilir.
Alıntılar:[1] https://www.kdnuggets.com/2023/04/introducing-tpu-v4-googles-cutting-inde-supercomputer-lange-models.html
[2] https://www.wevolver.com/article/tpu-vs-gpu-a-a-a-confremplience-guide-to-their- ve-pactive-telifial- Intelligence
[3] https://www.vibranium.sg/post/introducing-tpu-v4-google-s-supercomputer-for-large-dili-modeller
[4] https://www.datacamp.com/blog/tpu-vs-gpu-ai
[5] https://cloud.google.com/blog/products/ai-machine-learning/introducing-cloud-tpu-v5p-and-ai-hypercomputer
[6] https://eng.snap.com/training-models-with-tpus
[7] https://futurumgroup.com/insights/the-future-future-of-ai-infrastructure-unpacking-googles-trillium-tpus/
[8] https://www.zdnet.com/article/5-reasons-why-googles-trillium-culd-cransform-a-and-cloud-computing ve-2-obstacles/
[9] https://cloud.google.com/tpu
[10] https://arxiv.org/pdf/2309.08918.pdf