Galite naudoti „Pytorch Lightning“ su TPU, tačiau juos paleisti vietinėje aplinkoje nėra paprasta. TPU pirmiausia galima įsigyti „Google Cloud“ (GCP), „Google Colab“ ir „Kaggle“ aplinkoje. Šios platformos suteikia reikiamą infrastruktūrą ir sąranką, skirtą naudoti TPU su „Pytorch Lightning“ [1] [2].
Norėdami naudoti TPU vietinėje aplinkoje, jums reikės prieiti prie TPU įrenginio, kuris paprastai neįmanomas be debesies sąrankos. Tačiau prieš įdėdami juos į TPU debesyje, galite modeliuoti arba išbandyti savo modelius vietoje, naudodami kitus greitintuvus, tokius kaip GPU.
Jei norite naudoti TPU, labiausiai paplitęs požiūris yra sukurti projektą „Google Cloud“ ir naudoti jų TPU paslaugas. „Pytorch Lightning“ palaiko TPU veikimą per „Pytorch XLA“ integraciją, kuri aukšto lygio operacijas kaupia į optimizuotas TPU operacijas [4] [5]. „Google Colab“ siūlo nemokamą ir prieinamą būdą pradėti naudoti TPU su „Pytorch Lightning“, pateikdamas „Jupyter“ nešiojamojo kompiuterio aplinką su TPU palaikymu [1] [3].
Apibendrinant galima pasakyti, kad nors jūs negalite lengvai naudoti TPU vietinėje aplinkoje be debesų infrastruktūros, galite panaudoti debesies paslaugas, tokias kaip „Google Colab“ ar „Google Cloud“, kad galėtumėte naudoti TPU su „Pytorch Lightning“.
Citatos:[1] https://lightning.ai/docs/pytorch/1.5.9/advanced/tpu.html
[2] https://pytorch-lighting.readthedocs.io/en/1.0.8/tpu.html
[3] https://stackoverflow.com/questions/75693020/how-to-set-up-tpu-on-google-corab-for-pytorch-and-pytorch-lightning
[4] https://cloud.google.com/blog/products/ai-machine-learning/train-ml-models-with-pytorch-lighting-on-tpus
[5] https://pytorch.org/xla/release/2.2/index.html
[6] https://github.com/lightning-ai/pytorch-lighting/issues/19274
[7] https://www.datacamp.com/tutorial/pytorch-lighting-tutorial
[8] https://github.com/lightning-ai/lightning/issues/16464