Norint naudoti „Pytorch Lightning“ su TPU, reikalingos kelios konkrečios priklausomybės ir konfigūracijos:
1. Pytorch XLA: Ši biblioteka yra labai svarbi sąsajai su Pytorch su TPU. Turite įdiegti „Pytorch XLA“ ratą, kuris paprastai atliekamas naudojant tokias komandas kaip „! Pip Install Cloud-TPU-Client == 0.10“, po to įdiegti tinkamą „Pytorch XLA“ ratą iš „Google“ saugyklos, pavyzdžiui, „torch_xla-1.9-cp37-“ Cp37M-linux_x86_64.Whl` [3] [5].
2. „Cloud TPU“ klientas: „Cloud-TPU-Client == 0.10“ diegimas yra būtinas norint sąveikauti su TPU tokiomis aplinkomis kaip „Google Colab“ [3] [7].
3. Pytorch ir „Torchvision“: įsitikinkite, kad „Pytorch“ ir „Torchvision“ yra montuojami ir suderinami su TPU aplinka. Tai dažnai apima iš naujo įdiegti šiuos paketus nustatant TPU aplinką [1] [7].
4. „Pytorch Lightning“: Įdiekite „Pytorch Lightning“, nustatydami TPU aplinką. Įsitikinkite, kad versija yra suderinama su jūsų sąranka [1] [7].
5. „XRT TPU“ įrenginio konfigūracija: „Cloud TPU VMS“ turite nustatyti „XRT TPU“ įrenginio konfigūraciją, naudojant komandas, tokias kaip „Export XRT_TPU_CONFIG =“ „LocalService“; 0; localhost: 51011 “` [5].
6. Paskirstytas mokymas: „Pytorch Lightning“ automatiškai tvarko paskirstytus mokymus TPU, todėl paprastai nereikia jokios papildomos paskirstytų mėginių ėmimo priemonių konfigūracijos [5]. Tačiau jūs turite nurodyti TPU branduolių skaičių, kurį reikia naudoti inicijuodami „treniruoklį“, pavyzdžiui, „num_tpu_cores = 8` arba` tpu_cores = 8` [1] [5].
Citatos:[1] https://pytorch-lighting.readthedocs.io/en/0.7.6/tpu.html
[2] https://pytorch-lighting.readthedocs.io/en/0.7.6/introduction_guide.html
[3] https://lightning.ai/docs/pytorch/stable/notebooks/lightning_examples/mnist-tpu-training.html
[4] https://github.com/lightning-ai/pytorch-lighting/discussions/14743
[5] https://lightning.ai/docs/pytorch/1.5.9/advanced/tpu.html
[6] https://www.restack.io/p/pytorch-lighting-answer-compatibiles-matrix-cat-ai
[7] https://stackoverflow.com/questions/70136356/import-error-while-launching-pytorch-lighting-project-on colab-tpu
[8] https://stackoverflow.com/questions/66538407/unable-to-import-pytorch-lighting-on-google-colab