Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Ar yra kokių nors konkrečių priklausomybių, reikalingų „Pytorch Lightning“ darbui su TPU


Ar yra kokių nors konkrečių priklausomybių, reikalingų „Pytorch Lightning“ darbui su TPU


Norint naudoti „Pytorch Lightning“ su TPU, reikalingos kelios konkrečios priklausomybės ir konfigūracijos:

1. Pytorch XLA: Ši biblioteka yra labai svarbi sąsajai su Pytorch su TPU. Turite įdiegti „Pytorch XLA“ ​​ratą, kuris paprastai atliekamas naudojant tokias komandas kaip „! Pip Install Cloud-TPU-Client == 0.10“, po to įdiegti tinkamą „Pytorch XLA“ ​​ratą iš „Google“ saugyklos, pavyzdžiui, „torch_xla-1.9-cp37-“ Cp37M-linux_x86_64.Whl` [3] [5].

2. „Cloud TPU“ klientas: „Cloud-TPU-Client == 0.10“ diegimas yra būtinas norint sąveikauti su TPU tokiomis aplinkomis kaip „Google Colab“ [3] [7].

3. Pytorch ir „Torchvision“: įsitikinkite, kad „Pytorch“ ir „Torchvision“ yra montuojami ir suderinami su TPU aplinka. Tai dažnai apima iš naujo įdiegti šiuos paketus nustatant TPU aplinką [1] [7].

4. „Pytorch Lightning“: Įdiekite „Pytorch Lightning“, nustatydami TPU aplinką. Įsitikinkite, kad versija yra suderinama su jūsų sąranka [1] [7].

5. „XRT TPU“ įrenginio konfigūracija: „Cloud TPU VMS“ turite nustatyti „XRT TPU“ įrenginio konfigūraciją, naudojant komandas, tokias kaip „Export XRT_TPU_CONFIG =“ „LocalService“; 0; localhost: 51011 “` [5].

6. Paskirstytas mokymas: „Pytorch Lightning“ automatiškai tvarko paskirstytus mokymus TPU, todėl paprastai nereikia jokios papildomos paskirstytų mėginių ėmimo priemonių konfigūracijos [5]. Tačiau jūs turite nurodyti TPU branduolių skaičių, kurį reikia naudoti inicijuodami „treniruoklį“, pavyzdžiui, „num_tpu_cores = 8` arba` tpu_cores = 8` [1] [5].

Citatos:
[1] https://pytorch-lighting.readthedocs.io/en/0.7.6/tpu.html
[2] https://pytorch-lighting.readthedocs.io/en/0.7.6/introduction_guide.html
[3] https://lightning.ai/docs/pytorch/stable/notebooks/lightning_examples/mnist-tpu-training.html
[4] https://github.com/lightning-ai/pytorch-lighting/discussions/14743
[5] https://lightning.ai/docs/pytorch/1.5.9/advanced/tpu.html
[6] https://www.restack.io/p/pytorch-lighting-answer-compatibiles-matrix-cat-ai
[7] https://stackoverflow.com/questions/70136356/import-error-while-launching-pytorch-lighting-project-on colab-tpu
[8] https://stackoverflow.com/questions/66538407/unable-to-import-pytorch-lighting-on-google-colab