Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Ar galiu naudoti „Pytorch Lightning“ su TPU savo vietiniame kompiuteryje be jokios papildomos sąrankos


Ar galiu naudoti „Pytorch Lightning“ su TPU savo vietiniame kompiuteryje be jokios papildomos sąrankos


Negalite naudoti „Pytorch Lightning“ su TPU tiesiai į vietinį kompiuterį be papildomos sąrankos. TPU yra specializuoti aparatinės įrangos greitintuvai, pirmiausia prieinami „Google Cloud“ platformoje (GCP), ir jiems reikia specialių konfigūracijų. Štai kodėl ir kaip vis dar galite jais naudotis:

1. Prieinamumas ir sąranka: TPU paprastai nėra prieinami vietiniam naudojimui. Paprastai jais pasiekiami debesies paslaugos, tokios kaip „Google Cloud“, kur galite pateikti TPU mazgus ir prisijungti prie jų iš debesies aplinkos ar nuotolinės sąrankos, tokios kaip „Google Colab“ [2] [3].

2. „Cloud TPU VMS“: Tiesiausias būdas naudoti TPU yra per „Cloud TPU VMS“, leidžiančius tiesiogiai prieigai prie SSH ir iš anksto įdiegta su reikalinga programine įranga, tokia kaip „Pytorch“ ir „Pytorch XLA“. Ši sąranka supaprastina procesą, tačiau vis tiek reikalinga debesies aplinka [1] [3].

3. Vietinės alternatyvos: Jei norite mokyti modelius vietoje, galite apsvarstyti galimybę naudoti GPU, kurie dažniau yra vietinėms mašinoms. „Pytorch Lightning“ palaiko GPU mokymą, ir jūs galite lengvai perjungti skirtingus greitintuvus (pvz., Nuo TPU į GPU), sureguliuodami „akceleratoriaus“ parametrą savo „trenerio“ sąrankoje.

Norėdami naudoti TPU, jums paprastai reiktų:
- Nustatykite „Google Cloud“ paskyrą.
- Pateikite TPU mazgą arba naudokite „Cloud TPU VM“.
- Įdiekite būtinų paketų, tokių kaip „Pytorch“ ir „Pytorch XLA“.
- Konfigūruokite savo aplinką prisijungti prie TPU.

Be šių veiksmų negalite naudoti TPU savo vietiniame kompiuteryje. Tačiau prieš pereidami į TPU ant debesies, galite lengvai modeliuoti arba išbandyti savo modelį vietoje naudodami GPU ar CPU.

Citatos:
[1] https://pytorch-lighting.readthedocs.io/en/2.0.1/accelerators/tpu_intermediate.html
[2] https://cloud.google.com/blog/products/ai-machine-learning/train-ml-models-with-pytorch-lighting-on-tpus
[3] https://lightning.ai/docs/pytorch/1.5.9/advanced/tpu.html
[4] https://stackoverflow.com/questions/66538407/unable-to-import-pytorch-lighting-on-google-colab
[5] https://lightning.ai/docs/pytorch/2.0.2/accelerators/tpu_faq.html
[6] https://stackoverflow.com/questions/70136356/import-error-while-launching-pytorch-lighting-project-on colab-tpu
[7] https://pytorch.org/xla/release/2.2/index.html
[8] https://github.com/lightning-ai/pytorch-lighting/discussions/9966
[9] https://stackoverflow.com/questions/756930/how-to-to-set-ku-tpu-on-google-corab-for-pytorch-and-pytorch-lightning