Du kan bruke Pytorch Lightning med TPU -er, men å drive dem i et lokalt miljø er ikke grei. TPUer er først og fremst tilgjengelig på Google Cloud (GCP), Google Colab og Kaggle -miljøer. Disse plattformene gir nødvendig infrastruktur og oppsett for bruk av TPUer med Pytorch Lightning [1] [2].
For å bruke TPUer i et lokalt miljø, må du ha tilgang til en TPU -enhet, som vanligvis ikke er mulig uten skyoppsett. Du kan imidlertid simulere eller teste modellene dine lokalt ved å bruke andre akseleratorer som GPUer før du distribuerer dem på TPUer i skyen.
Hvis du vil bruke TPU -er, er den vanligste tilnærmingen å sette opp et prosjekt på Google Cloud og bruke TPU -tjenestene deres. Pytorch Lightning støtter å kjøre på TPUer gjennom Pytorch XLA-integrasjonen, som samler høyt nivå operasjoner til optimaliserte operasjoner for TPU-er [4] [5]. Google Colab tilbyr en gratis og tilgjengelig måte å begynne å bruke TPU -er med Pytorch Lightning ved å tilby et Jupyter Notebook -miljø med TPU -støtte [1] [3].
Oppsummert, selv om du ikke lett kan bruke TPU -er i et lokalt miljø uten skyinfrastruktur, kan du utnytte skytjenester som Google Colab eller Google Cloud for å bruke TPUer med Pytorch Lightning.
Sitasjoner:[1] https://lightning.ai/docs/pytorch/1.5.9/advanced/tpu.html
[2] https://pytorch-lightning.readthedocs.io/no/1.0.8/tpu.html
[3] https://stackoverflow.com/questions/75693020/how-to-set-pu-on-google-colab-for-pytorch-and-pytorch-lys
[4] https://cloud.google.com/blog/products/ai-machine-lovning/train-ml-models-with-pytorch-lightning-on-tpus
[5] https://pytorch.org/xla/release/2.2/index.html
[6] https://github.com/lightning-ai/pytorch-lightning/issues/19274
[7] https://www.datacamp.com/tutorial/pytorch-lightning-tutorial
[8] https://github.com/lightning-ai/lightning/issues/16464