Nemůžete použít Pytorch Lightning s TPU přímo na místním počítači bez dalšího nastavení. TPU jsou specializované hardwarové akcelerátory primárně dostupné na platformě Google Cloud Platform (GCP) a vyžadují, aby fungovaly konkrétní konfigurace. Tady je důvod a jak je můžete stále používat:
1. dostupnost a nastavení: TPU nejsou obvykle k dispozici pro místní použití. Obvykle se k nim přistupují prostřednictvím cloudových služeb, jako je Google Cloud, kde můžete poskytovat uzly TPU a připojit se k nim z cloudového prostředí nebo vzdáleného nastavení, jako je Google Colab [2] [3].
2. Cloud TPU VM: Nejjednodušší způsob, jak používat TPU, je prostřednictvím Cloud TPU VM, které umožňují přímý přístup SSH a přicházejí předinstalovány s nezbytným softwarem, jako je Pytorch a Pytorch XLA. Toto nastavení zjednodušuje proces, ale stále vyžaduje cloudové prostředí [1] [3].
3. Místní alternativy: Pokud chcete trénovat modely lokálně, můžete zvážit použití GPU, které jsou běžně dostupné pro místní stroje. Pytorch Lightning podporuje školení GPU a můžete snadno přepínat mezi různými akcelerátory (např. Z TPU na GPU) úpravou parametru `Accelerator` v nastavení„ Trainer “.
Chcete -li používat TPU, obvykle byste museli:
- Nastavte si účet Google Cloud.
- Poskytování uzlu TPU nebo použijte Cloud TPU VM.
- Nainstalujte potřebné balíčky jako Pytorch a Pytorch XLA.
- Nakonfigurujte své prostředí tak, aby se připojilo k TPU.
Bez těchto kroků nemůžete použít TPU na místním počítači. Před přesunem do TPU v cloudu však můžete snadno simulovat nebo otestovat svůj model pomocí GPU nebo CPU.
Citace:[1] https://pytorch-lightning.readthedocs.io/en/2.0.1/accelerators/tpU_intermediate.html
[2] https://cloud.google.com/blog/products/ai-machine-learning/train-ml-models-with-Pytorch-lightning-on-tpus
[3] https://lightning.ai/docs/pytorch/1.5.9/advanced/tpu.html
[4] https://stackoverflow.com/questions/66538407/unable-to-import-Pytorch-lightning-on-google-Colab
[5] https://lightning.ai/docs/pytorch/2.0.2/accelerators/tpu_faq.html
[6] https://stackoverflow.com/questions/70136356/import-error-hine-liunching-Pytorch --project on-colab-tpu
[7] https://pytorch.org/xla/release/2.2/index.html
[8] https://github.com/lightning-ai/pytorch-lightning/discussions/9966
[9] https://stackoverflow.com/questions/756930/how-to-set-p-tpu-on-google-lab-for-Pytorch-and-Pytorch-Lightning