Kokios yra bendros problemos, kai veikia „Pytorch/XLA“ „Docker“ konteineryje

1. Net ir esant išankstinei aplinkai, pradedant XLA konteinerius, ypač naudojant tam tikrus „Docker“ vaizdus, ​​tokius kaip „Nightly_3.7nightLy_3.7_20220624“, arba „R1.12_3.7_TPUVM_20220614“ [1] [3].

2. Trūksta XLA konfigūracijos: dažna klaida yra „Trūksta XLA konfigūracijos“ paleidžiant „Pytorch/XLA“. Tai galima išspręsti nustatus „XRT_TPU_CONFIG“ aplinkos kintamąjį tinkamai ir užtikrinant, kad TPU egzempliorius būtų pradėtas nuo teisingų sričių [4].

3. Veiklos problemos: „Pytorch“/„XLA“ gali nukentėti dėl veiklos pablogėjimo dėl tokių veiksnių kaip dinaminės tenzorių formos ir operacijos, kuriose nėra vietinių XLA vertimų. Dažni pakartojimai gali sulėtinti mokymą, o tam tikroms operacijoms gali reikėti perduoti duomenis į CPU įvertinti [2].

4. GPU ir CUDA suderinamumas: Kai naudojate „Pytorch/XLA“ su GPU, kyla problemų, nes „Pytorch“ ir „Pytorch/XLA“ negali abu naudoti CUDA vienu metu. Tam reikia nustatyti `use_cuda = 0` ir naudoti konkrečias GPU pagreičio konfigūracijas naudojant XLA [5] [7].

5. Įrenginių matomumas: „Docker“ konteineriuose GPU įrenginiai gali būti nematomi, nebent konteineris bus paleistas iš naujo įdiegus „NVIDIA“ konteinerio įrankių rinkinį [7]. Panašiai TPU įrenginiams reikia tinkamos sąrankos ir konfigūracijos, kurią reikia atpažinti konteineryje.