Izmantojot `torch.compile`, var rasties vairākas kopīgas nepilnības:
1. Veiktspējas mainīgums: `Torch.compile` ne vienmēr uzlabo veiktspēju un dažreiz var izraisīt lēnāku izpildi vai palielinātu atmiņas izmantošanu. Ir svarīgi salīdzināt apkopotā modeļa veiktspēju ar sākotnējo modeli [2] [4].
2. Diagrammas pārtraukumi: ja `Torch.compile` saskaras ar neatbalstītu kodu vai sarežģītām operācijām, tas var ieviest" grafika pārtraukumus ", koda sadalīšanu optimizētās un neoptimizētajās daļās. Lai arī šie pārtraukumi nav letāli, var ierobežot optimizācijas ieguvumus. Problemātisku sadaļu pārrakstīšana var palīdzēt [2] [4].
3. Kriptiskie kļūdu ziņojumi: kompilācijas kļūmes bieži rada noslēpumainus kļūdu ziņojumus, kurus ir grūti atkļūdot bez Pytorch komandas palīdzības. Tas var padarīt problēmu novēršanu izaicinošu [2] [4].
4. Ilgi kompilācijas laiki: pats kompilācijas process var būt laikietilpīgs, dažreiz lielākiem modeļiem dažreiz prasa vairākas minūtes vai pat ilgāk. Tas ļauj ieteicams novērtēt `torch.compile” līdz attīstības beigām, nevis sākotnējo posmu laikā [1] [4].
5. Ja formas mainās, var notikt kompilācija, ja vien nav iespējotas dinamiskas formas. Tas var izraisīt lēnākus sākotnējos skrējienus kompilācijas dēļ [1].
6. Daudznozaru jautājumi: Pašlaik daudznozaru veikšana ar `torch.compile` ir buggy, kas var ierobežot tā izmantošanu vienlaicīgā vidē [3].
7. Neatbalstītas funkcijas: Dažas niecīgas funkcijas vai sarežģītas operācijas nedrīkst atbalstīt `torch.compile`, izraisot kompilācijas problēmas vai grafika pārtraukumus [5].
Lai mazinātu šos jautājumus, ieteicams piemērot `lāpu.
Atsauces:[1] https://pytorch.org/docs/stable/torch.compiler_troobleshooting.html
[2] https://lightning.ai/docs/fabric/2.2.3/advanced/compile.html
[3] http://blog.ezyang.com/2024/11/ways-to-use-use-torch-compile/
[4] https://lightning.ai/docs/pytorch/stable/advanced/compile.html
[5] https://pytorch.org/docs/stable/torch.compiler_faq.html
[6.]
[7] https://www.aionlinecourse.com/blog/how-s-i-iuse-torch-compile-properly
[8] https://github.com/patrick-kidger/jaxtyping/issues/196