Saat menggunakan `obor.
1. Variabilitas kinerja: `obor. Sangat penting untuk membandingkan kinerja model yang dikompilasi dengan model asli [2] [4].
2. Grafik Istirahat: Jika `obor. Meskipun tidak fatal, istirahat ini dapat membatasi manfaat optimasi. Menulis ulang bagian yang bermasalah dapat membantu [2] [4].
3. Pesan Kesalahan Samar: Kegagalan kompilasi sering menghasilkan pesan kesalahan samar yang sulit untuk debug tanpa bantuan dari tim Pytorch. Ini dapat membuat pemecahan masalah menantang [2] [4].
4. Waktu Kompilasi Panjang: Proses kompilasi itu sendiri dapat memakan waktu, kadang-kadang memakan waktu beberapa menit atau bahkan lebih lama untuk model yang lebih besar. Ini membuatnya disarankan untuk mengevaluasi `obor.
5. Bentuk dan kompilasi Dinamis: `Torch.compile` awalnya mengasumsikan bentuk tensor statis. Jika bentuk berubah, kompilasi ulang dapat terjadi kecuali bentuk dinamis diaktifkan. Ini dapat menyebabkan proses awal yang lebih lambat karena kompilasi ulang [1].
6. Masalah Multithreading: Saat ini, multithreading dengan `Torch.compile` buggy, yang dapat membatasi penggunaannya di lingkungan bersamaan [3].
7. Fitur yang Tidak Didukung: Beberapa fitur Numpy atau operasi kompleks mungkin tidak didukung oleh `obor.
Untuk mengurangi masalah ini, disarankan untuk menerapkan `obor.
Kutipan:[1] https://pytorch.org/docs/stable/torch.compiler_troubleshooting.html
[2] https://lightning.ai/docs/fabric/2.2.3/advanced/compile.html
[3] http://blog.ezyang.com/2024/11/ways-to-use-torch-compile/
[4] https://lightning.ai/docs/pytorch/stable/advanced/compile.html
[5] https://pytorch.org/docs/stable/torch.compiler_faq.html
[6] https://stackoverflow.com/questions/75886125/how-should-liuse-torch-compile-properly
[7] https://www.aionlinecourse.com/blog/how-should-liuse-torch-compile-properly
[8] https://github.com/patrick-kidger/jaxtyping/issues/196