JAX'ta, birkaç yaygın nedenden dolayı bellek dışı (OOM) hataları oluşabilir:
1. GPU belleğinin önceden ayarlanması: JAX, ilk JAX işlemi çalıştırıldığında varsayılan olarak toplam GPU belleğinin% 75'ini önceden hazırlar. Bu, sistemin yeterli belleğe sahip değilse OOM hatalarına yol açabilir. Bunu hafifletmek için, `xla_python_client_mem_fraksiyon 'ortam değişkenini kullanarak önceden ayarlama fraksiyonunu ayarlayabilirsiniz veya` xla_python_client_preallocate = false` [1] [3] ayarlayarak ön planı devre dışı bırakabilirsiniz.
2. Birden çok JAX işlemini eşzamanlı olarak çalıştırmak: Birden fazla JAX işlemi aynı anda çalıştırıldığında, toplu olarak mevcut olandan daha fazla bellek tüketebilir ve OOM hatalarına yol açabilirler. Her işlem için bellek fraksiyonunun ayarlanması veya önlemin devre dışı bırakılması bu sorunun yönetilmesine yardımcı olabilir [1] [3].
3. JAX ve GPU Tensorflow'u eşzamanlı olarak çalıştırmak: hem JAX hem de Tensorflow GPU belleğini varsayılan olarak, çatışmalara neden olabilir ve OOM hatalarına yol açabilir. Belirli görevler için yalnızca CPU'ya yönelik tensorflow kullanmak veya bellek tahsislerini ayarlamak bunu çözebilir [1] [3].
4. Uyumsuz Cuda ve Cudnn Sürümleri: Bazen OOM hataları doğrudan bellekle ilişkili olmayabilir, ancak bellek sorunları olarak görünen dahili hatalara neden olabilecek CUDA ve CUDNN arasındaki versiyon uyumsuzluklarından kaynaklanabilir [5].
5. Bellek sızıntıları veya aşırı bellek kullanımı: Diziler düzgün yönetilmezse JAX programları zaman içinde bellek biriktirebilir. JAX aygıt bellek profilini kullanmak bu tür sorunların belirlenmesine yardımcı olabilir [7].
Alıntılar:[1] https://kolonist26-jax-kr.readthedocs.io/en/latest/gpu_memory_allocation.html
[2] https://dzone.com/articles/root-sauses-of-sises-in-java-containers
[3] https://jax.readthedocs.io/en/latest/gpu_memory_allocation.html
[4] https://www.ibm.com/support/pages/4-Nereral-reasons-utsofmemorerror-rors-and-how-not-get-fooled
[5] https://stackoverflow.com/questions/77065313/jax-produces-Memory-ror-for-simple-program-on-gpu
[6] https://stackoverflow.com/questions/15462192/jaxw-ws-sooaphandler-with-fessages-utsofmemoryerror
[7] https://docs.jax.dev/en/latest/device_memory_profiling.html
[8] https://github.com/google/jax/issues/3687
[9] https://discourse.pymc.io/t/out-of-memory-when-using-pm-pmping-jax-sample-blackjax-nuts/11544