V Jax sa môžu vyskytnúť chyby mimo pamäte (OOM) v dôsledku niekoľkých bežných príčin:
1. Prealcation pamäte GPU: Jax Preallocates 75% z celkovej pamäte GPU predvolene pri spustení prvej operácie Jax. To môže viesť k chybám OOM, ak systém nemá dostatok pamäte. Ak to chcete zmierniť, môžete upraviť preallokačnú frakciu pomocou premennej prostredia `XLA_PYTHON_CLIENT_MEM_FRACTION alebo zakázať predbežnú hodnotu nastavením` XLA_PYTHON_CLIENT_PRELLOCOCOL = FALSE` [1] [3].
2. Spúšťanie viacerých procesov JAX súbežne: Keď sa súčasne spustí viac procesov Jax, môžu kolektívne konzumovať viac pamäte ako dostupné, čo vedie k chybám OOM. Úprava frakcie pamäť pre každý proces alebo deaktivácia predbežnej hodnoty môže pomôcť zvládnuť tento problém [1] [3].
3. Prevádzka Jax a GPU TensorFlow súbežne: Pamäť GPU GPU predvolene Jax aj TensorFlowflows predvolene predvolene, čo môže spôsobiť konflikty a viesť k chybám OOM. Použitie TensorFlow pre určité úlohy alebo úpravy pamäte, ktorý je určený iba na CPU, to môže vyriešiť [1] [3].
4. Nekompatibilné verzie CUDA a Cudnn: Niekedy chyby OOM nemusia byť priamo spojené s pamäťou, ale môžu to byť spôsobené nesúladom verzie medzi CUDA a Cudnn, ktoré môžu spôsobiť vnútorné chyby, ktoré sa objavujú ako problémy s pamäťou [5].
5. Úniky pamäte alebo nadmerné využitie pamäte: Programy Jax môžu v priebehu času akumulovať pamäť, ak polia nie sú správne spravované. Používanie profilu pamäte zariadenia Jax môže pomôcť identifikovať takéto problémy [7].
Citácie:[1] https://kolonist26-jax-kr.readthedocs.io/en/latest/gpu_memory_allocation.html
[2] https://dzone.com/articles/root-causes-of-oom-isesues-in-java-containers
[3] https://jax.readthedocs.io/en/latest/gpu_memory_allocation.html
[4] https://www.ibm.com/support/pages/4-general-reasons-oufmemoryerror-errors-and-how-not-tow-goled-fooled
[5] https://stackoverflow.com/questions/77065313/jax-produces-memory-error-for-simple-program-on-gpu
[6] https://stackoverflow.com/questions/15462192/jax-ws-soapandler-with-large-messages-oufmemoryerror
[7] https://docs.jax.dev/en/latest/device_memory_profiling.html
[8] https://github.com/google/jax/issues/3687
[9] https://discourse.pymc.io/t/out-of-memory-wen-using-using-pm-sampling-jex-sample-blackjax-nuts/11544