V súčasnosti neexistuje žiadny priamy spôsob, ako zakázať predbežnú predbežnú hodnotu pamäte GPU v Jax bez použitia premenných prostredia. Odporúčaná metóda zahŕňa nastavenie premennej prostredia `XLA_PYTHON_CLIENT_PREALLOCOCOL` na` 'false'` pred importom Jax. To sa dá urobiť buď vo vašom Python skripte pomocou `os.environ ['xla_python_client_preallocate'] = 'false'` alebo ich externe pred spustením skriptu s` export XLA_PYTHON_CLIENT_CLELLOCOCON = FALSE` (v systémoch UNIX-LIKE) alebo `Set` XLA_PYTHON_CLIENT_PREALLOCOCE = FALSE` (v systéme Windows).
Je však dôležité nastaviť tieto premenné prostredia pred importom Jax, pretože ich nastavenie nebude mať žiadny účinok [1] [3]. Neexistujú vstavané funkcie alebo konfigurácie JAX, ktoré by vám umožnili deaktivovať predbežnú hodnotu bez použitia premenných prostredia.
Ak sa stretnete s problémami s deaktiváciou predbežnej hodnoty v novších verziách Jax, môže to byť spôsobené chybou a je vhodné skontrolovať najnovšiu dokumentáciu alebo poznámky k vydaniu pre aktualizácie [9].
Citácie:[1] https://github.com/jax-ml/jax/discussions/21962
[2] https://learn.microsoft.com/en-us/windows/win32/msi/environment-table
[3] https://jax.readthedocs.io/en/latest/gpu_memory_allocation.html
[4] https://docs.jax.dev/en/latest/jep/4410-omnistaging.html
[5] https://kolonist26-jax-kr.readthedocs.io/en/latest/gpu_memory_allocation.html
[6] https://developer.jboss.org/thread/215838
[7] https://crikit.science/documentation/ad_systems/
[8] https://docs.nvidia.com/deeplearning/dali/user-guide/docs/advanced_topics_performance_tuning.html
[9] https://github.com/jax-ml/jax/discussions/19014