Šiuo metu nėra tiesioginio būdo išjungti GPU atminties išankstinę dalį JAX nenaudojant aplinkos kintamųjų. Rekomenduojamas metodas apima aplinkos kintamojo „xla_python_client_preallocate“ nustatymą „False“ prieš importuojant JAX. Tai galima padaryti jūsų „Python“ scenarijuje, naudojant `os.environ ['xla_python_client_preallocate'] = 'false' 'arba nustatydami jį išoriškai prieš paleisdami scenarijų naudojant„ Export XLA_PYTHON_CLIENT_PERELLOCLACE = FALSE “(ON UNIX tipo sistemos) arba„ SET `SET“ Xla_python_client_preallocate = false` („Windows“).
Tačiau labai svarbu nustatyti šiuos aplinkos kintamuosius prieš importuojant JAX, nes jų nustatymas vėliau neturės jokio poveikio [1] [3]. Nėra integruotų JAX funkcijų ar konfigūracijų, leidžiančių išjungti preallokaciją nenaudojant aplinkos kintamųjų.
Jei susiduriate su problemomis, susijusiomis su išankstinėmis išankstinėmis JAX versijomis, tai gali būti dėl klaidos, ir patartina patikrinti naujausius dokumentus ar išleidimo pastabas atnaujinimams [9].
Citatos:[1] https://github.com/jax-ml/jax/discussions/21962
[2] https://learn.microsoft.com/en-us/windows/win32/msi/environment-lible
[3] https://jax.readthedocs.io/en/latest/gpu_memory_allocation.html
[4] https://docs.jax.dev/en/latest/jep/4410-omnistaging.html
[5] https://kolonist26-Jax-kr.readthedocs.io/en/latest/gpu_memory_allocation.html
[6] https://developer.jboss.org/thread/215838
[7] https://crikit.science/documentation/ad_systems/
[8] https://docs.nvidia.com/deeplearning/dali/user-guide/docs/advanced_topics_performance_tuning.html
[9] https://github.com/jax-ml/jax/discussions/19014