Jelenleg nincs közvetlen módja annak, hogy a GPU memória preardokációját a JAX -ben környezeti változók használata nélkül letilthassuk. Az ajánlott módszer magában foglalja az `xla_python_client_preallocate` környezeti változó beállítását a Jax importálása előtt. Ezt megteheti a Python szkriptben az `os.environ ['xla_python_client_preallocate'] = 'false' vagy, ha külsőleg beállítja, mielőtt a szkriptet„ exportál xla_python_client_preallocate ”(Unix-szerű rendszereken) vagy` beállított rendszerrel) vagy `beállított futtatásával futtatja, vagy` Set `beállított Xla_python_client_preallocate = false` (a Windows -on).
Alapvető fontosságú azonban, hogy ezeket a környezeti változókat beállítsuk a JAX importálása előtt, mivel az utólagos beállításuknak nincs hatása [1] [3]. Nincsenek beépített JAX funkciók vagy konfigurációk, amelyek lehetővé teszik a preallokáció letiltását környezeti változók használata nélkül.
Ha olyan problémákkal szembesül, ha a JAX újabb verzióiban az előnyelést letiltja, akkor ez egy hiba oka lehet, és a legfrissebb dokumentáció vagy a frissítések kiadási jegyzeteinek ellenőrzése javasolt [9].
Idézetek:[1] https://github.com/jax-ml/jax/discussions/21962
[2] https://learn.microsoft.com/en-us/windows/win32/msi/environment-table
[3] https://jax.readthedocs.io/en/latest/gpu_memory_allocation.html
[4] https://docs.jax.dev/en/latest/jep/4410-omnistaging.html
[5] https://kolonist26-jaxkr.readthedocs.io/en/latest/gpu_memory_allocation.html
[6] https://developer.jboss.org/thread/215838
[7] https://crikit.science/documentation/ad_systems/
[8] https://docs.nvidia.com/deeplearning/dali/user-guide/docs/advanced_topics_performance_tuning.html
[9] https://github.com/jax-ml/jax/discussions/19014