Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon Mitkä ovat ympäristömuuttujat, joita käytetään Jax -muistin allokoinnin määrittämiseen


Mitkä ovat ympäristömuuttujat, joita käytetään Jax -muistin allokoinnin määrittämiseen


Jax -muistin allokoinnin määrittämiseksi voidaan käyttää useita ympäristömuuttujia:

1. `XLA_PYTHON_CLIENT_PREATLLOCE`: Tämä muuttuja hallitsee, onko Jax Prealllococes GPU -muistin. Sen asettaminen "väärään" poistaa käytöstä esikulmioiden aiheuttaen Jaxin jakamaan muistia tarpeen mukaan. Tämä voi kuitenkin johtaa muistin pirstoutumiseen, eikä se välttämättä aina toimi odotetusti joissakin JAX: n versioissa [1] [3] [5].

2. `xla_python_client_mem_fraction`: Tämä muuttuja määrittelee GPU -muistin kokonaismäärän, jonka JAX: n tulisi esitellä. Esimerkiksi sen asettaminen arvoon `.10` esittelee 10% GPU -muistista. Tämä voi auttaa välttämään muistin ulkopuolisia virheitä, mutta voi johtaa OOM-varoitukseen, jos sitä ei hallita kunnolla [1] [3] [5].

3. `XLA_PYTHON_CLIENT_ALLOCATOR = Platform`: Tämä asetus saa Jaxin allokoimaan tarkalleen mitä tarvitaan pyynnöstä ja kaupankäynnin muisti, jota ei enää tarvita. Vaikka sitä ei suositella yleiseen käyttöön sen hitaan suorituskyvyn takia, se voi olla hyödyllinen GPU -muistin käytön virheenkorjaamisessa tai minimoimisessa [1] [3].

Nämä muuttujat voidaan asettaa ennen Jax -sovelluksen suorittamista muisti -allokointikäyttäytymisen mukauttamiseksi. Jotkut käyttäjät ovat kuitenkin ilmoittaneet epäjohdonmukaisesta käytöksestä näiden asetusten kanssa tietyissä JAX: n versioissa [5] [9].

Viittaukset:
[1] https://kolonist26-jax-kr.readthedocs.io/en/latest/gpu_memory_allocation.html
.
[3] https://jax.readthedocs.io/en/latest/gpu_memory_allocation.html
[4] https://docs.jax.dev/en/latest/installation.html
[5] https://github.com/google/jax/issues/19267
[6] https://www.maplesoft.com/support/help/maple/view.aspx?path=envvar
[7] https://docs.jax.dev/en/latest/faq.html
[8] https://github.com/google/jax/issues/1491
[9] https://github.com/google/jax/issues/19035
[10.