Na podlagi rezultatov iskanja je tukaj nekaj ključnih načinov za vizualizacijo delovanja različnih hiperparametrov v modelih nevronskega strojnega prevajanja (NMT):
1. Vzporedni koordinatni izrisi:
- Rezultati iskanja omenjajo uporabo vzporednih koordinatnih grafov za razumevanje odnosov med hiperparametri in meritvami vrednotenja, kot je rezultat BLEU [2].
- Ti diagrami vam omogočajo vizualizacijo vpliva več hiperparametrov na zmogljivost modela v celotnem konfiguracijskem prostoru.
2. Razvrstitev po pomembnosti hiperparametrov:
- Rezultati iskanja obravnavajo razvrščanje pomembnosti posameznih hiperparametrov in parov hiperparametrov glede na njihov vpliv na rezultat BLEU [2].
- To lahko pomaga prepoznati najvplivnejše hiperparametre, ki bi morali biti v središču prizadevanj za uglaševanje.
3. Histogrami uspešnosti:
- Rezultati iskanja prikazujejo histograme rezultatov BLEU za vizualizacijo velike razlike v zmogljivosti za osnovni sistem NMT [2].
- To lahko pomaga razumeti celotno porazdelitev zmogljivosti modela pod različnimi konfiguracijami hiperparametrov.
4. Korelacijska analiza hiperparametrov:
- Rezultati iskanja omenjajo merjenje Spearmanovega korelacijskega koeficienta med uvrstitvami konfiguracij glede na oceno BLEU v različnih nizih podatkov [4].
- To lahko razkrije, ali se dobre konfiguracije hiperparametrov dobro posplošujejo med nabori podatkov ali so specifične za nabore podatkov.
5. Vizualizacija meje Pareto:
- Za optimizacijo hiperparametrov z več cilji (npr. optimizacija za natančnost in hitrost sklepanja) rezultati iskanja predlagajo vizualizacijo Pareto-optimalnih modelov [5].
- To lahko pomaga razumeti kompromise med različnimi metrikami zmogljivosti pri nastavljanju hiperparametrov.
6. Orodja za vizualizacijo podatkov:
- Rezultati iskanja omenjajo potrebo po izdelavi orodij za vizualizacijo podatkov po meri za pridobitev vpogledov iz velike količine dnevniških podatkov, ustvarjenih z iskanjem po hiperparametrih [5].
- Razvijanje interaktivnih vizualizacij lahko olajša globlje razumevanje iskalnega prostora hiperparametrov in učinkovitosti modela.
Z uporabo teh tehnik vizualizacije lahko pridobite dragocene vpoglede v vpliv različnih hiperparametrov na delovanje modela NMT, identificirate najvplivnejše hiperparametre in razumete kompromise, vključene v uravnavanje hiperparametrov.
Citati:[1] https://arxiv.org/pdf/2105.11516.pdf
[2] https://aclanthology.org/2020.tacl-1.26.pdf
[3] https://www.researchgate.net/figure/Hyper-parameters-for-training-NMT-models_tbl3_366618108
[4] https://direct.mit.edu/tacl/article/doi/10.1162/tacl_a_00322/96458/Reproducible-and-Efficient-Benchmarks-for
[5] https://www.cs.jhu.edu/~kevinduh/t/kduh-proposal2017.pdf