Deepseek-R1 obravnava vprašanja mešanja jezikov s postopkom usposabljanja, ki združuje učenje okrepitve (RL) z nadzorovanim natančnim nastavitvijo (SFT). Na začetku se model začne z osnovno različico (Deepseek-V3-Base), ki je natančno prilagojena z majhnim naborom podatkov "hladnega začetka", ki pomaga vzpostaviti strukturirano temelje za razumevanje različnih jezikov in kontekstov [1] [2] [2] ].
Model nato uporablja čiste RL tehnike za izboljšanje svojih zmogljivosti za sklepanje. Vendar pa je bilo med usposabljanjem opaziti, da se lahko zgodi mešanje jezikov, zlasti pri ravnanju s poizvedbami v jezikih, ki niso angleščina ali kitajska. Na primer, Deepseek-R1 bi lahko angleščino privzel za sklepanje in odzive, tudi če je vhod v drugem jeziku [5] [6]. Da bi to ublažilo, model uporablja vzorčenje zavrnitve za ustvarjanje podatkov o sintetičnih usposabljanju iz uspešnih RL, ki se nato združi s kakovostnimi nadzorovanimi podatki iz različnih domen. Ta postopek pomaga izboljšati prilagodljivost modela različnim jezikom in zmanjšuje verjetnost mešanja jezikov v odzivih [1] [4].
Poleg tega je namen tekočih raziskav optimizirati Deepseek-R1 za boljše delovanje v širšem razponu jezikov, hkrati pa se ukvarja z njegovimi trenutnimi omejitvami pri učinkovitem ravnanju z mešanim jezikom. Pričakuje se, da bodo prihodnje posodobitve izboljšale njegove zmogljivosti na tem področju, kar bo povečalo njegovo odzivnost in natančnost pri interakciji z uporabniki v različnih jezikovnih kontekstih [2] [5].
Navedbe:
[1] https://www.vellum.ai/blog/the-training-of-deepseek-r1-and-ways-to-it-it
[2] https://adasci.org/mastering-llms-reasoning-tabity-with-epseek-r1/
[3] https://www.reddit.com/r/localllama/comments/1iagr6u/how_do_i_finetune_deepseek_r1_on_a_new_language/
[4] https://unfoldai.com/deepseek-r1/
[5] https://arxiv.org/html/2501.12948V1
[6] https://github.com/deepseek-ai/deepseek-r1/blob/main/readme.md
[7] https://github.com/deepseek-ai/deepseek-r1/activity
[8] https://arxiv.org/html/2501.17030V1