Deepseek-R1 tegeleb keele segamisega mitmeastmelise koolitusprotsessi kaudu, mis ühendab tugevdusõppe (RL) juhendatud peenhäälestamise (SFT) abil. Algselt algab mudel baasversioonist (Deepseek-V3-baas), mis on peenhäälestatud, kasutades väikest "külma tärni" andmete komplekti, mis aitab luua struktureeritud aluse erinevate keelte ja konteksti mõistmiseks [1] [2] ].
Seejärel kasutab mudel puhtaid RL -tehnikaid, et täiustada oma mõttekäiku. Koolituse ajal täheldati aga, et keele segamine võib toimuda, eriti kui päringuid käsitletakse muudes keeltes kui inglise või hiina keeles. Näiteks võib DeepSEEK-R1 vaikeseade inglise keelde mõttekäikude ja vastuste osas ka siis, kui sisend on teises keeles [5] [6]. Selle leevendamiseks kasutab mudel tagasilükkamisproovide võtmist, et genereerida sünteetilisi treeninguandmeid edukatest RL-käikudest, mis seejärel liidetakse kvaliteetsete juhendatud andmetega erinevatest domeenidest. See protsess aitab parandada mudeli kohanemisvõimet erinevate keelte suhtes ja vähendab keelte segamise tõenäosust vastustes [1] [4].
Lisaks on käimasoleva uurimistöö eesmärk optimeerida DeepSEEK-R1 parema jõudluse saavutamiseks laiemas keeltes, käsitledes samal ajal selle praeguseid piiranguid segakeele sisendite tõhusalt käsitlemisel. Eeldatakse, et tulevased värskendused täpsustavad selle võimalusi selles valdkonnas, suurendades selle reageerimisvõimet ja täpsust, kui suheldes kasutajatega erinevates keelelistes kontekstides [2] [5].
Tsitaadid:
]
]
]
[4] https://unfoldai.com/deepseek-r1/
[5] https://arxiv.org/html/2501.12948v1
[6] https://github.com/deepseek-ai/deepseek-r1/blob/main/readme.md
[7] https://github.com/deepseek-ai/deepseek-r1/activity
[8] https://arxiv.org/html/2501.17030v1