UNNLOTH on avatud lähtekoodiga raamistik, mis on loodud suurte keelemudelite (LLM-ide), näiteks Deepseek-R1, optimeerimiseks ja kiirendamiseks. Siin on DeepSEEEK-R1 peenhäälestamisel abiks olevad peamised tunnused:
1. Optimeeritud maatriksi toimingud: UNNLOTH optimeerib peenhäälestamist, saades käsitsi maatriksi erinevusi ja teostades aheldatud maatriksi korrutamist. See lähenemisviis suurendab arvutuslikku tõhusust ja vähendab maatriksi toimingute keerukust, mis on ülioluline suurte mudelite nagu Deepseek-R1 käitlemisel [1].
2. Mälu efektiivsus: ebalotil on loodud mälu kasutamise vähendamiseks märkimisväärselt, võimaldades aeglasemate GPU-de suuri mudeleid täpsustada. See on eriti kasulik kasutajatele, kellel pole juurdepääsu tipptasemel arvutusressurssidele [4].
3. Tõhus allalaadimine: UNDLOTH kiirendab mudelite ja andmekogumite allalaadimisprotsessi, mis võib olla suurte mudelite jaoks aeganõudev. See funktsioon aitab täpsustamisprotsessi sujuvamaks muuta [4].
4. Lora kasutamine (madala astme kohandamine): UNLOTH kasutab suurte mudelite tõhusaks häälestamiseks selliseid tehnikaid nagu Lora. Lora võimaldab mudeli raskustele madala astme värskendusi, mis vähendab täpsustamiseks vajalikke arvutusnõudeid ja mälu. See meetod on eriti efektiivne eelnevate mudelite kohandamiseks konkreetsete ülesannetega, ilma et oleks vaja ulatuslikku ümberõpet [4].
5. Algajaõbralik liides: UNNLOTH pakub algajasõbralikku liidest, muutes selle kättesaadavaks kasutajatele, kes on uued suurte keelemudelite peenhäälestamiseni. See hõlmab sirgjoonelisi installimis- ja seadistusprotsesse, mis võimaldab kasutajatel keskenduda täpse tehnilise konfiguratsiooniga tegelemisele peenhäälestamise ülesandele [2].
6. Kohalik koolitustugi: UNSLOTH toetab selliste mudelite nagu DeepSEEK-R1 kohalikku koolitust, kasutades GRPO (üldistatud rekursiivne parameetrite optimeerimine), mis võimaldab kasutajatel mudeleid täielikult oma kohalikes masinates paljundada ja kohandada. Seda funktsiooni on täiustatud, et kasutada oluliselt vähem VRAM -i, muutes kohaliku treeningu teostatavamaks [2] [8].
7. Integreerimine näo ja muude tööriistadega: UNNLOTH integreerub hästi selliste platvormidega nagu näo kallistamine, võimaldades kasutajatel mudeleid ja tokenijaid hõlpsalt laadida. See toetab ka logimist ja jälgimist katseid nagu kaal ja eelarvamused, mis aitab jälgida peenhäälestamise protsessi ja hinnata mudeli jõudlust [7].
Üldiselt on undlothi funktsioonid loodud selleks, et muuta selliste suurte mudelite, näiteks DeepSEEK-R1, täpsemaks, tõhusamaks ja kohandatavaks kasutajate jaoks, kellel on erineva teadmise ja arvutusressursside tase.
Tsitaadid:
]
[2] https://unsloth.ai/blog/r1-reasoning
[3] https://youssefh.substack.com/p/fine-tuning-diepseek-on-on-russelling-2d2
[4] https://www.kdnuggets.com/how-to-fine-tune-diepseek-custom-datasett
]
[6] https://techifysolutions.com/blog/fine-tuning-deepseek-r1/
]
]