Unloth هو إطار عمل مفتوح المصدر مصمم لتحسين وتسريع عملية ضبط النماذج اللغوية الكبيرة (LLMS) مثل DeepSeek-R1. فيما يلي الميزات الرئيسية لـ Unloth التي تساعد في صياغة Deepseek-R1:
1. عمليات المصفوفة المحسّنة: يحسن UNSLOTH عملية التثبيت من خلال استخلاص الفوارق المصفوفة يدويًا وأداء مضاعفات المصفوفة بالسلاسل. يعزز هذا النهج الكفاءة الحسابية ويقلل من تعقيد عمليات المصفوفة ، وهو أمر بالغ الأهمية للتعامل مع نماذج كبيرة مثل Deepseek-R1 [1].
2. كفاءة الذاكرة: تم تصميم Unloth لتقليل استخدام الذاكرة بشكل كبير ، مما يجعل من الممكن ضبط نماذج كبيرة على وحدات معالجة الرسومات الأبطأ. هذا مفيد بشكل خاص للمستخدمين الذين لا يستطيعون الوصول إلى موارد الحوسبة المتطورة [4].
3. التنزيل الفعال: لا يسرع Unloth عملية التنزيل للنماذج ومجموعات البيانات ، والتي يمكن أن تستغرق وقتًا طويلاً للموديلات الكبيرة. تساعد هذه الميزة في تبسيط عملية الإعداد للضبط الدقيق [4].
4. استخدام Lora (التكيف منخفض الرتبة): يستخدم Unloth تقنيات مثل Lora لضوء النماذج الكبيرة بكفاءة. يسمح Lora بتحديثات منخفضة الرتبة لأوزان النموذج ، مما يقلل من المتطلبات الحسابية والذاكرة اللازمة للضباط. هذه الطريقة فعالة بشكل خاص لتكييف النماذج التي تم تدريبها مسبقًا مع مهام محددة دون الحاجة إلى إعادة تدريب واسعة النطاق [4].
5. واجهة ملائمة للمبتدئين: يوفر Unloth واجهة صديقة للمبتدئين ، مما يجعلها في متناول المستخدمين الجدد في صياغة نماذج اللغة الكبيرة. يتضمن ذلك عمليات التثبيت والإعداد المباشر ، مما يسمح للمستخدمين بالتركيز على مهمة التأكيد بدلاً من التعامل مع التكوينات التقنية المعقدة [2].
6. دعم التدريب المحلي: يدعم UNSloth التدريب المحلي لنماذج مثل DeepSeek-R1 باستخدام GRPO (تحسين المعلمة المتكررة المعممة) ، والذي يتيح للمستخدمين إعادة إنتاج وتخصيص النماذج بالكامل على أجهزتهم المحلية. تم تعزيز هذه الميزة لاستخدام VRAM أقل بكثير ، مما يجعل التدريب المحلي أكثر جدوى [2] [8].
7. التكامل مع Hugging Face والأدوات الأخرى: يتكامل Unloth بشكل جيد مع منصات مثل Hugging Face ، مما يسمح للمستخدمين بتحميل النماذج والرمز المميزات بسهولة. كما يدعم تجارب تسجيل وتتبع أدوات مثل الأوزان والتحيزات ، مما يساعد في مراقبة عملية الضبط وتقييم أداء النموذج [7].
بشكل عام ، تم تصميم ميزات Unloth لجعل عملية صقل النماذج الكبيرة مثل Deepseek-R1 أكثر سهولة وفعالية وقابلة للتخصيص للمستخدمين الذين لديهم مستويات مختلفة من الخبرة والموارد الحسابية.
الاستشهادات:
[1] https://youssefh.substack.com/p/fine-tuning-deepseek-r1-on-roishing
[2] https://unsloth.ai/blog/r1-reasoning
[3] https://youssefh.substack.com/p/fine-tuning-deepseek-r1-on-reasoning-2d2
[4] https://www.kdnuggets.com/how-to-fine-tune-deepseek-r1-custom-dataset
[5]
[6]
[7] https://www.datacamp.com/tutorial/fine-tuning-deepseek-r1-reasoning-model
[8]