Deepseek-R1 يعالج قضايا خلط اللغة من خلال عملية تدريب متعددة المراحل تجمع بين التعلم التعزيز (RL) مع التثبيت الخاضع للإشراف (SFT). في البداية ، يبدأ النموذج بإصدار أساسي (DeepSeek-V3-base) يتم ضبطه جيدًا باستخدام مجموعة صغيرة من بيانات "البداية الباردة" ، مما يساعد على إنشاء أساس منظم لفهم اللغات والسياقات المتنوعة [1] [2] ].
ثم يستخدم النموذج تقنيات RL النقية لتعزيز قدراته المنطقية. ومع ذلك ، أثناء التدريب ، لوحظ أن خلط اللغة يمكن أن يحدث ، خاصة عند التعامل مع الاستعلامات بلغات أخرى غير الإنجليزية أو الصينية. على سبيل المثال ، قد تتخلف Deepseek-R1 إلى اللغة الإنجليزية للتفكير والاستجابات حتى لو كانت المدخلات بلغة أخرى [5] [6]. للتخفيف من ذلك ، يستخدم النموذج أخذ عينات الرفض لإنشاء بيانات التدريب الاصطناعية من عمليات تشغيل RL الناجحة ، والتي يتم دمجها بعد ذلك ببيانات خاضعة للإشراف عالية الجودة من مختلف المجالات. تساعد هذه العملية على تحسين القدرة على التكيف مع اللغات المختلفة وتقلل من احتمال خلط اللغات في الاستجابات [1] [4].
علاوة على ذلك ، تهدف الأبحاث المستمرة إلى تحسين DeepSeek-R1 لتحسين الأداء عبر مجموعة واسعة من اللغات مع معالجة قيودها الحالية في التعامل مع مدخلات اللغة المختلطة بشكل فعال. من المتوقع أن تقوم التحديثات المستقبلية بتحسين قدراتها في هذا المجال ، مما يعزز استجابة ودقتها عند التفاعل مع المستخدمين في سياقات لغوية متنوعة [2] [5].
الاستشهادات:
[1] https://www.vellum.ai/blog/the-training-of-deepeseek-r1-and-ways-to-use-it
[2] https://adasci.org/mastering-llms-reasoning-capability-with-deepeek-r1/
[3 "
[4] https://unfoldai.com/deepeek-r1/
[5] https://arxiv.org/html/2501.12948v1
[6] https://github.com/deepseek-ai/deepeek-r1/blob/main/readme.md
[7] https://github.com/deepseek-ai/deepeek-r1/activity
[8] https://arxiv.org/html/2501.17030v1