Home Arrow Icon Knowledge base Arrow Icon Global Arrow Icon الاستدلال العميق على M4 MacBook Air


الاستدلال العميق على M4 MacBook Air


يتضمن تشغيل Deepseek Inference على A M4Book Air فهم إمكانيات سيليكون Apple والمتطلبات المحددة لنماذج DeepSeek. إليك تفاصيل ما تحتاج إلى معرفته:

نظرة عامة على نماذج Deepseek

-Deepseek-V3: هذا النموذج عبارة عن نموذج كبير من الخبراء (MOE) مع 671 مليار معلمة. لقد تم تشغيله بنجاح على مجموعة من M4 Mac Minis ، مما يعرض كفاءة سيليكون Apple لنماذج اللغة الكبيرة [1].
- Deepseek R1: تم إصداره في يناير 2025 ، هذا النموذج مفتوح المصدر ونماذج GPT. إنه يوفر العديد من الإصدارات الكمية لتقليل متطلبات الحجم والأجهزة ، مما يجعلها أكثر جدوى للنشر المحلي على أجهزة مثل M4 MacBook Air [2].

تشغيل Deepseek على M4 MacBook Air

اعتبارات المفتاح

1. الذاكرة وحجم النموذج: يأتي Macbook Air M4 مع رام أقل مقارنة بمجموعة M4 Mac Mini المستخدمة في Deepseek-V3. ستحتاج إلى تحديد نسخة أصغر أو كمية من طراز DeepSeek لتناسب ضمن ذاكرة الوصول العشوائي المتاحة [2].

2. بنية الذاكرة الموحدة: تعتبر بنية الذاكرة الموحدة في Apple Silicon مفيدة لتشغيل النماذج الكبيرة بكفاءة ، خاصة عند إنشاء استجابات واحدة في وقت واحد [1].

3. القياس الكمي واختيار النموذج: لتشغيله على M4 MacBook Air ، قد تفكر في إصدارات كمية من Deepseek R1 ، مثل طراز 14B ، والتي يمكن أن تعمل مع بعض ذاكرة الوصول العشوائي لتجنيب [2].

خطوات لتشغيل Deepseek محليًا

1. تثبيت Ollama: استخدم Ollama لإدارة LLMs المحلية على جهاز MacBook Air الخاص بك. يسمح لك بتثبيت وتشغيل نماذج مختلفة ، بما في ذلك DeepSeek [2].

2. اختر طرازًا: حدد نسخة كمية من Deepseek R1 التي تناسبها داخل ذاكرة الوصول العشوائي الخاصة بـ MacBook Air. نماذج مثل Deepseek-R1-Distill-QWEN-14B هي خيارات مناسبة [2].

3. قم بتشغيل النموذج: استخدم أوامر مثل `exo recl deepseek-r1-devices m4-pro ، m4-max-quantization 4-bit` لتشغيل النموذج مع القياس الكمي لأداء أفضل على رقائق m-series [4].

خاتمة

إن تشغيل Deepseek Inference على M4 MacBook Air ممكن مع اختيار النموذج الصحيح والقياس الكمي. توفر بنية الذاكرة الموحدة لسيليكون Apple ميزة أداء ، خاصة بالنسبة لسيناريوهات توليد الاستجابة الواحدة. ومع ذلك ، فإن ذاكرة الوصول العشوائي المحدودة مقارنة بإعدادات الخادم تعني أنك ستحتاج إلى اختيار نماذج أصغر أو كمية لضمان تشغيل سلس.

الاستشهادات:
[1] https://digialps.com
[2]
[3] https://www.reddit.com/r/localllama/comments/1hne97k/running_deepseekv3_on_m4_mac_mini_ai_cluster_671b/
[4] https://dev.to/mehmetakar/5-lays-to-t-lun-llm-locally-on-mac-cck
[5] https://www.youtube.com/watch؟v=U99GC7S4LUA
[6] https://www.yahoo.com/tech/beginning-end-deepeek-goes-100-183100522.html
[7] https://www.youtube.com/watch؟v=WBQ2YDPODNW
[8] https://forums.macrumors.com/threads/m4-max-silicon-and-running-llms.2448348/