مقارنة 5 نماذج لغوية كبيرة مفتوحة الأوزان: Llama وMistral وQwen وPhi وGemma

لماذا نقارن هذه العائلات الخمس من النماذج؟

انفجرت ساحة النماذج اللغوية الكبيرة مفتوحة الأوزان بخيارات قابلة للاستخدام من مختبرات الذكاء الاصطناعي الكبرى. وتقدم كل عائلة مقايضات مختلفة بين عدد المعاملات ونافذة السياق وسرعة الاستدلال وقدرة الاستدلال. وسواء كنت تنشر على أجهزة طرفية، أو تبني مساعدًا برمجيًا، أو تعالج مستندات متعددة اللغات، فإن هذه العائلات الخمس تمثل حدود باريتو الحالية - وكلها يمكن تشغيلها محليًا على أجهزة استهلاكية. وفهم مواصفاتها ضروري قبل التنزيل والنشر.

جدول المقارنة

عائلة النموذج	أحجام المعاملات	أقصى سياق	الترخيص	الناشر	نقطة القوة البارزة
Llama 3.2	1B، 3B، 11B*، 90B*	128K	Llama Community	Meta	النشر على الجهاز (1B/3B)
Mistral/Mixtral	7B، 8x7B (46.7B إجمالي)	32K	Apache 2.0	Mistral AI	توليد الشيفرة وسرعة الاستدلال
Qwen 2.5	0.5B - 72B	128K (1M Turbo)	Apache 2.0	علي بابا	التعامل مع السياق الطويل، تعدد اللغات
Phi-4	3.8B، 14B، 5.6B*	16K، 128K*	MIT	مايكروسوفت	جودة الاستدلال لكل معامل
Gemma 2	2B، 9B، 27B	8K	شروط Gemma	جوجل	نماذج كثيفة فعّالة

*متغيرات الرؤية/متعددة الوسائط. تضيف Llama 3.2 11B/90B فهم الصور؛ وتضيف Phi-4 متعددة الوسائط سياق 128K؛ وتخطط Gemma لـ256K في Gemma 4.

Llama 3.2 بإيجاز

تضم Llama 3.2 نماذج لغوية خفيفة ومتوسطة الحجم قادرة على معالجة الصور (11B و90B)، ونماذج نصية خفيفة فقط (1B و3B). ويدعم النموذجان 1B و3B طول سياق 128K رمزًا وهما متطوران في فئتهما لحالات الاستخدام على الجهاز مثل التلخيص واتباع التعليمات ومهام إعادة الصياغة التي تعمل محليًا على الطرفية.

المواصفات الرئيسية: دُرّبت على ما يصل إلى 9 تريليونات رمز وتدعم طول السياق الطويل البالغ 128k رمزًا. ويخضع استخدام Llama 3.2 لترخيص مجتمع Llama 3.2 (اتفاقية ترخيص تجاري مخصص) مع شرط طلب ترخيص من Meta إذا تجاوز المستخدمون النشطون شهريًا 700 مليون.

الأفضل لـ: النشر على الهواتف، والتلخيص، والذكاء الاصطناعي الطرفي، ومهام اتباع التعليمات على الأجهزة محدودة الموارد.

Mistral / Mixtral بإيجاز

Mistral هو نموذج لغوي بـ7 مليار معامل، يركز على الموازنة بين تكاليف توسيع النماذج الكبيرة والأداء والاستدلال الفعّال. في المقابل، يمتلك Mixtral 46.7 مليار معامل إجمالي لكنه يستخدم 12.9 مليار معامل فقط لكل رمز، فيعالج المدخلات ويولّد المخرجات بنفس سرعة وتكلفة نموذج بـ12.9 مليار.

المواصفات الرئيسية: يتعامل Mixtral بسلاسة مع سياق 32k رمزًا. وكلاهما مرخَّص بموجب Apache 2.0. ويُظهر Mixtral أداءً قويًا في توليد الشيفرة.

الأفضل لـ: توليد الشيفرة، والاستدلال الفعّال على وحدات رسومات متواضعة، وتحسين التكلفة لكل رمز، وسير العمل متعدد اللغات.

Qwen 2.5 بإيجاز

يتضمن إصدار Qwen 2.5 سبعة نماذج مفتوحة المصدر بأحجام تتراوح من 0.5B إلى 72B. وتدعم معظم النماذج طول سياق يبلغ 128K (131,072) رمزًا ويمكنها توليد ما يصل إلى 8K رمز.

المواصفات الرئيسية: التدريب على 18 تريليون رمز وتقنيات تدريب لاحق متقدمة، تشمل الضبط الدقيق المُوجَّه والتعلم المعزز متعدد المراحل. وتُصدر نماذج Qwen بموجب ترخيص Apache 2.0، وهو ترخيص مفتوح المصدر متسامح يتيح الاستخدام والتعديل والتوزيع بحرية، بما في ذلك الاستخدام التجاري، مع اشتراط حفظ إشعارات حقوق النشر وإخلاءات المسؤولية. ويتوفر سياق موسّع: Qwen2.5-1M هو نسخة السياق الطويل التي تدعم طول سياق يصل إلى 1M رمز.

الأفضل لـ: التطبيقات متعددة اللغات، ومعالجة المستندات طويلة السياق، واتباع التعليمات على نطاق واسع (المتغير 72B)، والاستدلال الكثيف.

Phi-4 بإيجاز

Phi-4 من مايكروسوفت هو نموذج محوّل مُفكِّك فقط بـ14 مليار معامل، طُوّر لتقديم قدرات استدلال متقدمة بكفاءة، ما يتيح النشر في بيئات محدودة الحوسبة والذاكرة. ويدعم Phi-4 طول سياق يبلغ 16,000 رمز، مما يتيح له معالجة وتوليد محتوى طويل موسّع.

المواصفات الرئيسية: دُرّب على نحو 10 تريليون (10T) رمز. ويأتي Phi-4 بترخيص MIT متسامح يتيح استخدامه للتطبيقات التجارية. ويكمن ابتكار رئيسي في استخدامه الاستراتيجي للبيانات الاصطناعية عالية الجودة، التي تشكل جزءًا كبيرًا من مجموعة تدريبه.

الأفضل لـ: الاستدلال الرياضي، ومشكلات المنطق المعقدة، والأسئلة والأجوبة العلمية، وعمليات النشر التجاري محدودة الموارد.

Gemma 2 بإيجاز

تأتي Gemma 2 بحجمين، 9 مليار و27 مليار معامل، بنسختي الأساس (المدربة مسبقًا) والمضبوطة بالتعليمات. دُرّبت نماذج Gemma 2 على نحو ضعف كمية البيانات مقارنة بإصدارها الأول، بإجمالي 13 تريليون رمز للنسخة 27B و8 تريليون رمز للنسخة 9B من بيانات الويب (بالإنجليزية أساسًا) والشيفرة والرياضيات.

المواصفات الرئيسية: طول سياق 8192 رمزًا، واستخدام تضمينات الموضع الدوّارة (RoPE). وتأتي Gemma 2 بترخيص متسامح يتيح إعادة التوزيع والضبط الدقيق والاستخدام التجاري والأعمال المشتقة (شروط استخدام Gemma المخصصة). ويُطبَّق انتباه النافذة المنزلقة على كل طبقة أخرى (محلي - 4096 رمزًا)، بينما لا تزال الطبقات بينها تستخدم انتباهًا عامًا تربيعيًا كاملًا (8192 رمزًا)، وهي طريقة لزيادة الجودة في حالات السياق الطويل مع الاستفادة جزئيًا من مزايا الانتباه المنزلق.

الأفضل لـ: الاستخدام العام المتوازن، والنشر على الجهاز (2B)، والاستدلال الفعّال على وحدات TPU/GPU، والتعليم والبحث.

أي نموذج ينبغي أن تختار؟

لعتاد متواضع (4-8 جيجابايت VRAM أو أقل):

• Llama 3.2 1B إذا كنت بحاجة إلى نشر طرفي/محمول
• Phi-4-mini (3.8B) لاستدلال أفضل بالبصمة نفسها
• Gemma 2 2B لمحادثة خفيفة مضبوطة بالتعليمات

لعتاد متوسط المدى (12-24 جيجابايت VRAM):

• Qwen 2.5 7B أو Llama 3.2 3B لمهام السياق الطويل
• Phi-4 14B للاستدلال الرياضي والبرمجة
• Gemma 2 9B للأداء العام المتنوع والمتوازن

لمهام برمجية جادة:

• Mixtral 8x7B لأفضل توليد للشيفرة مع استدلال فعّال
• Qwen 2.5 32B-72B لتوليد شيفرة معقدة مع الاستدلال
• Phi-4 14B لتصميم الخوارزميات المعتمدة على الرياضيات

للعمل متعدد اللغات أو عبر اللغات:

• Qwen 2.5 (مدرب صراحةً على أكثر من 29 لغة)
• Mistral 7B/Mixtral (يدعم الفرنسية والألمانية والإسبانية والإيطالية والإنجليزية)
• تجنّب Gemma 2 إلا إذا كان الاعتماد الأساسي على الإنجليزية مقبولًا

لأقصى طول سياق:

• Qwen 2.5-Turbo أو Qwen 2.5-1M (حتى 1M رمز، وجاهز للإنتاج عند 128K)
• متغيرات Qwen 2.5 128K (7B-72B)
• متغيرات Phi-4 حتى 128K (النسخة متعددة الوسائط)

للنشر التجاري بوضوح ترخيصي:

• Phi-4 (MIT - لا قيود تتجاوز الإسناد)
• Mistral/Mixtral (Apache 2.0 - متسامح، بلا حدود للمستخدمين)
• Qwen 2.5 (Apache 2.0 - مثل Mistral)
• تجنّب: Llama (حد 700 مليون مستخدم نشط شهريًا)، وGemma (شروط مخصصة مع التزامات تنزل إلى الأطراف التالية)

للكفاءة الخالصة (سرعة الاستدلال + VRAM منخفض):

• Mistral 7B (انتباه النافذة المنزلقة)
• Mixtral 8x7B (MoE متناثر - 13B نشط لكل رمز)
• Phi-4-mini 3.8B (كثيف، ببيانات عالية الجودة)

الأسئلة الشائعة

هل يمكنني استخدام هذه النماذج تجاريًا دون قيود؟

ليس بالتساوي. يأتي Phi-4 بترخيص MIT متسامح يتيح استخدامه للتطبيقات التجارية. وتستخدم Mistral وMixtral وQwen 2.5 جميعًا Apache 2.0 (بلا قيود). وتتيح Llama 3.2 الاستخدام التجاري لكنها تتطلب ترخيصًا منفصلًا من Meta إذا تجاوز منتجك 700 مليون مستخدم نشط شهريًا. وتتيح Gemma 2 النشر التجاري لكن بموجب شروط استخدام Gemma مخصصة، لا ترخيص مفتوح المصدر قياسي.

أي نموذج يعمل على وحدات رسومات استهلاكية مثل RTX 4090 أو RTX 4070؟

Phi-4 Multimodal بـ5.6 مليار معامل وطول سياق 128K رمز محسّن للتنفيذ على الجهاز والاستدلال منخفض زمن الاستجابة. أما Qwen 2.5 7B-14B وMistral 7B وLlama 3.2 3B وGemma 2 9B فكلها تُكمَّم لتتسع بكفاءة في 12-24 جيجابايت VRAM. لأفضل توافق، استخدم تكميم 4 بت أو 8 بت (بصيغة GGUF أو AWQ أو bitsandbytes).

كيف تقارَن أطوال السياق فعليًا في العمل الحقيقي على المستندات؟

تدعم معظم نماذج Qwen 2.5 طول سياق يبلغ 128K (131,072) رمزًا ويمكنها توليد ما يصل إلى 8K رمز، بما يماثل Llama 3.2. ويتوقف Mistral وMixtral عند 32K. أما Gemma 2 فمحدودة بـ8K، ما يجعلها غير مناسبة لمعالجة المستندات الكاملة؛ و16K في Phi-4 أفضل لكنها لا تزال متواضعة. للاستخدام الإنتاجي طويل السياق، Qwen 2.5 هو الفائز الواضح.

هل بيانات التدريب الاصطناعية (Phi-4) أفضل من بيانات الإنترنت المتنوعة؟

يتوقف ذلك على المهمة. فالاستخدام الاستراتيجي لـ Phi-4 للبيانات الاصطناعية عالية الجودة، المولّدة بتقنيات مثل التحفيز متعدد الوكلاء وعكس التعليمات وسير عمل المراجعة الذاتية، يمكّنه من اكتساب قدرات استدلال وحل مشكلات قوية، وغالبًا ما يتجاوز نماذج بعدد معاملات أكبر. وهذا يعمل بشكل استثنائي في الرياضيات والمنطق والشيفرة - وأقل من ذلك في المهام الإبداعية المفتوحة أو الواقعية حيث تتألق بيانات التدريب الواسعة لدى Qwen 2.5 أو Llama.