Small Language Models (SLMs)
نماذج اللغة الصغيرة (SLMs) هي نماذج لغوية صغيرة بما يكفي للعمل على الهواتف والحواسيب المحمولة، وبتكلفة منخفضة عند تقديمها، ويكون عدد معلماتها عادةً أقل من 10 مليارات.
نموذج اللغة الصغير (SLM) هو نموذج لغة صغير بما يكفي للعمل على هاتف أو حاسوب محمول أو GPU واحد متوسط المواصفات، أو لتقديم الخدمة على نطاق واسع بكلفة منخفضة. ولا يوجد حد فاصل ثابت: يعرّف باحثو NVIDIA نموذج SLM بأنه نموذج يعمل على جهاز استهلاكي شائع ويستجيب بسرعة تكفي لتلبية طلبات مستخدم واحد، ويصنّفون، اعتبارًا من 2025، معظم النماذج التي يقل حجمها عن 10 مليارات مُعامل ضمن هذه الفئة. حقق Phi-3-mini من Microsoft، وهو نموذج يضم 3.8 مليارات مُعامل وصدر في أبريل 2024، نتيجة 69% في معيار MMLU، وهي نتيجة تقارب GPT-3.5، مع صغر حجمه بما يكفي للعمل على هاتف. وتشمل نماذج SLM الأخرى واسعة الاستخدام نماذج Gemma 3 من Google، التي تضم من 270 مليونًا إلى 4 مليارات مُعامل، وLlama 3.2 1B و3B من Meta، ونماذج Qwen3 الأصغر من Alibaba، والنموذج المُشغّل على الجهاز، الذي يضم نحو 3 مليارات مُعامل، والمستخدم في Apple Intelligence.
كيف تُبنى نماذج SLM؟#
تستخدم نماذج SLM بنية المحوّل نفسها التي تستخدمها نماذج اللغة الكبيرة (LLMs)، وتعوّض صغر حجمها بخيارات تدريبية:
- جودة البيانات: درّبت Microsoft نموذج Phi-3-mini على 3.3 تريليون رمز من نصوص الويب العامة المصفّاة بشدة والبيانات الاصطناعية، وتعزو نتائجه إلى مجموعة البيانات تلك.
- الإفراط في التدريب: تدعو قوانين التحجيم إلى نحو 20 رمزًا لكل مُعامل لتقليل كلفة التدريب، بينما تتدرب نماذج SLM على مئات أو آلاف الرموز لكل مُعامل، فتبادل زيادة كلفة التدريب بنموذج أصغر تقل كلفته لكل استعلام. ودرّبت Meta نموذج Llama 3 8B على 15 تريليون رمز.
- تقطير المعرفة: درّبت Google نموذجي Gemma 2، بحجمي 2B و9B، على مطابقة توزيعات الرمز التالي لنموذج معلّم أكبر بدلًا من الاقتصار على التنبؤ بالرمز التالي.
- تكميم النموذج: يحتاج نموذج يضم 3.8 مليارات مُعامل إلى نحو 7.6 GB لأوزانه عند 16 بت، ونحو 1.9 GB عند 4 بت. وتضغط Apple نموذجها العامل على الجهاز إلى 2 بت لكل وزن باستخدام التدريب الواعي بالتكميم (QAT)، بينما تحزم ملفات GGUF نماذج 4 بت للحواسيب المحمولة.
أماكن تشغيل نماذج SLM#
تُعدّ المساعدات العاملة على الجهاز الاستخدام الأبرز. ويتيح إطار عمل Foundation Models من Apple، الذي أُعلن عنه في 2025، لمطوّري التطبيقات الوصول المباشر إلى النموذج العامل على الجهاز والمشغّل لـApple Intelligence. وتشغّل شرائح الهواتف مثل هذه النماذج على وحدات المعالجة العصبية (NPUs) الخاصة بها من دون إرسال النص إلى خادم، ما يساعد على خصوصية البيانات. وتُجري الشركات ضبطًا دقيقًا لنماذج SLM باستخدام LoRA لمهام محددة مثل التصنيف والاستخراج والرد على طلبات الدعم، وغالبًا ما تضيف التوليد المعزز بالاسترجاع (RAG) للاستفادة من معارف الشركة. وقد أنشأت Google نموذج Gemma 3 270M لهذا النوع من الضبط الخاص بالمهام، إذ توجد 170 مليونًا من مُعاملاته البالغ عددها 270 مليونًا في تضمينات مفردات تضم 256 ألف رمز.
يتمثّل أحدث استخدام في وكلاء الذكاء الاصطناعي. وترى ورقة NVIDIA أن معظم المهام الفرعية للوكلاء محدودة النطاق ومتكررة بما يكفي لإسنادها إلى نموذج SLM، مع تخصيص نموذج أكبر للمهام المتبقية، وهو شكل من توجيه النماذج:
ينطبق التقسيم نفسه على مسارات عمل الرؤية في عتاد الذكاء الاصطناعي الطرفي. وتقبل واجهة Ultralytics لنماذج اللغة الكبيرة مُدخل base_url لأي نقطة نهاية متوافقة مع OpenAI، بما في ذلك الخوادم المحلية مثل Ollama؛ لذا يمكن لمسار عمل YOLO26 على جهاز طرفي إرسال إطار أو اكتشافاته إلى نموذج SLM على الجهاز نفسه والحصول على تقرير نصي من دون الاتصال بالسحابة.
نماذج SLM والمصطلحات ذات الصلة#
- نموذج اللغة الكبير: النوع نفسه من النماذج بحجم عشرات أو مئات المليارات من المُعاملات أو أكثر، مع معارف أوسع واستدلال أقوى متعدد الخطوات، ويُقدّم عادةً عبر GPU في مركز بيانات.
- نموذج الرؤية واللغة (VLM): يضيف مُرمِّزًا للصور إلى نموذج لغوي. وتطبّق نماذج VLM الصغيرة، مثل FastVLM من Apple، تقنيات SLM على فهم الصور. وتتضمن لوحة صدارة VLM نماذج VLM صغيرة مثل Gemma 4 E2B وQwen3.5 2B، وتقيس دقتها في كشف الأجسام إلى جانب نماذج أكبر بكثير.
- TinyML: تعلّم آلي على متحكّمات دقيقة بذاكرة تتراوح من بضعة كيلوبايتات إلى بضعة ميغابايتات، حيث لا يتسع حتى نموذج SLM يضم 270 مليون مُعامل، ويشغل نحو 270 MB بأوزان 8 بت.
