الفصل الحادي عشر — نماذج أصغر، نماذج أذكى

المقالة الحادية عشرة من الجولة الفصلية في LLM Primer I: How Generative AI Works. حين يَتوقَّف الحجمُ عن كَونه ميزة — وأين تَقع، في 2026، حدودُ "النموذج الذكي".

النموذج الكبير وحده ليس جواباً

النماذج الكبيرة التي رأيناها في الفصول السابقة كلفةُ تشغيلها ثقيلة. إجابةٌ بطيئة، رمزٌ غالٍ، بُنيةٌ تحتيّة تَنوء بالحمل. حين نَعود إلى العمل الحقيقي، يَطفو السؤال طبيعياً: هل يُمكن الحفاظ على قدرة نموذجٍ كبيرٍ داخل نموذجٍ أصغر — أسرعَ وأرخص؟

الفصل الحادي عشر هو هذا السؤال بتفصيل.

التقطير (Distillation) — تَمرير ما يَعرفه "المعلِّم" إلى التلميذ

الطريقُ الأكثرُ رسوخاً هو التقطير. في سطرٍ واحد: نموذجٌ كبير ("المعلِّم") يُنتج إجاباتٍ لِمُدخَلاتٍ متنوّعة؛ ونموذجٌ صغير ("التلميذ") يَتعلَّم محاكاتها — لا الإجابةَ النهائية فقط، بل التوزيع الكامل الذي أَنتجه المعلِّم. يَستوعب التلميذ الإجابةَ الصحيحة، ومعها "ملمس الثقة" عند المعلِّم.

لذلك التلميذ المُقطَّر، عادةً، يَصمد أفضل من تلميذٍ دُرِّب على الإجابات الصحيحة وحدها — لأنّه يَرث حدسَ المعلِّم، لا الحقائق فحسب.

التكميم (Quantization) — تَخفيضُ دقّة الأوزان

الطريق الثاني هو التكميم. أوزانُ النموذج — مليارات الأرقام — تُخزَّن عادةً بـ 32 بِت أو 16 بِت. التكميم يَخفض هذه الدقّة إلى 8 بِت، 4 بِت، بل أَدنى.

حين تَنخفض الدقّة، يَتقلَّص النموذج كلُّه بالنسبة نفسها. تَتَّسع وحدةُ GPU ذاتها لنموذجٍ أكبر، ويَعمل النموذج ذاتُه أسرع. والمدهش بعض الشيء — عند تكميمٍ مُتقَن، يَبقى السلوك في معظمه كما هو. لا كلُّ نموذجٍ يَتحمَّل التكميم دون فقد، أمّا المُدرَّبة جيِّداً فعادةً تَتحمَّل.

MoE — تَوزيع المعرفة على "خبراء"

الطريق الثالث مختلفٌ في طبيعته. MoE (مزيج الخبراء) يَضع داخل نموذجٍ كبير عدّة شبكاتٍ فرعيّةٍ "خبيرة". مع كلِّ رمز، تَنشط فقط بعضُ تلك الشبكات. الإجمالي من المُعاملات كبير؛ أمّا ما يَنشط فعلاً في كلِّ استدعاءٍ فجزءٌ منه.

المثيرُ أنّ النموذج، في مجموعه، يَحمل عدّة أنواعٍ من التخصُّص، ولكنّه يَستعمل في كلِّ استدعاءٍ القطعةَ الأنسب فقط للمُدخَل الراهن.

§6 — القسم الجديد في طبعة 2026 عن "نماذج الاستدلال"

في طبعة 2026 فَتحتُ §11.6 لِجَبهةٍ مختلفةٍ تماماً. ليست عن الكفاءة — بل عن الاتّجاه المعاكس.

في سطرٍ واحد: دَعِ النموذج، في كلِّ استدعاء، يَكتب مزيداً من الرموز داخل سلسلة استدلاله. ثمَّ صَقَلِ تلك السلسلة بِـ RLHF حتّى يَتعلَّم النموذج أن يَستدلّ داخلياً بأناةٍ أكبر. الإجابةُ التي تَصلك في النهاية تكون قد اجتازت استدلالاً أعمَقَ ممّا يَجتازه نموذجٌ مكافئ.

الكفاءةُ تَجعل "الإجابة ذاتَها" أرخصَ. ونماذج الاستدلال تَجعل "الردَّ ذاتَه" أَغلى، مقابل الجودة. هذان الاتّجاهان يَتعايشان اليوم داخل عائلات النماذج نفسها. هذا هو المحور الأكبر في 2025–2026.

خيط الفصل الحادي عشر

ما يَبقى من هذا الفصل: لا يوجد نموذجٌ "صالحٌ لكلِّ الميادين". يوجد النموذج المناسب لمَهَمَّةٍ بعينها، ولميزانيّةٍ بعينها، ولِنوع الإجابة المطلوبة. التنقُّل بمرونةٍ بين الكفاءة والاستدلال العميق جزءٌ من تشغيل LLM جيِّداً في 2026.

غداً — الفصل الثاني عشر: بناءُ نظام LLM — وما بعد. المقالة الأخيرة. النموذج، الأدوات، RAG، التقييم، حواجز الأمان — تُخاط في نظامٍ واحد. والجسر من الكتاب الأوّل إلى الكتب 2–7 من السلسلة.