الفصل السابع — هندسة الموجِّهات بوصفها حرفة

المقالة السابعة من الجولة الفصلية في LLM Primer I: How Generative AI Works. أكثر الفصول عملية — تلك الطرائق التي تَجعل النموذج ذاته أَذكى مرّتَين، ولماذا تَنجح.

لماذا الموجِّه ليس مجرَّد "سؤال"

قد تبدو "هندسة الموجِّهات" أحياناً متضخِّمة. وكأنّ الأمر لا يَتعدّى صياغةَ السؤال صياغةً جيّدة. لكنّي أَتمسَّك في الكتاب بقراءةٍ أكثر جدّيّةً: الموجِّه هو الذي يُحدِّد السياقَ الذي يَبني عليه النموذج تنبؤَه بكلِّ رمزٍ تالٍ. وهذا ليس بالأمر اليسير.

يَقرأ النموذج في كلِّ مرّةٍ كلَّ شيءٍ في سياقه، وعلى أساسه يَبني توزيع الرمز التالي. الموجِّه هو الجزء المركزي من ذلك السياق. تَغييرُ النبرة، أو البنية، أو الأمثلة، أو الدور — كلُّها تُحرِّك في حركةٍ واحدة توزيعَ كلِّ ما يأتي بعد ذلك من رموز.

بهذه العين، هندسةُ الموجِّهات هي أرخصُ وسيلةٍ لِاستخراج قدرة النموذج، وأكثرُها مرونةً لِتغيير سلوكه جذرياً دون تغيير النموذج ذاته.

أربعة أنماطٍ تَحمل الثقل

في الفصل السابع، اختَرتُ أربعة أنماطٍ تَحمل في الممارسة الجزءَ الأكبر من الحِمل. توجد أنماطٌ أخرى، لكنّ هذه الأربعة هي الخيول الحقيقية.

System prompt. التعليمة التي تَرسم نبرة النموذج وحدوده منذ البداية. كلُّ ما يأتي بعدها يُولَّد داخل ذلك اللون الأساسي. تَعديلُ سطرٍ أو سطرَين فيها كثيراً ما يَعني إعادةَ كَتْب شخصية المساعد كلِّياً دون تَغيير أيِّ شيءٍ آخر.

Few-shot. بدلاً من وصف نوع الإجابة التي تُريدها، تَضع مثالَين أو ثلاثة في السياق ذاته. يَتعامل النموذج معها بوصفها "نمطاً محلّياً للمخرَجات"، ويَشدّ توزيعَه نحوها. مثالان مَلموسان يَفعلان غالباً ما لا تَفعله صفحةٌ من الوصف المجرَّد.

سلسلة التفكير (chain of thought). اطلُب من النموذج "لا تُعطِني الخلاصةَ فحسب، اشرح خطواتِ تفكيرك". يبدو الأمر صغيراً، وأثرُه كبير. حين يَكتب النموذج خطوات تفكيره في سياقه ذاته، فإنّه يُوسِّع سياقَه بنفسه — وكلُّ رمزٍ تالٍ يَنظر إلى تلك الخطوات.

الدور. أن تَقول "أنت مهندسُ خَلفية أَقدَم" يَسحب من توزيع التدريب المسبق نوعَ الإجابات الذي يَظهر حين يَكتب مهندسو الخلفية الأَقدَمون. لا تتغيَّر النبرة وحدها، بل الأرضية الدلالية التي يَقف عليها النموذج.

لماذا تَنجح هذه الأنماط

أَجمع في الكتاب هذه الأنماط الأربعة تحت قراءةٍ واحدة: يَستوعب النموذج السياق، ثمَّ يُولِّد فوقَه الرمز التالي. يَرسم system prompt الإطار الأكبر؛ ويُضيِّق few-shot شكلَ المخرَجات؛ وتُتيح سلسلةُ التفكير للنموذج أن يُوسِّع سياقَه بنفسه؛ ويَستحضر الدورُ من توزيع التدريب المسبق العائلةَ المناسبة من الإجابات.

حين تَستقرّ هذه الجملة في الذهن، تَستطيع أمام أيِّ نمطٍ جديد من الموجِّهات أن تَتوقَّع — على أساسٍ من الآلية — هل سيَنجح أم لا. هذه نقلةٌ من "حفظ الوصفات" إلى "فَهْم العِلَل".

ما يَنفع وما يَتضخَّم اسمُه

في ختام الفصل، أُميِّز بصراحةٍ بين ما يَترك أَثراً حقيقياً وما يَعيش على شُهرته. ليست كلُّ أنماط الموجِّهات بالقوّة ذاتها. بعضُها يَرفع النموذج فعلاً درجةً؛ وبعضُها يَكون ضجيجاً أكثرَ من نتيجة.

وَجودُ هذه الخريطة في الرأس مفيد، فهو يَجعلك تَستثمر وقتك في الأنماط التي تَدفع النموذج فعلاً.

خيط الفصل السابع

ما يَبقى من هذا الفصل: النموذج نفسه، في سياقاتٍ مختلفة، يَصير نماذجَ مختلفة. تَعَلُّم قيادة السياق هو أرخصُ سبيل، وأكثرُها فعاليّةً عادةً، للحصول ممّا تَنشده من النموذج. قبل الانتقال إلى نموذجٍ أغلى، جرِّب أن تَلمس السياق.

غداً — الفصل الثامن: حين لا يَكفي نموذجٌ واحد — الأدوات والوكلاء. نَخرج من "نموذجٌ واحد، إجابةٌ واحدة" إلى الأرض التي تَنبت فيها للنموذج ذراعان. استدعاء الدالّة، الوكلاء، و§8.6 الجديد عن أنماط الوكلاء.