الفصل السادس — الأمان والمواءمة والمعنى الحقيقي لكَون النموذج "مفيداً"

المقالة السادسة من الجولة الفصلية في LLM Primer I: How Generative AI Works. هذا أكثر فصلٍ راجعتُه لطبعة 2026 — مع §6.6 جديدٌ كلِّياً عن أحدث اتّجاهات أبحاث المواءمة.

"يَبدو فصيحاً" و"يَكون مفيداً" أمران مختلفان

يَفتتح الفصل السادس بتمييزٍ يَبدو صغيراً، وأثرُه كبير. أن يُنتج النموذج جُملاً مَنسوجةً جيّداً، وأن يَكون جوابُه مفيداً للمستخدِم فعلاً — ليسا الشيء ذاته.

الفصاحة تأتي من التدريب المسبق. الفائدة تأتي من المواءمة. والمسافة بين الاثنَين أكبرُ ممّا يَفترض كثيرون. ثمَّة إجاباتٌ فصيحة هي في الجوهر خطِرة؛ وثمَّة إجاباتٌ هادئة هي في الجوهر مفيدة جدّاً. بدون هذا التمييز، يَبدأ أيُّ تقييمٍ للنموذج بِالتذبذُب من الخطوة الأولى.

ما الذي تَضبطه المواءمة بالضبط؟

كلمةُ "مواءمة" واسعةٌ، يَفهمها كلٌّ بطريقته. حاولتُ في الكتاب أن أَرسم لها حدوداً واضحة. في سطرٍ واحد: المواءمة هي إبقاء النموذج على المسار الذي يَنويه البشر، وجَعْل ذلك المسار مُستقرّاً — مع مرور الزمن، ومع المواقف الجديدة، وأمام مُدخَلاتٍ مائلةٍ قليلاً.

في الممارسة، يَعني ذلك تَعَهُّد عدّة أبعادٍ معاً: أن يَكون مفيداً حقّاً، وأن يَكون صادقاً (بما في ذلك أن يَقول "لا أعرف")، وأن يَكون غير ضار (يَتجنّب المحتوى الكاذب أو الضارّ)، وأن يُعالج المقايضات الدقيقة حين تَتعارض هذه الأبعاد.

§6.6 — القسم الجديد في طبعة 2026

في طبعة 2026 فَتحتُ §6.6 الذي يَتناول الذكاء الاصطناعي الدستوري والنماذج القائمة على المناظرة وأحدث اتّجاهات أبحاث المواءمة.

الذكاء الاصطناعي الدستوري يَستبدل جزئياً المقيِّمَ البشري بمجموعةٍ من المبادئ — "دستور" — يَتفقَّد النموذج إجاباتِه على ضوئه ويُعدِّلها استناداً إلى ذلك التفقُّد. ليست مجرَّد طريقةٍ لِتخفيض كلفة RLHF. هي على مستوًى أعمَق: مع تَضخُّم النماذج، تَصير المواءمةُ المعتمِدةُ على التقييم البشري حصراً صعبةَ الاستمرار. والدستوريّةُ ردٌّ على هذا التحدّي.

المواءمة بالمناظرة تَأتي من زاويةٍ أخرى. تَطلب من نَموذجَين أن يُقدِّما إجاباتٍ متنافسةً على السؤال نفسه، وتَكشف الصراعَ بينهما إلى العَلَن، وتَستخدم ذلك الصراع إشارةً — لِحَكَمٍ بشري، أو لِنموذجٍ آخر. الحَدْس: التفاصيل الدقيقة التي يُفلِتها مُقيِّمٌ منفرد كثيراً ما تَطفو حين تَتصادم إجابتان وجهاً لوجه.

"الأمان" أوسعُ ممّا يَبدو

حاولتُ في الكتاب ألّا أَحصُر الأمان في "تَصفية المحتوى الضارّ" فحسب. هناك أكثر. ما الذي يَجعل تفاعلاً ما يَستحقُّ الثقةَ طويلَ الأمد؟ كيف يَقول النموذج "لا أعرف" حين يَكون فعلاً لا يَعرف؟ كيف نَتجنَّب التَّبَعِية المفرِطة — حيث يَكفّ المستخدِم عن تَمرين حُكمه الخاصّ لأنّه فوَّض كلَّ شيءٍ للنموذج؟ كلُّ هذا جزءٌ من جدول الأعمال نفسه.

حين يَدخل هذا الطيف ميدان الرؤية، يَكتسب اختيارُ النموذج وتشغيلُه عمقاً. تَبدأ تَنظر إلى الثقة باعتبارها صفةَ "النظام بأَسره"، لا صفةَ "هذا النموذج وحده".

خيط الفصل السادس

ما يَبقى من هذا الفصل في جملةٍ واحدة: المواءمة هي الخطوة الأخيرة التي تَجعل النموذج "صالحاً للاستخدام حقّاً". التدريب المسبق أَعطى القدرة، والضبط الدقيق رَسم خطوط الشخصية الكبرى، والمواءمة تَنحت تلك الشخصية حتّى المكان الذي تستطيع فيه أن تَستند عليها يوميّاً، طويلاً، دون أن تَندم.

غداً — الفصل السابع: هندسة الموجِّهات بوصفها حرفة. أحدُ الفصول الأكثر عملية. الأنماط الأربعة التي تَحمل الثقل الفعلي — system prompt، few-shot، سلسلة التفكير، الدور — ولماذا تَنجح، بقراءةٍ من آلية الرمز التالي.