الفصل الخامس — لا تزال ثمَّة عيوبٌ صغيرة

المقالة الخامسة من الجولة الفصلية في LLM Primer I: How Generative AI Works. كتابٌ عن LLM لا يَتناول نقاط ضعفه بصدقٍ هو نصفُ كتاب. الفصل الخامس هو النصف الآخر.

تَتغيَّر نبرة هذا الفصل قليلاً

حتّى هنا، كانت السلسلة تَدور حول كيف يَعمل النموذج. في هذا الفصل، يَنتقل التركيز: أين يَتعثَّر. ليس لِتقليل شأن LLM — على العكس، لِنُبيِّن أنّ كلَّ تعثُّرٍ تعود جذوره إلى الآلية نفسها التي رَأيناها في الفصول السابقة.

سببُ إدراج هذا الفصل واحد: لِأُساعدك على تكوين إحساسٍ بمدى ما يمكنك أن تَثق به في النموذج، ومن أين يَجب أن تَستعين بأدواتٍ أخرى.

الهلوسة — ليست "خطأ في المعرفة" بل "هكذا يُنتَج الكلام"

أكثرُ ما يَجري الحديثُ عنه هو الهلوسة. أن يُصرِّح النموذج بهدوءٍ بأشياءَ لا أصلَ لها. لماذا هي عنيدةٌ إلى هذا الحدّ؟ الجواب في السطر الذي قَبِلناه تعريفاً للنموذج: هو يُنتج "الرمز التالي الأكثر احتمالاً"، لا "الحقيقة".

حين يُسأَل النموذج عن شيءٍ لا يَعرفه فعلاً، لا تَنطلق داخله إشارةٌ تَقول "لا أعرف". ببساطةٍ يَطفو المرشَّحون الأكثر معقوليّةً في ذلك السياق. إن انطبقَت إجاباتهم مع الواقع، سمَّيناها "صحيحة"؛ وإن لم تَنطبق، سمَّيناها "هلوسة". أمّا في النموذج فالأمران شيءٌ واحد. التمييز قد فَرضناه نحن من الخارج، ليس النموذج هو الذي يَفعله.

الزمن — النموذج لا يَعرف ما تاريخ اليوم

العيب الثاني هو فقدان الإحساس بالزمن. النموذج لقطةٌ من اللحظة التي اكتمل فيها تدريبُه، ولا يَعرف شيئاً عمّا حَدث بعد ذلك. والأسوأ — أنّه لا يَعرف أنّه لا يَعرف. لذلك يُنتج بِنبرة الثقة نفسها الإجابةَ الأكثر معقوليّةً وَفقاً لتوزيع بيانات التدريب، حتّى حين يَكون السؤال عن "اليوم".

لذلك تتعثَّر أسئلةٌ مثل "ما تاريخ اليوم؟"، و"ماذا حَدث مؤخّراً؟"، و"من هو الرئيس التنفيذي لتلك الشركة الآن؟". يَعرض الكتاب كيف يُساند RAG (التوليد المعزَّز بالاسترجاع) واستخدامُ الأدوات هذه النقطةَ في الفصول التالية.

الحساب والتتبُّع الدقيق — ضعفٌ غيرُ مُتوقَّع

هذا يُفاجئ بعض الشيء: مهامٌّ تَبدو بسيطة — الضرب الطويل، تَدبير المنازل، الاستدلال متعدِّد الخطوات بشروط — يَنزلق فيها النموذج بطريقةٍ تَكاد تكون كاريكاتورية. لا يُجيد LLM التعامل مع "التمثيلات العددية الدقيقة" في جوهره. كلُّ شيءٍ يَنتهي في الحلقة ذاتها للتنبُّؤ بالرمز التالي، وحلقة الحساب الدقيق لا تَنسجم مع هذا المنطق كثيراً.

من هنا تأتي الحركة الطبيعية: تَركيبُ أدواتٍ بجانب النموذج — حاسبة، مُنفِّذ كود، بحث — بدلاً من إجبار النموذج على حلِّ كلِّ شيءٍ بنفسه. هذا يَقود سَلِساً إلى فصلَي الوكلاء ونماذج الاستدلال لاحقاً.

الاتّساق — "النموذج نفسه، السؤال نفسه، إجاباتٌ مختلفة"

ثَمَّة عيبٌ آخر: عدم ثبات المخرَجات. النموذج نفسه عند الموجِّه نفسه لا يَلتزم دائماً بإجابةٍ متطابقة — وهذا في سياقات التقييم والتشغيل غالباً ما يَكون متغيِّراً مزعجاً.

من أين يأتي هذا؟ من أَخذ العيّنات الذي رَأيناه في الفصل الثاني. كلُّ رمزٍ يُسحَب من توزيع، وعمليّةُ السحب نفسها احتمالية. يُمكنك ضبط temperature على الصفر فيَرتفع الاتّساق، لكن بثمن (المخرَجات تَنبسط، تَصير رتيبةً، تكتسي بعض الجمود).

معرفة العيوب تُتيح ثقةً أكبر

لم أَكتب الفصل الخامس لِأَنشُر الخوف. بل على العكس. كي تَستخدم LLM جيّداً في عملٍ حقيقي، لا بدَّ من تمييزٍ واضح: ماذا نُسلِّم للنموذج، وماذا يجب أن تَدعمه أدواتٌ من خارجه. هذا الفصل هو أساسُ ذلك التمييز.

حين تَقبل أنّ الآلية نفسها تُنتج القوّة والضعف معاً، تَصير قادراً على رَسم خطّةٍ للتعايش مع نقاط الضعف. ومن هناك يَنتقل الحوار بسلاسةٍ إلى الفصل التالي — المواءمة (alignment)، أي إبقاء النموذج على المسار الذي نُريده له.

غداً — الفصل السادس: الأمان والمواءمة والمعنى الحقيقي لكَون النموذج "مفيداً". أحدُ القرارات الكبرى في الكتاب يَدخل المسرح. "أن يَبدو فصيحاً" و"أن يَكون مفيداً" أمرَان مختلفان، والمواءمة هي الجسر بينهما. في طبعة 2026، أَضفتُ في §6.6 قسماً جديداً عن الذكاء الاصطناعي الدستوري ونماذج المناظرة وأبحاث المواءمة الحديثة.