الفصل 16 — استراتيجيات خفض التكلفة في الإنتاج

المقالة الختامية من الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. كتالوج الحركات المتعامدة التي تتراكم إلى ثلث أو نصف فاتورة الشهر الماضي.

لماذا يوجد هذا الفصل

أخبر الفصلان السابقان الفريقَ أين يذهب المال وأعطياه إطاراً لقرار أي جانب من خط API-مقابل-مخصَّص يجلس عليه. هذا الفصل كتالوج الحركات التي يستطيع الفريق فعلها حالما تُسوَّى تلك القرارات. الحركات مستقلَّة إلى حد بعيد عن الموقف — تُوفِّر المال على API، تُوفِّر المال على العتاد المخصَّص، تُوفِّر المال في ترتيب هجين — وهي تتراكم. الفرق التي تعتمدها بالتسلسل تجد بانتظام أن فاتورة استدلالها، بعد ستة أشهر من جهد تكلفة مُركَّز، هي ثلث إلى نصف ما كانت عليه. لا شيء من الحركات غريب؛ كلها تتطلَّب هندسة متعمَّدة؛ وكلفة بنائها صغيرة مقارنةً بما تُوفِّره.

في سطر واحد: التوجيه، والضغط، والدُّفعة، والتخزين المؤقت، ومراجعة المُوجِّه، وميزانية المُخرَج — أربع إلى ست حركات مستقلَّة تتضاعف إلى تقليل 80 بالمئة دون تغيير ما يراه المستخدم.

16.1 التوجيه الذكي للنموذج هو أكبر رافعة مفردة

حركة المرور الإنتاجية ليست بنفس الصعوبة موحَّدةً. نصف الطلبات أو أكثر بسيطة بحيث تكفي لها درجة الميزانية أرخص بمرتبة من الطليعة؛ نسبة أصغر تحتاج الطليعة فعلاً. الفريق الذي يُرسِل كل شيء إلى القمة يدفع زائداً للبسيطة بـ 10–20×. العمارة الصحيحة مُوجِّه يُصنِّف كل طلب ويُرسِل إلى أرخص درجة تستطيع معالجته. تدرُّج التكلفة وقت الكتابة نحو 30:1 على المُدخَل و20:1 على المُخرَج بين الطليعة (15–30$/م مُخرَج) والميزانية (0.10–1$/م). خيارات المُوجِّه تتراوح من استدلال على شكل الطلب (طول، تنسيق، علامات استخدام أدوات) إلى مُصنِّف صغير من درجة الميزانية يُخرِج تسمية درجة إلى مُوجِّه مُتعلَّم مُدرَّب على بيانات أي-نموذج-عَمِل-فعلاً التاريخية. قيود التصميم: رخيص وسريع (تحت 100 ms، عُشر سنت)، قابل للرصد (كل قرار مُسجَّل بميزاته ونتيجته)، آمن افتراضياً (حين لا يقين، وجِّه إلى أعلى — كلفة التوجيه الزائد دولار إضافي، كلفة التوجيه الناقص انحدار جودة مرئي).

16.2 الضغط، وواجهات API الدُّفعية، والتخزين المؤقت الدلالي كلٌّ يشتري شريحة كبيرة

ضغط السياق يُهاجم نمو المُدخَل التربيعي الذي سمَّاه الفصل 14. أبسط شكل نافذة دوَّارة: احتفظ بآخر K دور حرفياً، استبدل كل ما قبلها بملخَّص درجة ميزانية؛ استدعاء الملخَّص يُكلِّف كسر سنت ويُقلِّص المُدخَل في كل دور لاحق من آلاف رموز تاريخ حرفية إلى مئات رموز ملخَّص. ضاغط أكثر تعقيداً يحفظ أنواعاً محدَّدة حرفياً (كود، مُخرَجات أدوات، بيانات قدَّمها المستخدم) ويُلخِّص الباقي. واجهات API الدُّفعية غير المتزامنة بنصف السعر تُعالج أي عبء عمل بلا ميزانية زمن استجابة متزامنة — تلخيص ليلي، إعادة تصنيف، توليد مسبَق لاختبار A/B، تحديث تضمين — الفئة أكبر ممَّا تتعرَّف الفرق عليه في البداية، وهندسة تحريك عبء عمل إلى الدُّفعة تافهة. التخزين المؤقت الدلالي يُجيب قبل استدعاء النموذج: ضمِّن كل طلب، ابحث في فهرس متجهي لأزواج طلب-استجابة سابقة، أعِد الاستجابة المُخزَّنة إذا صفَت الشبه عن عتبة. مستخدمان يسألان «ما سياسة الإرجاع» و«كيف أُرجع سلعة» يُصيبان نفس المدخل. على حركة مرور شكل FAQ، معدلات إصابة تخزين مؤقت 30–50 بالمئة روتينية، وأرخص رمز هو الذي لم يُولَّد أبداً.

16.3 الحركات تتراكم مضاعفياً لا جمعياً

خذ وكيلاً نمت فاتورته إلى 4,000$/شهر عند 1,000 استعلام/يوم. توجيه: 60 بالمئة ميزانية، 30 بالمئة متوسط، 10 بالمئة طليعة ← الكلفة الممزوجة تسقط إلى 28 بالمئة من سعر الطليعة، الفاتورة تنخفض إلى 1,100$. ضغط: انتفاخ المُدخَل مقطوع نصفاً، الفاتورة تنخفض إلى 770$. حرِّك 20 بالمئة إلى الدُّفعة: 720$. تخزين مؤقت دلالي بمعدل إصابة 25 بالمئة: 540$. من 4,000$ إلى 540$ — تقليل 86 بالمئة — بلا تغيير مرئي للمستخدم. حركتان إضافيتان تكسبان أجرهما دون قسمَيهما الخاصَّين. مراجعة مُوجِّهات — قراءة كل مُوجِّه بعينين طازجتَين، حذف أي شيء لا يستطيع تبرير رموزه — تجد عادةً 10–20 بالمئة من الإنفاق لقطعه بلا تغيير سلوك. سقف max_tokens صريح يمنع استجابة من الوصول إلى 2,000 رمز عندما لا يحتاج التطبيق إلا 300 — دفع زائد بنحو 7× على ذلك الطلب. النموذج العقلي هو نموذج المجلد الرابع: كل طلب له كلفة وحدة، ومهمَّة الهندسة توجيه كل طلب عبر الطبقات الرخيصة أولاً والوصول إلى الطبقة الغالية فقط حين الضرورة.

يجدر بنا تذكُّره: التكلفة مقياس هندسي. الفرق التي قطعت فواتيرها بمرتبة من الحجم أخذت التكلفة بجدية بنفس الطريقة التي أخذت بها زمن الاستجابة بجدية — حلَّلته، وضبطت أدواته، وبنت طبقات التوجيه والتخزين المؤقت والضغط، وقاست. البقية انتظرت أن يُلاحظ القسم المالي.

ما يُغلقه الفصل 16

افتتح المجلد باختناق الانحدار الذاتي — الحقيقة غير القابلة للتخفيض بأن توليد LLM تسلسلي وأن العتاد الذي يجيد الحسابات المتوازية جداً يقضي معظم وقته منتظراً الذاكرة. كل فصل بعد ذلك استجابة لهذه الحقيقة المركزية عند مستوى مختلف من المكدس. بنت فصول العتاد البنية الفيزيائية. قلَّصت فصول مستوى النموذج النموذجَ. استخرجت فصول مستوى الأنظمة أقصى عمل مفيد من كل دورة ساعة. وضعت فصول المحرك والتنسيق كل ذلك في الإنتاج. وصفت فصول الاقتصاديات كيف يدفع الفريق الذي يُشغِّل النظام ثمنه. كل طبقة استجابة للتي قبلها، وانضباط تشغيل LLM على نطاق واسع هو تكاملها كلها من قِبل نفس الأشخاص، أو على الأقل من قِبل أشخاص يستطيعون التحدُّث ببعضهم البعض بنفس المُفردات.

ينتهي الكتاب هنا. تستمر السلسلة في المجلد السابع — أمان الذكاء الاصطناعي، الذي يمتد بانضباط الهندسة الإنتاجية لهذا المجلد إلى نمذجة التهديدات، والحواجز الوقائية، وصندقة الكود المُولَّد من النموذج، والتخفيف من حقن المُوجِّه، وتصفية المُخرَجات، والتنظيم الذي يُشكِّل الآن كيفية نشر كل ما سبق. البنية التحتية المبنيَّة عبر هذا المجلد — أسطول الاستدلال، وطبقة التوجيه، والصناديق، وبيئات تنفيذ الوكلاء — هي بالضبط البنية التحتية التي تعيش عليها اهتمامات أمان المجلد السابع. التوسع والأمان جانبان من نفس المشكلة: أحدهما هندسة النمو، والآخر هندسة الصمود للهجمات التي يدعوها ذلك النمو.