مقدمة إلى LLM

الفصل 16 — استراتيجيات خفض التكلفة في الإنتاج

المقالة الختامية من جولة LLM Primer VI. التوجيه الذكي للنموذج أعلى رافعة، وضغط السياق وواجهات API الدُّفعية والتخزين المؤقت الدلالي تشتري كلٌّ شريحة كبيرة، والحركات تتراكم مضاعفياً.

1447-11-21

الفصل 8 — تحسين الأداء والتخديم والتكلفة

المقالة الأخيرة من جولة LLM Primer V. اقتصاديات LLM الإنتاجية بوصفها انضباطاً مُتعدد الطبقات — الاستدعاء الأرخص هو الذي لم يُجرَ (تخزين مؤقت دلالي)، والتالي هو المُجرى ضد أصغر نموذجٍ يفي بالغرض (مُوجِّه)، والأرضية تُوضع داخل خادم الاستدلال بـ KV cache والدُّفَعات المستمرة وفكّ الترميز التخميني.

1447-11-04