مقدمة إلى LLM

الفصل 8 — تحسين الأداء والتخديم والتكلفة

المقالة الأخيرة من جولة LLM Primer V. اقتصاديات LLM الإنتاجية بوصفها انضباطاً مُتعدد الطبقات — الاستدعاء الأرخص هو الذي لم يُجرَ (تخزين مؤقت دلالي)، والتالي هو المُجرى ضد أصغر نموذجٍ يفي بالغرض (مُوجِّه)، والأرضية تُوضع داخل خادم الاستدلال بـ KV cache والدُّفَعات المستمرة وفكّ الترميز التخميني.

1447-11-04

الفصل 6 — قابلية الرصد والتتبع للذكاء الاصطناعي

المقالة السادسة من جولة LLM Primer V. اعتبار استعلام المستخدم شجرةً سببيةً لا سِجل طلبات، وما يجب تتبعه لتصير الشجرة مقروءة — اصطلاحات OpenTelemetry GenAI، وقياسات LLM، وخط الأنابيب الذي يُحوّل الآثار الإنتاجية إلى مجموعة تقييم الإصدار التالي.

1447-11-02