مقدمة إلى LLM

الفصل 13 — التوسع التلقائي والتخفيف من البدء البارد

المقالة الثالثة عشرة من جولة LLM Primer VI. لماذا يفشل HPA على LLM بأربع طرق، وKEDA يُوسِّع على عمق الطابور وTTFT وامتلاء KV، وCRIU يضغط بدءاً بارداً إلى 3–6 ثوانٍ.

1447-11-18

الفصل 12 — التخديم المُفصَّل وKubernetes

المقالة الثانية عشرة من جولة LLM Primer VI. تقسيم التعبئة الأمامية وفك التشفير على تجمُّعَي GPU، ونقل ذاكرة KV عبر NVLink/InfiniBand، وLeaderWorkerSet وGrove وKAI Scheduler.

1447-11-17

الفصل 11 — طبقة المنصة والتنسيق

المقالة الحادية عشرة من جولة LLM Primer VI. Ray Serve أولاً Python، KServe أولاً Kubernetes، BentoML يحزم، Triton يُجمِّع نماذج مختلفة — الاختيار عن ملاءمة ثقافة التشغيل.

1447-11-16