Introduction aux LLM
Cette page fournit un guide facile à comprendre sur les LLM (grands modèles de langage) des bases aux applications pour les passionnés d'IA.
Chapitre 13 — Autoscaling et atténuation du démarrage à froid
Treizième billet du LLM Primer VI. Pourquoi le HPA par défaut produit des pannes sous trafic LLM, et comment KEDA, Knative et CRIU composent des démarrages à froid en secondes.
2026-05-05
Chapitre 12 — Service désagrégé et Kubernetes
Douzième billet du LLM Primer VI. Séparer préremplissage et décodage sur des pools GPU distincts, transporter le cache KV, et exprimer la topologie par LeaderWorkerSet, Grove et KAI.
2026-05-04
Chapitre 11 — La couche plateforme et orchestration
Onzième billet du LLM Primer VI. Ray Serve, KServe, BentoML, Triton — le choix de plateforme comme adéquation avec la culture d'exploitation plutôt que comparatif de fonctionnalités.
2026-05-03
LLM Primer VI — Introduction de la série & index
Introduction à la tournée chapitre par chapitre du LLM Primer VI : Mettre à l'échelle les systèmes IA. L'inférence LLM traitée comme une discipline d'ingénierie où bande passante mémoire, ordonnancement et lignes de facture se rencontrent.
2026-04-22