Introduction aux LLM
Cette page fournit un guide facile à comprendre sur les LLM (grands modèles de langage) des bases aux applications pour les passionnés d'IA.
Chapitre 12 — Service désagrégé et Kubernetes
Douzième billet du LLM Primer VI. Séparer préremplissage et décodage sur des pools GPU distincts, transporter le cache KV, et exprimer la topologie par LeaderWorkerSet, Grove et KAI.
2026-05-04
Chapitre 11 — La couche plateforme et orchestration
Onzième billet du LLM Primer VI. Ray Serve, KServe, BentoML, Triton — le choix de plateforme comme adéquation avec la culture d'exploitation plutôt que comparatif de fonctionnalités.
2026-05-03
Chapitre 10 — La couche moteur LLM
Dixième billet du LLM Primer VI. La frontière entre moteur et plateforme, et les cinq moteurs — vLLM, TensorRT-LLM, SGLang, TGI, Ollama — qui dominent cette couche en 2026.
2026-05-02
Chapitre 9 — Décodage spéculatif
Neuvième billet du LLM Primer VI. La faille mathématique du goulot séquentiel de l'autoregression, les brouillons EAGLE/Medusa/MTP, et l'arithmétique du moment où la spéculation paie.
2026-05-01
Chapitre 8 — Gestion nouvelle génération du cache KV
Huitième billet du LLM Primer VI. PagedAttention comme mémoire virtuelle pour le cache KV, les évictions H2O/InfiniGen, et le cache de préfixe comme levier de coût le plus rentable.
2026-04-30
Chapitre 7 — Stratégies de batching avancées
Septième billet du LLM Primer VI. Pourquoi le batching n'est pas une optimisation mais le mouvement porteur du décodage — et pourquoi le batch est un verbe et non un nom.
2026-04-29
Chapitre 6 — Élagage et distillation des connaissances
Sixième billet du LLM Primer VI. La sparsité 2:4 accélérée par Hopper, la distillation qui transfère la distribution du professeur, et l'ordre dans lequel les trois compressions se composent.
2026-04-28
Chapitre 5 — Démystifier la quantification
Cinquième billet du LLM Primer VI. Pourquoi un modèle 70B survit au 4 bits alors qu'un modèle 1B non — et comment choisir la recette entre AWQ, GPTQ, SmoothQuant et GGUF.
2026-04-27
Chapitre 2 — Le défi du cache KV
Deuxième billet du LLM Primer VI. La formule mémoire du cache KV, les arbitrages MHA/GQA/MQA, et pourquoi l'allocation naïve détruit la concurrence avant que le calcul ne devienne le goulot.
2026-04-24
Chapitre 1 — La mécanique de la génération de tokens
Premier billet de la tournée du LLM Primer VI. La boucle autoregressive, le contraste préremplissage/décodage, et pourquoi un utilisateur seul laisse un H100 inactif à 99,7 pour cent.
2026-04-23
LLM Primer VI — Introduction de la série & index
Introduction à la tournée chapitre par chapitre du LLM Primer VI : Mettre à l'échelle les systèmes IA. L'inférence LLM traitée comme une discipline d'ingénierie où bande passante mémoire, ordonnancement et lignes de facture se rencontrent.
2026-04-22
Chapitre 8 — Optimiser performance, service et coût
Dernier billet de la tournée du LLM Primer V. Le chapitre qui traite l'économie LLM de production comme une discipline en couches — l'appel le moins cher est celui qui n'a jamais lieu, et chaque couche en dessous est celle qui rend l'appel suivant bon marché.
2026-04-21Chapitre 9 — Performance, mise à l'échelle et coûts : les vrais compromis d'ingénierie
Chapitre 9 de la série LLM Primer I. Les réalités opérationnelles de faire tourner les LLM à l'échelle — taille du modèle vs capacité, le compromis latence-throughput, économie des coûts, quantification et déploiement edge. Pourquoi les modèles de frontière sont souvent le mauvais choix même quand vous pouvez vous les permettre.
2026-02-26
La Série LLM Primer — Un guide de terrain de l'IA générative, construit volume après volume
La série LLM Primer — un guide de terrain en sept volumes désormais complet sur l'IA générative par Sho Shimoda. Des fondamentaux à la sécurité. Comprend Physical AI comme volume compagnon. Les 7 volumes disponibles sur Amazon.
2026-02-15