Introduction aux LLM

Cette page fournit un guide facile à comprendre sur les LLM (grands modèles de langage) des bases aux applications pour les passionnés d'IA.


Total de 11 articles disponibles. | Actuellement à la page 1 de 1.

Chapitre 14 — Économie du token et tarification des API

Quatorzième billet du LLM Primer VI. Pourquoi la sortie coûte 4–8× l'entrée, comment l'accumulation de contexte grossit la facture, et pourquoi les tokens de raisonnement invisibles surprennent.

2026-05-06

Chapitre 13 — Autoscaling et atténuation du démarrage à froid

Treizième billet du LLM Primer VI. Pourquoi le HPA par défaut produit des pannes sous trafic LLM, et comment KEDA, Knative et CRIU composent des démarrages à froid en secondes.

2026-05-05

Chapitre 12 — Service désagrégé et Kubernetes

Douzième billet du LLM Primer VI. Séparer préremplissage et décodage sur des pools GPU distincts, transporter le cache KV, et exprimer la topologie par LeaderWorkerSet, Grove et KAI.

2026-05-04

Chapitre 11 — La couche plateforme et orchestration

Onzième billet du LLM Primer VI. Ray Serve, KServe, BentoML, Triton — le choix de plateforme comme adéquation avec la culture d'exploitation plutôt que comparatif de fonctionnalités.

2026-05-03

Chapitre 10 — La couche moteur LLM

Dixième billet du LLM Primer VI. La frontière entre moteur et plateforme, et les cinq moteurs — vLLM, TensorRT-LLM, SGLang, TGI, Ollama — qui dominent cette couche en 2026.

2026-05-02

Chapitre 8 — Gestion nouvelle génération du cache KV

Huitième billet du LLM Primer VI. PagedAttention comme mémoire virtuelle pour le cache KV, les évictions H2O/InfiniGen, et le cache de préfixe comme levier de coût le plus rentable.

2026-04-30

Chapitre 7 — Stratégies de batching avancées

Septième billet du LLM Primer VI. Pourquoi le batching n'est pas une optimisation mais le mouvement porteur du décodage — et pourquoi le batch est un verbe et non un nom.

2026-04-29

Chapitre 3 — GPU de centre de données pour l'IA générative

Troisième billet du LLM Primer VI. H100, H200, B200, L40S, MI300X — lus comme des profils de bande passante et de VRAM plutôt que par le chiffre de FLOP/s sur la fiche.

2026-04-25

Chapitre 2 — Le défi du cache KV

Deuxième billet du LLM Primer VI. La formule mémoire du cache KV, les arbitrages MHA/GQA/MQA, et pourquoi l'allocation naïve détruit la concurrence avant que le calcul ne devienne le goulot.

2026-04-24

Chapitre 1 — La mécanique de la génération de tokens

Premier billet de la tournée du LLM Primer VI. La boucle autoregressive, le contraste préremplissage/décodage, et pourquoi un utilisateur seul laisse un H100 inactif à 99,7 pour cent.

2026-04-23

LLM Primer VI — Introduction de la série & index

Introduction à la tournée chapitre par chapitre du LLM Primer VI : Mettre à l'échelle les systèmes IA. L'inférence LLM traitée comme une discipline d'ingénierie où bande passante mémoire, ordonnancement et lignes de facture se rencontrent.

2026-04-22