Introducción a LLM
Esta página proporciona una guía sencilla sobre los modelos de lenguaje de gran escala (LLM), desde lo básico hasta las aplicaciones para los entusiastas de la IA.
Capítulo 12 — Serving desagregado y Kubernetes
Duodécima entrega del recorrido de LLM Primer VI. Separar prefill y decode en flotas GPU distintas, y las primitivas de Kubernetes que mantienen los pods del lado correcto de la interconexión. LeaderWorkerSet, Grove PodCliqueSet y el scheduler consciente de topología.
2026-05-04
Capítulo 11 — La capa de plataforma y orquestación
Undécima entrega del recorrido de LLM Primer VI. La elección de plataforma no es sobre features sino sobre qué modelo operativo encaja con la cultura de operaciones del equipo. Ray Serve como Python-first, KServe como Kubernetes-first, BentoML como artefacto y Triton como batcher heterogéneo.
2026-05-03
Capítulo 7 — Estrategias de batching avanzadas
Séptima entrega del recorrido de LLM Primer VI. Por qué el batching no es una optimización sino el movimiento que hace tratable el decoding limitado por ancho de banda, y por qué el batch es un verbo, no un sustantivo. Estático, continuo y chunked prefill.
2026-04-29