Introducción a LLM
Esta página proporciona una guía sencilla sobre los modelos de lenguaje de gran escala (LLM), desde lo básico hasta las aplicaciones para los entusiastas de la IA.
Capítulo 13 — Autoscaling y mitigación de cold start
Decimotercera entrega del recorrido de LLM Primer VI. Por qué el HPA por defecto produce outages bajo tráfico LLM, cómo KEDA escala sobre profundidad de cola, TTFT y ocupación de KV, y cómo CRIU comprime un cold start de 90 segundos hasta 3–6 segundos.
2026-05-05
Capítulo 12 — Serving desagregado y Kubernetes
Duodécima entrega del recorrido de LLM Primer VI. Separar prefill y decode en flotas GPU distintas, y las primitivas de Kubernetes que mantienen los pods del lado correcto de la interconexión. LeaderWorkerSet, Grove PodCliqueSet y el scheduler consciente de topología.
2026-05-04
Capítulo 11 — La capa de plataforma y orquestación
Undécima entrega del recorrido de LLM Primer VI. La elección de plataforma no es sobre features sino sobre qué modelo operativo encaja con la cultura de operaciones del equipo. Ray Serve como Python-first, KServe como Kubernetes-first, BentoML como artefacto y Triton como batcher heterogéneo.
2026-05-03
Capítulo 10 — La capa del motor LLM
Décima entrega del recorrido de LLM Primer VI. La frontera entre motor y plataforma, y los cinco motores que dominan la capa en 2026. vLLM como default Python-nativo, TensorRT-LLM como pipeline de build, SGLang como RadixAttention agéntico, TGI como Hugging Face y Ollama como edge.
2026-05-02
Capítulo 9 — Decodificación especulativa
Novena entrega del recorrido de LLM Primer VI. Cómo la decodificación especulativa paga por una suposición barata y una verificación un poco más ancha, y si acierta lo bastante a menudo el modelo objetivo produce varios tokens al coste de reloj de uno. EAGLE, Medusa, la aritmética del speedup.
2026-05-01
Capítulo 8 — Gestión de caché KV de nueva generación
Octava entrega del recorrido de LLM Primer VI. Traer la paginación del sistema operativo dentro del motor de inferencia, y convertir la caché KV de una losa de bytes reservados en un recurso compartido, evictable y prefix-cacheable. PagedAttention, H2O, InfiniGen y RadixAttention.
2026-04-30
Capítulo 7 — Estrategias de batching avanzadas
Séptima entrega del recorrido de LLM Primer VI. Por qué el batching no es una optimización sino el movimiento que hace tratable el decoding limitado por ancho de banda, y por qué el batch es un verbo, no un sustantivo. Estático, continuo y chunked prefill.
2026-04-29
Capítulo 6 — Pruning y destilación de conocimiento
Sexta entrega del recorrido de LLM Primer VI. Cómo el pruning y la destilación atacan el número de pesos y transfieren la distribución del profesor a un estudiante más pequeño. La sparsity 2:4 que Hopper acelera nativa y las tres compresiones apiladas en su orden correcto.
2026-04-28
Capítulo 5 — Desmitificando la cuantización
Quinta entrega del recorrido de LLM Primer VI. Por qué un modelo de 70B sobrevive la cuantización a 4 bits mientras que uno de 1B no, qué hacen realmente AWQ, GPTQ, SmoothQuant y GGUF, y dónde deja de ser segura y empieza a degradar en silencio.
2026-04-27
Capítulo 2 — El desafío de la caché KV
Segunda entrega del recorrido de LLM Primer VI. La estructura de datos que se come la VRAM de todo sistema de serving antes de que los pesos tengan oportunidad, la fórmula que gobierna su tamaño, las variantes arquitectónicas que la reducen y el problema de fragmentación que arruina la asignación ingenua.
2026-04-24
Capítulo 1 — La mecánica de la generación de tokens
Primera entrega del recorrido de LLM Primer VI. Por qué casi toda pregunta difícil sobre el serving de LLMs desciende de un único hecho — el bucle que produce cada token está limitado por el ancho de banda de memoria, y el cómputo caro por el que pagaste está inactivo el 99,7 % del tiempo.
2026-04-23
LLM Primer VI — Introducción a la serie e índice
Índice y prólogo del recorrido capítulo por capítulo de LLM Primer VI. Por qué el mismo H100 que sirve un modelo de 70B queda inactivo el 99,7 % del tiempo, y cómo los dieciséis capítulos convierten esa ociosidad en throughput sin romper la latencia que percibe el usuario.
2026-04-22
Capítulo 8 — Optimizar rendimiento, serving y coste
Octava y última entrega del recorrido de LLM Primer V. La llamada más barata es la que nunca se hace: caché semántica y enrutado dinámico arriba, y dentro del servidor de inferencia PagedAttention, continuous batching, decodificación especulativa y prefix caching que ponen el suelo de coste.
2026-04-21
Capítulo 5 — Evaluar aplicaciones LLM
Quinta entrega del recorrido de LLM Primer V. Por qué assertEqual está muerto para salidas LLM, cómo se reconstruye el testing alrededor de jueces anclados, el RAG Triad y los tests de trayectoria para agentes, y el bucle donde las trazas de producción alimentan la evaluación que da paso a la siguiente release.
2026-04-18
Capítulo 4 — Agentes de IA y llamada a herramientas
Cuarta entrega del recorrido de LLM Primer V. El bucle ReAct como base y sus tres aumentaciones, los esquemas de herramientas como contrato del que depende toda la fiabilidad, y las tres capas de memoria — a corto plazo, a largo plazo y semántica — que un agente necesita de verdad.
2026-04-17Capítulo 11 — Actualizaciones continuas y optimización de la pipeline
Undécima y última entrega del recorrido de LLM Primer III. CDC e indexación incremental mantienen el corpus fresco, la caché semántica y la estratificación de modelos mantienen baja la latencia, y un bucle de feedback de cuatro etapas cierra la distancia entre lo que la producción le dice al equipo y lo que el equipo realmente cambia — más un puente al Volumen IV sobre Model Context Protocol.
2026-03-28Capítulo 12 — Construyendo tu propio sistema LLM: de los conjuntos de datos a la producción
Capítulo 12 de la serie LLM Primer I. El capítulo final. Lo que realmente se requiere para construir un sistema impulsado por LLM de extremo a extremo — licenciamiento de conjuntos de datos, pipelines de entrenamiento, marcos de evaluación, la pila de aplicaciones integrada y los patrones de casos de estudio que distinguen a los despliegues exitosos de los pilotos fallidos.
2026-03-01Capítulo 11 — Investigación de vanguardia: MoE, modelos de razonamiento y el nuevo eje de escalado
Capítulo 11 de la serie LLM Primer I. Las fronteras de investigación que ahora son realidad de producción — mixture-of-experts, memoria con recuperación, tokenización multimodal nativa, aprendizaje continuo y el paradigma de escalado en tiempo de inferencia que produjo los modelos de razonamiento de hoy. La mayor adición de contenido de la edición de 2026.
2026-02-28Capítulo 10 — Seguridad, ética y confianza: más allá del marketing
Capítulo 10 de la serie LLM Primer I. La imagen honesta de la seguridad de los LLM — por qué las alucinaciones ocurren mecánicamente, dónde realmente vive el sesgo, cómo funcionan las barreras en capas y por qué la gobernanza es la capa institucional que los controles técnicos no pueden reemplazar. Para profesionales que necesitan desplegar de forma segura.
2026-02-27Capítulo 9 — Rendimiento, escalado y costos: los compromisos reales de ingeniería
Capítulo 9 de la serie LLM Primer I. Las realidades operativas de ejecutar LLM a escala — tamaño del modelo vs capacidad, el compromiso latencia–throughput, economía de costos, cuantización y despliegue en el borde. Por qué los modelos de frontera son a menudo la elección equivocada incluso cuando puedes permitírtelos.
2026-02-26Capítulo 8 — Usando LLM en aplicaciones: chatbots, código, extracción y agentes
Capítulo 8 de la serie LLM Primer I. Los patrones de aplicación que realmente llegan a producción — chatbots, resumen, asistentes de código, extracción estructurada y el auge de los sistemas agénticos donde el modelo conduce un bucle de uso de herramientas. Más los benchmarks que todo ingeniero debería reconocer por su nombre.
2026-02-25
Un recorrido capítulo por capítulo de LLM Primer I — Introducción a la serie e índice
Introducción e índice del recorrido en doce partes capítulo por capítulo de LLM Primer I: Cómo funciona la IA generativa. Una publicación por día, del 18 de febrero al 1 de marzo de 2026. Léelos en orden o elige el capítulo que más te importe. Los doce están listados y enlazados aquí.
2026-02-17
La Serie LLM Primer — Una guía de campo de la IA generativa, construida volumen a volumen
La serie LLM Primer — una guía de campo de siete volúmenes ya completa sobre IA generativa por Sho Shimoda. Desde fundamentos hasta seguridad. Incluye Physical AI como volumen hermano. Los 7 volúmenes disponibles en Amazon.
2026-02-15