Introducción a LLM
Esta página proporciona una guía sencilla sobre los modelos de lenguaje de gran escala (LLM), desde lo básico hasta las aplicaciones para los entusiastas de la IA.
Capítulo 15 — APIs serverless frente a infraestructura dedicada
Decimoquinta entrega del recorrido de LLM Primer VI. Cuándo autohostear ahorra dinero y cuándo la ingeniería de plataforma se lo come todo. La fórmula del punto de equilibrio, la función escalón que la decide, y por qué la postura realista es híbrida con un router en la frontera.
2026-05-07
Capítulo 13 — Autoscaling y mitigación de cold start
Decimotercera entrega del recorrido de LLM Primer VI. Por qué el HPA por defecto produce outages bajo tráfico LLM, cómo KEDA escala sobre profundidad de cola, TTFT y ocupación de KV, y cómo CRIU comprime un cold start de 90 segundos hasta 3–6 segundos.
2026-05-05
Capítulo 12 — Serving desagregado y Kubernetes
Duodécima entrega del recorrido de LLM Primer VI. Separar prefill y decode en flotas GPU distintas, y las primitivas de Kubernetes que mantienen los pods del lado correcto de la interconexión. LeaderWorkerSet, Grove PodCliqueSet y el scheduler consciente de topología.
2026-05-04
Capítulo 11 — La capa de plataforma y orquestación
Undécima entrega del recorrido de LLM Primer VI. La elección de plataforma no es sobre features sino sobre qué modelo operativo encaja con la cultura de operaciones del equipo. Ray Serve como Python-first, KServe como Kubernetes-first, BentoML como artefacto y Triton como batcher heterogéneo.
2026-05-03
Capítulo 8 — Gestión de caché KV de nueva generación
Octava entrega del recorrido de LLM Primer VI. Traer la paginación del sistema operativo dentro del motor de inferencia, y convertir la caché KV de una losa de bytes reservados en un recurso compartido, evictable y prefix-cacheable. PagedAttention, H2O, InfiniGen y RadixAttention.
2026-04-30
Capítulo 7 — Estrategias de batching avanzadas
Séptima entrega del recorrido de LLM Primer VI. Por qué el batching no es una optimización sino el movimiento que hace tratable el decoding limitado por ancho de banda, y por qué el batch es un verbo, no un sustantivo. Estático, continuo y chunked prefill.
2026-04-29
Capítulo 4 — Silicio especializado y ASICs de IA
Cuarta entrega del recorrido de LLM Primer VI. La elección entre GPU y ASIC es una pregunta sobre la forma de la carga. Cuándo ganan Groq, Inferentia, TPU y Gaudi, y por qué las GPUs siguen ganando en la frontera y en la variedad de modelos.
2026-04-26
Capítulo 3 — GPUs de centro de datos para IA generativa
Tercera entrega del recorrido de LLM Primer VI. Por qué se compra una GPU de serving por su ancho de banda de HBM y su capacidad de VRAM, no por el número de FLOP/s de la portada de la hoja de especificaciones. H100, H200, B200, L40S y MI300X leídos como perfiles de ancho de banda y capacidad.
2026-04-25
Capítulo 2 — El desafío de la caché KV
Segunda entrega del recorrido de LLM Primer VI. La estructura de datos que se come la VRAM de todo sistema de serving antes de que los pesos tengan oportunidad, la fórmula que gobierna su tamaño, las variantes arquitectónicas que la reducen y el problema de fragmentación que arruina la asignación ingenua.
2026-04-24
Capítulo 1 — La mecánica de la generación de tokens
Primera entrega del recorrido de LLM Primer VI. Por qué casi toda pregunta difícil sobre el serving de LLMs desciende de un único hecho — el bucle que produce cada token está limitado por el ancho de banda de memoria, y el cómputo caro por el que pagaste está inactivo el 99,7 % del tiempo.
2026-04-23
LLM Primer VI — Introducción a la serie e índice
Índice y prólogo del recorrido capítulo por capítulo de LLM Primer VI. Por qué el mismo H100 que sirve un modelo de 70B queda inactivo el 99,7 % del tiempo, y cómo los dieciséis capítulos convierten esa ociosidad en throughput sin romper la latencia que percibe el usuario.
2026-04-22
Capítulo 8 — Optimizar rendimiento, serving y coste
Octava y última entrega del recorrido de LLM Primer V. La llamada más barata es la que nunca se hace: caché semántica y enrutado dinámico arriba, y dentro del servidor de inferencia PagedAttention, continuous batching, decodificación especulativa y prefix caching que ponen el suelo de coste.
2026-04-21
Capítulo 7 — Seguridad LLM y guardrails
Séptima entrega del recorrido de LLM Primer V. El nuevo eje de seguridad que introducen las aplicaciones LLM, la taxonomía inyección directa versus indirecta con la noción de origen de confianza, la matriz de mitigación en cuatro capas y las topologías soberanas air-gapped para industrias reguladas.
2026-04-20
Capítulo 1 — La disciplina de la ingeniería de IA
Primera entrega del recorrido de LLM Primer V. La brecha de fiabilidad entre demo y producción, el envoltorio determinista alrededor del núcleo probabilístico, y los cinco pilares — fiabilidad, calidad, rendimiento, coste, evolución — que sostienen un sistema LLM que un negocio puede operar.
2026-04-14
LLM Primer V — Presentación de la serie e índice
Presentación del recorrido capítulo por capítulo de LLM Primer V. Por qué la ingeniería de IA es una disciplina en sí misma — no un truco de prompt — y el índice de los ocho capítulos, publicado un artículo al día del 14 al 21 de abril.
2026-04-13
La Serie LLM Primer — Una guía de campo de la IA generativa, construida volumen a volumen
La serie LLM Primer — una guía de campo de siete volúmenes ya completa sobre IA generativa por Sho Shimoda. Desde fundamentos hasta seguridad. Incluye Physical AI como volumen hermano. Los 7 volúmenes disponibles en Amazon.
2026-02-15