Introducción a LLM
Esta página proporciona una guía sencilla sobre los modelos de lenguaje de gran escala (LLM), desde lo básico hasta las aplicaciones para los entusiastas de la IA.
Capítulo 15 — APIs serverless frente a infraestructura dedicada
Decimoquinta entrega del recorrido de LLM Primer VI. Cuándo autohostear ahorra dinero y cuándo la ingeniería de plataforma se lo come todo. La fórmula del punto de equilibrio, la función escalón que la decide, y por qué la postura realista es híbrida con un router en la frontera.
2026-05-07
Capítulo 14 — Economía del token y precios de API
Decimocuarta entrega del recorrido de LLM Primer VI. Por qué el token es la unidad de precio, por qué la salida cuesta 4–8× más que la entrada, y cómo la acumulación de contexto y los tokens invisibles de razonamiento acaban en la factura.
2026-05-06
Capítulo 13 — Autoscaling y mitigación de cold start
Decimotercera entrega del recorrido de LLM Primer VI. Por qué el HPA por defecto produce outages bajo tráfico LLM, cómo KEDA escala sobre profundidad de cola, TTFT y ocupación de KV, y cómo CRIU comprime un cold start de 90 segundos hasta 3–6 segundos.
2026-05-05
Capítulo 12 — Serving desagregado y Kubernetes
Duodécima entrega del recorrido de LLM Primer VI. Separar prefill y decode en flotas GPU distintas, y las primitivas de Kubernetes que mantienen los pods del lado correcto de la interconexión. LeaderWorkerSet, Grove PodCliqueSet y el scheduler consciente de topología.
2026-05-04
Capítulo 11 — La capa de plataforma y orquestación
Undécima entrega del recorrido de LLM Primer VI. La elección de plataforma no es sobre features sino sobre qué modelo operativo encaja con la cultura de operaciones del equipo. Ray Serve como Python-first, KServe como Kubernetes-first, BentoML como artefacto y Triton como batcher heterogéneo.
2026-05-03
Capítulo 10 — La capa del motor LLM
Décima entrega del recorrido de LLM Primer VI. La frontera entre motor y plataforma, y los cinco motores que dominan la capa en 2026. vLLM como default Python-nativo, TensorRT-LLM como pipeline de build, SGLang como RadixAttention agéntico, TGI como Hugging Face y Ollama como edge.
2026-05-02
Capítulo 9 — Decodificación especulativa
Novena entrega del recorrido de LLM Primer VI. Cómo la decodificación especulativa paga por una suposición barata y una verificación un poco más ancha, y si acierta lo bastante a menudo el modelo objetivo produce varios tokens al coste de reloj de uno. EAGLE, Medusa, la aritmética del speedup.
2026-05-01
Capítulo 7 — Estrategias de batching avanzadas
Séptima entrega del recorrido de LLM Primer VI. Por qué el batching no es una optimización sino el movimiento que hace tratable el decoding limitado por ancho de banda, y por qué el batch es un verbo, no un sustantivo. Estático, continuo y chunked prefill.
2026-04-29
Capítulo 6 — Pruning y destilación de conocimiento
Sexta entrega del recorrido de LLM Primer VI. Cómo el pruning y la destilación atacan el número de pesos y transfieren la distribución del profesor a un estudiante más pequeño. La sparsity 2:4 que Hopper acelera nativa y las tres compresiones apiladas en su orden correcto.
2026-04-28
Capítulo 4 — Silicio especializado y ASICs de IA
Cuarta entrega del recorrido de LLM Primer VI. La elección entre GPU y ASIC es una pregunta sobre la forma de la carga. Cuándo ganan Groq, Inferentia, TPU y Gaudi, y por qué las GPUs siguen ganando en la frontera y en la variedad de modelos.
2026-04-26
Capítulo 3 — GPUs de centro de datos para IA generativa
Tercera entrega del recorrido de LLM Primer VI. Por qué se compra una GPU de serving por su ancho de banda de HBM y su capacidad de VRAM, no por el número de FLOP/s de la portada de la hoja de especificaciones. H100, H200, B200, L40S y MI300X leídos como perfiles de ancho de banda y capacidad.
2026-04-25
Capítulo 2 — El desafío de la caché KV
Segunda entrega del recorrido de LLM Primer VI. La estructura de datos que se come la VRAM de todo sistema de serving antes de que los pesos tengan oportunidad, la fórmula que gobierna su tamaño, las variantes arquitectónicas que la reducen y el problema de fragmentación que arruina la asignación ingenua.
2026-04-24
LLM Primer VI — Introducción a la serie e índice
Índice y prólogo del recorrido capítulo por capítulo de LLM Primer VI. Por qué el mismo H100 que sirve un modelo de 70B queda inactivo el 99,7 % del tiempo, y cómo los dieciséis capítulos convierten esa ociosidad en throughput sin romper la latencia que percibe el usuario.
2026-04-22
Capítulo 8 — Optimizar rendimiento, serving y coste
Octava y última entrega del recorrido de LLM Primer V. La llamada más barata es la que nunca se hace: caché semántica y enrutado dinámico arriba, y dentro del servidor de inferencia PagedAttention, continuous batching, decodificación especulativa y prefix caching que ponen el suelo de coste.
2026-04-21Capítulo 4 — Elegir la base de datos vectorial correcta
Cuarta entrega del recorrido de LLM Primer III. La división arquitectónica entre bases de datos vectoriales dedicadas y extensiones tipo Postgres, los líderes gestionados (Pinecone, Vertex), el campo open-source (Qdrant, Milvus, Weaviate), las opciones embebidas, y los tres ejes operativos — residencia, operación, coste — que deciden la elección real.
2026-03-21Capítulo 9 — Rendimiento, escalado y costos: los compromisos reales de ingeniería
Capítulo 9 de la serie LLM Primer I. Las realidades operativas de ejecutar LLM a escala — tamaño del modelo vs capacidad, el compromiso latencia–throughput, economía de costos, cuantización y despliegue en el borde. Por qué los modelos de frontera son a menudo la elección equivocada incluso cuando puedes permitírtelos.
2026-02-26Capítulo 6 — Ajuste fino y adaptación: del modelo crudo al asistente útil
Capítulo 6 de la serie LLM Primer I. La pila completa de adaptación — desde el direccionamiento barato basado en prompts, pasando por el ajuste fino eficiente en parámetros, hasta la alineación completa con RLHF y sus sucesores modernos como DPO. Por qué el post-entrenamiento es ahora donde las APIs de modelos cerrados realmente se diferencian.
2026-02-23Capítulo 5 — Entrenando modelos grandes: qué se necesita realmente para un modelo de frontera
Capítulo 5 de la serie LLM Primer I. Cómo se entrenan realmente los LLM de frontera — la tubería de datos, la función de pérdida, los meses de tiempo de GPU y por qué el "entrenamiento" es ahora un problema de ingeniería a escala industrial más que un problema de investigación. Desmitifica para qué están pagando esas corridas de cientos de millones de dólares.
2026-02-22
Capítulo 3 — Redes neuronales para el lenguaje: de las RNN al self-attention
Capítulo 3 de la serie LLM Primer I. Por qué las redes feedforward no podían manejar el lenguaje, cómo las RNN chocaron contra un muro y qué cambió la atención. Una progresión conceptual limpia a través de las tres formas de red neuronal que definieron el PLN moderno — sin la ansiedad matemática.
2026-02-20