Introducción a LLM
Esta página proporciona una guía sencilla sobre los modelos de lenguaje de gran escala (LLM), desde lo básico hasta las aplicaciones para los entusiastas de la IA.
Capítulo 9 — Decodificación especulativa
Novena entrega del recorrido de LLM Primer VI. Cómo la decodificación especulativa paga por una suposición barata y una verificación un poco más ancha, y si acierta lo bastante a menudo el modelo objetivo produce varios tokens al coste de reloj de uno. EAGLE, Medusa, la aritmética del speedup.
2026-05-01
Capítulo 6 — Pruning y destilación de conocimiento
Sexta entrega del recorrido de LLM Primer VI. Cómo el pruning y la destilación atacan el número de pesos y transfieren la distribución del profesor a un estudiante más pequeño. La sparsity 2:4 que Hopper acelera nativa y las tres compresiones apiladas en su orden correcto.
2026-04-28
Capítulo 5 — Desmitificando la cuantización
Quinta entrega del recorrido de LLM Primer VI. Por qué un modelo de 70B sobrevive la cuantización a 4 bits mientras que uno de 1B no, qué hacen realmente AWQ, GPTQ, SmoothQuant y GGUF, y dónde deja de ser segura y empieza a degradar en silencio.
2026-04-27
LLM Primer VI — Introducción a la serie e índice
Índice y prólogo del recorrido capítulo por capítulo de LLM Primer VI. Por qué el mismo H100 que sirve un modelo de 70B queda inactivo el 99,7 % del tiempo, y cómo los dieciséis capítulos convierten esa ociosidad en throughput sin romper la latencia que percibe el usuario.
2026-04-22Capítulo 9 — Rendimiento, escalado y costos: los compromisos reales de ingeniería
Capítulo 9 de la serie LLM Primer I. Las realidades operativas de ejecutar LLM a escala — tamaño del modelo vs capacidad, el compromiso latencia–throughput, economía de costos, cuantización y despliegue en el borde. Por qué los modelos de frontera son a menudo la elección equivocada incluso cuando puedes permitírtelos.
2026-02-26
La Serie LLM Primer — Una guía de campo de la IA generativa, construida volumen a volumen
La serie LLM Primer — una guía de campo de siete volúmenes ya completa sobre IA generativa por Sho Shimoda. Desde fundamentos hasta seguridad. Incluye Physical AI como volumen hermano. Los 7 volúmenes disponibles en Amazon.
2026-02-15