Introdução ao LLM
Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.
Capítulo 15 — APIs Serverless vs Infraestrutura Dedicada
A matemática do ponto de equilíbrio entre API por token e GPU dedicada, o item de engenharia de plataforma que decide a conta e por que a postura híbrida é a resposta realista.
2026-05-07
Capítulo 13 — Autoscaling e Mitigação de Cold Start
Por que o HPA padrão do Kubernetes derruba deployments de LLM sob picos de tráfego, e como KEDA, Knative e CRIU se combinam para consertar o problema.
2026-05-05
Capítulo 12 — Serving Desagregado e Kubernetes
Como separar prefill e decodificação em pools de GPU distintos, transportar a KV cache pelo fabric e expressar a topologia em Kubernetes.
2026-05-04
Capítulo 11 — A Camada de Plataforma e Orquestração
Ray Serve, KServe, BentoML e Triton — como as quatro plataformas de orquestração de LLM se dividem por afinidade com a cultura de ops do time.
2026-05-03
Capítulo 8 — Gerenciamento de KV Cache de Próxima Geração
PagedAttention traz a paginação do sistema operacional para o motor de inferência; H2O e InfiniGen adicionam evicção; o prefix caching serve milhões de requisições agênticas em uma dúzia de GPUs.
2026-04-30
Capítulo 7 — Estratégias Avançadas de Batching
Do batching estático que colapsa no problema do que termina primeiro ao escalonamento em nível de iteração do batching contínuo — e a dívida que ele cria para o KV cache.
2026-04-29
Capítulo 4 — Silício de IA Especializado e ASICs
Groq, Inferentia2, TPU e Gaudi 3 — onde ASICs vencem GPUs em latência ou custo por token, e onde os retos de kernel e variedade de modelos ainda pertencem à NVIDIA.
2026-04-26
Capítulo 3 — GPUs de Data Center para IA Generativa
Como ler o catálogo de GPUs de data center — H100, H200, B200, L40S, MI300X — pela lente de banda de HBM e capacidade de VRAM, não pelos FLOPs de manchete.
2026-04-25
Capítulo 2 — O Desafio do KV Cache
A fórmula que governa o tamanho do KV cache, os trade-offs entre MHA, GQA e MQA, e por que a alocação ingênua desperdiça a maior parte do orçamento de VRAM.
2026-04-24
Capítulo 1 — A Mecânica da Geração de Tokens
Por que o loop autoregressivo é sequencial por matemática, como prefill e decoding estressam o chip de formas opostas e por que um único usuário deixa uma H100 99,7 por cento ociosa.
2026-04-23
LLM Primer VI — Introdução da Série e Índice
Introdução e índice do passeio capítulo a capítulo por LLM Primer VI: Escalando Sistemas de IA — dezesseis capítulos sobre inferência LLM tratada como disciplina de engenharia.
2026-04-22
Capítulo 8 — Otimizando Performance, Serving e Custo
Post final do passeio pelo LLM Primer V. Cache semântico, roteamento dinâmico e as otimizações dentro do servidor de inferência que fecham o volume — do que nunca é chamado ao que quase não custa.
2026-04-21
Capítulo 7 — Segurança e Guardrails de LLM
Sétimo post do passeio pelo LLM Primer V. Injeção direta versus indireta, a matriz de mitigação em quatro camadas e o princípio de que autoridade tem de casar com origem de confiança.
2026-04-20
Capítulo 1 — A Disciplina da Engenharia de IA
Primeiro post do passeio pelo LLM Primer V. Por que sua demo funciona e seu sistema de produção não é um problema de engenharia, não de modelo — e os cinco pilares que o fecham.
2026-04-14
LLM Primer V — Introdução da Série e Índice
Primeiro post do passeio pelo LLM Primer V. Por que o padrão demo-para-produção quebra, o wrapper determinístico ao redor do núcleo probabilístico, e as oito superfícies onde vive a disciplina da engenharia de IA.
2026-04-13
A Série LLM Primer — Um guia de campo para a IA generativa, escrito um volume por vez
A série LLM Primer — um guia de campo de sete volumes completo sobre IA generativa por Sho Shimoda. Dos fundamentos à segurança. Inclui Physical AI como volume companheiro. Todos os 7 volumes disponíveis na Amazon.
2026-02-15