Introdução ao LLM
Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.
Capítulo 16 — Estratégias de Corte de Custo em Produção
Roteamento de modelos, compactação de contexto, batch APIs e cache semântico — os movimentos ortogonais que se compõem em uma redução de 80 por cento sem mudar o que o usuário vê.
2026-05-08
Capítulo 14 — Economia de Tokens e Precificação de APIs
Por que o token é a unidade de cobrança, por que o output custa de quatro a oito vezes o input, e como tokens de reasoning invisíveis acabam na fatura.
2026-05-06
Capítulo 13 — Autoscaling e Mitigação de Cold Start
Por que o HPA padrão do Kubernetes derruba deployments de LLM sob picos de tráfego, e como KEDA, Knative e CRIU se combinam para consertar o problema.
2026-05-05
Capítulo 12 — Serving Desagregado e Kubernetes
Como separar prefill e decodificação em pools de GPU distintos, transportar a KV cache pelo fabric e expressar a topologia em Kubernetes.
2026-05-04
Capítulo 11 — A Camada de Plataforma e Orquestração
Ray Serve, KServe, BentoML e Triton — como as quatro plataformas de orquestração de LLM se dividem por afinidade com a cultura de ops do time.
2026-05-03
Capítulo 10 — A Camada de Engine de LLM
A fronteira entre engine e plataforma, e os cinco engines que dominam essa camada em 2026 — vLLM, TensorRT-LLM, SGLang, TGI e Ollama.
2026-05-02
Capítulo 9 — Decodificação Especulativa
Como a decodificação especulativa contorna o gargalo sequencial da autorregressão, quais mecanismos de rascunho funcionam e a aritmética que decide quando o ganho compensa.
2026-05-01
Capítulo 3 — GPUs de Data Center para IA Generativa
Como ler o catálogo de GPUs de data center — H100, H200, B200, L40S, MI300X — pela lente de banda de HBM e capacidade de VRAM, não pelos FLOPs de manchete.
2026-04-25
LLM Primer VI — Introdução da Série e Índice
Introdução e índice do passeio capítulo a capítulo por LLM Primer VI: Escalando Sistemas de IA — dezesseis capítulos sobre inferência LLM tratada como disciplina de engenharia.
2026-04-22
Capítulo 8 — Otimizando Performance, Serving e Custo
Post final do passeio pelo LLM Primer V. Cache semântico, roteamento dinâmico e as otimizações dentro do servidor de inferência que fecham o volume — do que nunca é chamado ao que quase não custa.
2026-04-21
Capítulo 7 — Segurança e Guardrails de LLM
Sétimo post do passeio pelo LLM Primer V. Injeção direta versus indireta, a matriz de mitigação em quatro camadas e o princípio de que autoridade tem de casar com origem de confiança.
2026-04-20
A Série LLM Primer — Um guia de campo para a IA generativa, escrito um volume por vez
A série LLM Primer — um guia de campo de sete volumes completo sobre IA generativa por Sho Shimoda. Dos fundamentos à segurança. Inclui Physical AI como volume companheiro. Todos os 7 volumes disponíveis na Amazon.
2026-02-15