Introdução ao LLM
Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.
Capítulo 9 — Integridade de Modelo e Riscos da Cadeia de Suprimentos
Um artefato de modelo é um binário distribuído por terceiros — com as preocupações de desserialização, backdoor e proveniência que a distribuição de binários sempre carregou.
2026-05-18
Capítulo 8 — Ataques Adversariais a Modelos
De Goodfellow 2014 a TextFooler e sufixos universais até roubo de modelo em APIs de produção — a tradição de pesquisa por trás do prompt injection.
2026-05-17
Capítulo 7 — Alucinações e Confiabilidade
Confiabilidade como propriedade de segurança — porque uma saída confidentemente errada é problema de segurança sempre que consequências dependem de correção.
2026-05-16
LLM Primer VII — Introdução da Série e Índice
Introdução da série e índice do LLM Primer VII — o volume final do arco de engenharia, onde o LLM Primer chega à disciplina que decide se todo o resto sobrevive a adversários, reguladores e falhas cotidianas.
2026-05-09
Capítulo 16 — Estratégias de Corte de Custo em Produção
Roteamento de modelos, compactação de contexto, batch APIs e cache semântico — os movimentos ortogonais que se compõem em uma redução de 80 por cento sem mudar o que o usuário vê.
2026-05-08
Capítulo 15 — APIs Serverless vs Infraestrutura Dedicada
A matemática do ponto de equilíbrio entre API por token e GPU dedicada, o item de engenharia de plataforma que decide a conta e por que a postura híbrida é a resposta realista.
2026-05-07
Capítulo 14 — Economia de Tokens e Precificação de APIs
Por que o token é a unidade de cobrança, por que o output custa de quatro a oito vezes o input, e como tokens de reasoning invisíveis acabam na fatura.
2026-05-06
Capítulo 13 — Autoscaling e Mitigação de Cold Start
Por que o HPA padrão do Kubernetes derruba deployments de LLM sob picos de tráfego, e como KEDA, Knative e CRIU se combinam para consertar o problema.
2026-05-05
Capítulo 12 — Serving Desagregado e Kubernetes
Como separar prefill e decodificação em pools de GPU distintos, transportar a KV cache pelo fabric e expressar a topologia em Kubernetes.
2026-05-04
Capítulo 10 — A Camada de Engine de LLM
A fronteira entre engine e plataforma, e os cinco engines que dominam essa camada em 2026 — vLLM, TensorRT-LLM, SGLang, TGI e Ollama.
2026-05-02
Capítulo 9 — Decodificação Especulativa
Como a decodificação especulativa contorna o gargalo sequencial da autorregressão, quais mecanismos de rascunho funcionam e a aritmética que decide quando o ganho compensa.
2026-05-01
Capítulo 7 — Estratégias Avançadas de Batching
Do batching estático que colapsa no problema do que termina primeiro ao escalonamento em nível de iteração do batching contínuo — e a dívida que ele cria para o KV cache.
2026-04-29
Capítulo 3 — GPUs de Data Center para IA Generativa
Como ler o catálogo de GPUs de data center — H100, H200, B200, L40S, MI300X — pela lente de banda de HBM e capacidade de VRAM, não pelos FLOPs de manchete.
2026-04-25
Capítulo 2 — O Desafio do KV Cache
A fórmula que governa o tamanho do KV cache, os trade-offs entre MHA, GQA e MQA, e por que a alocação ingênua desperdiça a maior parte do orçamento de VRAM.
2026-04-24
Capítulo 1 — A Mecânica da Geração de Tokens
Por que o loop autoregressivo é sequencial por matemática, como prefill e decoding estressam o chip de formas opostas e por que um único usuário deixa uma H100 99,7 por cento ociosa.
2026-04-23
LLM Primer VI — Introdução da Série e Índice
Introdução e índice do passeio capítulo a capítulo por LLM Primer VI: Escalando Sistemas de IA — dezesseis capítulos sobre inferência LLM tratada como disciplina de engenharia.
2026-04-22Capítulo 14 — Benchmarking, Testes e Desempenho
Décima quarta e última postagem do passeio pelo LLM Primer IV. O MCP-Universe Benchmark em servidores reais, os dois modos de falha sistêmicos que ele expôs, o gap de dez vezes de throughput entre sessão-por-requisição e pools de sessão compartilhados, e a ponte para o Volume V.
2026-04-12
A Série LLM Primer — Um guia de campo para a IA generativa, escrito um volume por vez
A série LLM Primer — um guia de campo de sete volumes completo sobre IA generativa por Sho Shimoda. Dos fundamentos à segurança. Inclui Physical AI como volume companheiro. Todos os 7 volumes disponíveis na Amazon.
2026-02-15
Introdução aos Grandes Modelos de Linguagem (LLMs) - Guia Completo para Engenheiros
Explore os fundamentos dos Grandes Modelos de Linguagem (LLMs), incluindo o treinamento, as aplicações e os desafios. Um guia completo para engenheiros que querem entender o impacto dos LLMs no aprendizado de máquina e no processamento de linguagem natural.
2024-09-01