Introdução ao LLM
Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.
Capítulo 8 — Gerenciamento de KV Cache de Próxima Geração
PagedAttention traz a paginação do sistema operacional para o motor de inferência; H2O e InfiniGen adicionam evicção; o prefix caching serve milhões de requisições agênticas em uma dúzia de GPUs.
2026-04-30
Capítulo 7 — Estratégias Avançadas de Batching
Do batching estático que colapsa no problema do que termina primeiro ao escalonamento em nível de iteração do batching contínuo — e a dívida que ele cria para o KV cache.
2026-04-29
Capítulo 2 — O Desafio do KV Cache
A fórmula que governa o tamanho do KV cache, os trade-offs entre MHA, GQA e MQA, e por que a alocação ingênua desperdiça a maior parte do orçamento de VRAM.
2026-04-24
Capítulo 1 — A Mecânica da Geração de Tokens
Por que o loop autoregressivo é sequencial por matemática, como prefill e decoding estressam o chip de formas opostas e por que um único usuário deixa uma H100 99,7 por cento ociosa.
2026-04-23
Capítulo 8 — Otimizando Performance, Serving e Custo
Post final do passeio pelo LLM Primer V. Cache semântico, roteamento dinâmico e as otimizações dentro do servidor de inferência que fecham o volume — do que nunca é chamado ao que quase não custa.
2026-04-21Capítulo 13 — Frameworks e Integração com Nuvem
Décima terceira postagem do passeio pelo LLM Primer IV. Strands com Bedrock, o padrão de camada de estado AWS, o Microsoft Agent Framework, LangChain, Semantic Kernel — e os três formatos de integração de produção em que times chegam independentemente.
2026-04-11Capítulo 12 — Endurecimento do Protocolo e Defesas
Décima segunda postagem do passeio pelo LLM Primer IV. Os quatro clusters de defesa — atestação criptográfica, disciplina de escopo OAuth com sessões limitadas, sandbox em runtime, e portões humano-no-loop — compõem numa postura que não depende do modelo se comportar corretamente sob condições adversárias.
2026-04-10Capítulo 8 — Layouts Arquiteturais de Deployment
Oitava postagem do passeio pelo LLM Primer IV. Os três layouts de deployment que emergiram no ecossistema MCP — agente reutilizável, pureza estrita, híbrido — e as quatro restrições determinantes que decidem qual encaixa em qual projeto.
2026-04-06Capítulo 5 — Protocolos de Transporte e Descoberta
Quinta postagem do passeio pelo LLM Primer IV. Os três transportes que o MCP suporta, a camada de descoberta .well-known com Server Cards, e as preocupações operacionais sem glamour — CORS, validação de origem, caching — que decidem se um servidor é cidadão de rede cooperativo ou um passivo.
2026-04-03Capítulo 11 — Atualizações Contínuas e Otimização do Pipeline
Décimo primeiro e último post do passeio pelo LLM Primer III. CDC e indexação incremental mantêm o corpus fresco, semantic caching e tiering de modelo seguram a latência, e um loop de feedback de quatro estágios fecha o gap entre o que a produção conta para o time e o que o time de fato muda — mais a ponte para o Volume IV sobre Model Context Protocol.
2026-03-28Capítulo 10 — Principais Frameworks de Avaliação
Décimo post do passeio pelo LLM Primer III. Guia de campo dos frameworks que transformam a Tríade de Avaliação em algo que um time consegue rodar — RAGAS, TruLens, DeepEval de um lado, Braintrust, LangSmith, Phoenix, Galileo, Opik do outro, e o Gap de Avaliação que nenhum deles ainda fechou.
2026-03-27Capítulo 3 — Frameworks Avançados de Chunking
Terceiro post do passeio pelo LLM Primer III. O espectro de chunking de tamanho fixo a consciente de estrutura, o mito do overlap, o penhasco de contexto que destrói a recuperação em silêncio, e as técnicas de recuperação contextual e late chunking que reformularam a fronteira.
2026-03-20