Introdução ao LLM
Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.
Capítulo 12 — Controle de Acesso e Identidade
Quem pode invocar quais capacidades de uma aplicação integrada a LLM, com o adicional de que o modelo, ao agir por ferramentas, também é principal cuja permissão precisa ser escopada.
2026-05-21
LLM Primer VII — Introdução da Série e Índice
Introdução da série e índice do LLM Primer VII — o volume final do arco de engenharia, onde o LLM Primer chega à disciplina que decide se todo o resto sobrevive a adversários, reguladores e falhas cotidianas.
2026-05-09
Capítulo 15 — APIs Serverless vs Infraestrutura Dedicada
A matemática do ponto de equilíbrio entre API por token e GPU dedicada, o item de engenharia de plataforma que decide a conta e por que a postura híbrida é a resposta realista.
2026-05-07
Capítulo 14 — Economia de Tokens e Precificação de APIs
Por que o token é a unidade de cobrança, por que o output custa de quatro a oito vezes o input, e como tokens de reasoning invisíveis acabam na fatura.
2026-05-06
Capítulo 13 — Autoscaling e Mitigação de Cold Start
Por que o HPA padrão do Kubernetes derruba deployments de LLM sob picos de tráfego, e como KEDA, Knative e CRIU se combinam para consertar o problema.
2026-05-05
Capítulo 11 — A Camada de Plataforma e Orquestração
Ray Serve, KServe, BentoML e Triton — como as quatro plataformas de orquestração de LLM se dividem por afinidade com a cultura de ops do time.
2026-05-03
Capítulo 10 — A Camada de Engine de LLM
A fronteira entre engine e plataforma, e os cinco engines que dominam essa camada em 2026 — vLLM, TensorRT-LLM, SGLang, TGI e Ollama.
2026-05-02
Capítulo 4 — Silício de IA Especializado e ASICs
Groq, Inferentia2, TPU e Gaudi 3 — onde ASICs vencem GPUs em latência ou custo por token, e onde os retos de kernel e variedade de modelos ainda pertencem à NVIDIA.
2026-04-26
LLM Primer VI — Introdução da Série e Índice
Introdução e índice do passeio capítulo a capítulo por LLM Primer VI: Escalando Sistemas de IA — dezesseis capítulos sobre inferência LLM tratada como disciplina de engenharia.
2026-04-22
Capítulo 5 — Avaliando Aplicações LLM
Quinto post do passeio pelo LLM Primer V. Rubricas ancoradas de LLM-como-juiz, a Tríade RAG e testes de trajetória de agente — a disciplina que substitui assertEqual em sistemas LLM.
2026-04-18Capítulo 11 — Superfícies de Ataque e Vulnerabilidades de Protocolo
Décima primeira postagem do passeio pelo LLM Primer IV. Os ataques clássicos adaptados ao MCP — Confused Deputy, Token Passthrough, Session Hijacking — os defeitos no nível de protocolo em torno de escalada de capacidade e sampling não-autenticado, e a propagação implícita de confiança que torna envenenamento de contexto problema estrutural em vez de higiene.
2026-04-09Capítulo 3 — Primitivas de Servidor: Expondo Contexto e Capacidades
Terceira postagem do passeio pelo LLM Primer IV. Os três substantivos que um servidor MCP pode oferecer — Resources (estado de leitura), Prompts (andaime reutilizável), Tools (ações de escrita) — seus schemas, seus ciclos de vida, seus modelos de erro, e a disciplina de escolher a primitiva certa.
2026-04-01Capítulo 10 — Principais Frameworks de Avaliação
Décimo post do passeio pelo LLM Primer III. Guia de campo dos frameworks que transformam a Tríade de Avaliação em algo que um time consegue rodar — RAGAS, TruLens, DeepEval de um lado, Braintrust, LangSmith, Phoenix, Galileo, Opik do outro, e o Gap de Avaliação que nenhum deles ainda fechou.
2026-03-27Capítulo 4 — Escolhendo o Banco de Dados Vetorial Certo
Quarto post do passeio pelo LLM Primer III. A separação arquitetural entre bancos vetoriais dedicados e extensões estilo Postgres, as líderes gerenciadas (Pinecone, Vertex), o campo open-source (Qdrant, Milvus, Weaviate), as opções embedded, e os três eixos operacionais — residência, ops, custo — que decidem a escolha real.
2026-03-21
A Série LLM Primer — Um guia de campo para a IA generativa, escrito um volume por vez
A série LLM Primer — um guia de campo de sete volumes completo sobre IA generativa por Sho Shimoda. Dos fundamentos à segurança. Inclui Physical AI como volume companheiro. Todos os 7 volumes disponíveis na Amazon.
2026-02-15