Introdução ao LLM

Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.


Total de 44 artigos disponíveis. | Atualmente na página 1 de 1.

Capítulo 9 — Integridade de Modelo e Riscos da Cadeia de Suprimentos

Um artefato de modelo é um binário distribuído por terceiros — com as preocupações de desserialização, backdoor e proveniência que a distribuição de binários sempre carregou.

2026-05-18

Capítulo 8 — Ataques Adversariais a Modelos

De Goodfellow 2014 a TextFooler e sufixos universais até roubo de modelo em APIs de produção — a tradição de pesquisa por trás do prompt injection.

2026-05-17

Capítulo 7 — Alucinações e Confiabilidade

Confiabilidade como propriedade de segurança — porque uma saída confidentemente errada é problema de segurança sempre que consequências dependem de correção.

2026-05-16

Capítulo 6 — Riscos da Geração Aumentada por Recuperação

O corpus de recuperação como canal de entrada não confiável — cada documento indexado é, do ponto de vista do modelo, uma instrução em pé de igualdade com a pergunta do usuário.

2026-05-15

Capítulo 3 — Segurança de Dados e Privacidade

Dado como ativo com ciclo de vida — de corpora de treinamento parcialmente memorizados a entradas de usuário que engenheiros da Samsung colaram no ChatGPT antes de o incidente ter nome.

2026-05-12

Capítulo 2 — Threat Modeling para Sistemas LLM

Aplicando Shostack, STRIDE, PASTA e MITRE ATLAS a sistemas LLM cujos ativos, adversários e superfícies de ataque não aparecem em diagramas convencionais.

2026-05-11

Capítulo 1 — Por Que a Segurança de IA É Diferente

Por que a segurança de IA não é segurança tradicional com um adjetivo de ML; o substrato mudou, a superfície de ataque se ampliou e os modelos estão se tornando infraestrutura.

2026-05-10

Capítulo 16 — Estratégias de Corte de Custo em Produção

Roteamento de modelos, compactação de contexto, batch APIs e cache semântico — os movimentos ortogonais que se compõem em uma redução de 80 por cento sem mudar o que o usuário vê.

2026-05-08

Capítulo 14 — Economia de Tokens e Precificação de APIs

Por que o token é a unidade de cobrança, por que o output custa de quatro a oito vezes o input, e como tokens de reasoning invisíveis acabam na fatura.

2026-05-06

Capítulo 13 — Autoscaling e Mitigação de Cold Start

Por que o HPA padrão do Kubernetes derruba deployments de LLM sob picos de tráfego, e como KEDA, Knative e CRIU se combinam para consertar o problema.

2026-05-05

Capítulo 10 — A Camada de Engine de LLM

A fronteira entre engine e plataforma, e os cinco engines que dominam essa camada em 2026 — vLLM, TensorRT-LLM, SGLang, TGI e Ollama.

2026-05-02

Capítulo 9 — Decodificação Especulativa

Como a decodificação especulativa contorna o gargalo sequencial da autorregressão, quais mecanismos de rascunho funcionam e a aritmética que decide quando o ganho compensa.

2026-05-01

Capítulo 8 — Gerenciamento de KV Cache de Próxima Geração

PagedAttention traz a paginação do sistema operacional para o motor de inferência; H2O e InfiniGen adicionam evicção; o prefix caching serve milhões de requisições agênticas em uma dúzia de GPUs.

2026-04-30

Capítulo 7 — Estratégias Avançadas de Batching

Do batching estático que colapsa no problema do que termina primeiro ao escalonamento em nível de iteração do batching contínuo — e a dívida que ele cria para o KV cache.

2026-04-29

Capítulo 6 — Poda e Destilação de Conhecimento

A poda zera pesos que não importam e a destilação transfere o comportamento do professor para um aluno menor — juntas com a quantização, compõem uma redução de 20 vezes nos bytes por token.

2026-04-28

Capítulo 2 — O Desafio do KV Cache

A fórmula que governa o tamanho do KV cache, os trade-offs entre MHA, GQA e MQA, e por que a alocação ingênua desperdiça a maior parte do orçamento de VRAM.

2026-04-24

Capítulo 1 — A Mecânica da Geração de Tokens

Por que o loop autoregressivo é sequencial por matemática, como prefill e decoding estressam o chip de formas opostas e por que um único usuário deixa uma H100 99,7 por cento ociosa.

2026-04-23

Capítulo 6 — Observabilidade e Tracing de IA

Sexto post do passeio pelo LLM Primer V. Do log de requisição para o trace causal aninhado, as métricas que importam para sistemas LLM, e o pipeline de export que fecha o loop com avaliação.

2026-04-19

Capítulo 5 — Avaliando Aplicações LLM

Quinto post do passeio pelo LLM Primer V. Rubricas ancoradas de LLM-como-juiz, a Tríade RAG e testes de trajetória de agente — a disciplina que substitui assertEqual em sistemas LLM.

2026-04-18

Capítulo 14 — Benchmarking, Testes e Desempenho

Décima quarta e última postagem do passeio pelo LLM Primer IV. O MCP-Universe Benchmark em servidores reais, os dois modos de falha sistêmicos que ele expôs, o gap de dez vezes de throughput entre sessão-por-requisição e pools de sessão compartilhados, e a ponte para o Volume V.

2026-04-12

Capítulo 13 — Frameworks e Integração com Nuvem

Décima terceira postagem do passeio pelo LLM Primer IV. Strands com Bedrock, o padrão de camada de estado AWS, o Microsoft Agent Framework, LangChain, Semantic Kernel — e os três formatos de integração de produção em que times chegam independentemente.

2026-04-11

Capítulo 12 — Endurecimento do Protocolo e Defesas

Décima segunda postagem do passeio pelo LLM Primer IV. Os quatro clusters de defesa — atestação criptográfica, disciplina de escopo OAuth com sessões limitadas, sandbox em runtime, e portões humano-no-loop — compõem numa postura que não depende do modelo se comportar corretamente sob condições adversárias.

2026-04-10

Capítulo 11 — Superfícies de Ataque e Vulnerabilidades de Protocolo

Décima primeira postagem do passeio pelo LLM Primer IV. Os ataques clássicos adaptados ao MCP — Confused Deputy, Token Passthrough, Session Hijacking — os defeitos no nível de protocolo em torno de escalada de capacidade e sampling não-autenticado, e a propagação implícita de confiança que torna envenenamento de contexto problema estrutural em vez de higiene.

2026-04-09

Capítulo 10 — Memória de Tarefa de Horizonte Longo

Décima postagem do passeio pelo LLM Primer IV. Memória de curto prazo via janelas e scratchpads ReAct, memória de longo prazo via vetores episódicos e stores semânticos, e as técnicas de compactação que mantêm um agente produtivo ao longo de horas e dias.

2026-04-08

Capítulo 8 — Layouts Arquiteturais de Deployment

Oitava postagem do passeio pelo LLM Primer IV. Os três layouts de deployment que emergiram no ecossistema MCP — agente reutilizável, pureza estrita, híbrido — e as quatro restrições determinantes que decidem qual encaixa em qual projeto.

2026-04-06

Capítulo 6 — Estratégias Fundamentais de Orquestração

Sexta postagem do passeio pelo LLM Primer IV. Os dois formatos fundamentais de orquestração — pipelines sequenciais e scatter-gather concorrente — e a pergunta prévia que todo time deveria fazer: um sistema multi-agente é mesmo a resposta certa?

2026-04-04

Capítulo 5 — Protocolos de Transporte e Descoberta

Quinta postagem do passeio pelo LLM Primer IV. Os três transportes que o MCP suporta, a camada de descoberta .well-known com Server Cards, e as preocupações operacionais sem glamour — CORS, validação de origem, caching — que decidem se um servidor é cidadão de rede cooperativo ou um passivo.

2026-04-03

Capítulo 4 — Primitivas de Cliente: Comportamentos Agênticos e Controle

Quarta postagem do passeio pelo LLM Primer IV. Sampling, Roots e Elicitation são os três pequenos buracos controlados que o MCP abre na parede host-servidor — cada um uma capacidade concedida de volta, cada um um risco aceito em nome do usuário.

2026-04-02

Capítulo 2 — Revelando o Model Context Protocol (MCP)

Segunda postagem do passeio pelo LLM Primer IV. O que o MCP de fato padroniza, a divisão em três papéis entre Host, Cliente e Servidor, por que descoberta dinâmica e mensageria bidirecional diferem de REST nos casos que importam, e o ciclo de vida de sessão que abre com negociação de capacidades.

2026-03-31

Capítulo 1 — A Crise de Integração de IA e a Ascensão da Arquitetura Agêntica

Primeira postagem do passeio pelo LLM Primer IV. Por que agentes monolíticos se esfarrapam conforme prompts de sistema crescem, o problema de integração N vezes M escondido por baixo, e o movimento de engenharia de prompt para engenharia de contexto que o MCP foi feito para habilitar.

2026-03-30

LLM Primer IV — Introdução à Série e Índice

Abrindo o passeio capítulo a capítulo pelo Livro IV da série LLM Primer — Projetando a Cognição da IA com MCP. Por que agentes precisam de uma camada de protocolo para escalar além do demoware, para quem este livro foi escrito, e o cronograma das quatorze postagens que se seguem, de 30 de março a 12 de abril.

2026-03-29

Capítulo 9 — A Tríade de Avaliação de RAG

Nono post do passeio pelo LLM Primer III. Um sistema RAG pode falhar em três lugares distintos e por fora as falhas parecem iguais — a Tríade de Avaliação de Relevância de Contexto, Fidelidade e Relevância da Resposta é o pequeno vocabulário que impede consertar um bug enquanto se mede outro.

2026-03-26

Capítulo 8 — Anonimização de Dados no Pipeline RAG

Oitavo post do passeio pelo LLM Primer III. Anonimização pré-geração versus pós-geração, as três famílias de técnica — mascaramento, substituição sintética, privacidade diferencial — e o tradeoff utilidade-privacidade que determina se o sistema permanece útil.

2026-03-25

Capítulo 7 — Implementando Controle de Acesso

Sétimo post do passeio pelo LLM Primer III. ACLs em nível de documento como fundação, RBAC com rótulos de sensibilidade do Microsoft Purview, ReBAC com Zanzibar e SpiceDB, e a disciplina de pré-filtro versus pós-filtro que corre por baixo de todos eles.

2026-03-24

Capítulo 4 — Escolhendo o Banco de Dados Vetorial Certo

Quarto post do passeio pelo LLM Primer III. A separação arquitetural entre bancos vetoriais dedicados e extensões estilo Postgres, as líderes gerenciadas (Pinecone, Vertex), o campo open-source (Qdrant, Milvus, Weaviate), as opções embedded, e os três eixos operacionais — residência, ops, custo — que decidem a escolha real.

2026-03-21

Capítulo 11 — Avaliação, Calibração e Inferência

Décimo primeiro post do passeio capítulo a capítulo pelo LLM Primer II. Como medir uma máquina que pode dizer qualquer coisa — perplexidade, calibração, barras de erro de benchmark e geometria da recuperação para conter alucinação.

2026-03-13

Capítulo 10 — Matemática do Pós-Treinamento e Alinhamento

Décimo post do passeio capítulo a capítulo pelo LLM Primer II. Como um previsor de próximo token brilhante e feral é civilizado em assistente útil — SFT, modelo de recompensa, RLHF na coleira do KL, e a derivação elegante do DPO que colapsa o pipeline inteiro em uma única perda supervisionada.

2026-03-12

Capítulo 7 — Engenharia de prompt como ofício de campo

Sétimo post do passeio capítulo a capítulo pelo LLM Primer I. Os quatro padrões de prompt que carregam o peso real — system prompt, few-shot, cadeia de pensamento, papel — e por que cada um funciona, à luz do mecanismo de próximo token.

2026-02-24

Capítulo 4 — Como o modelo aprende

Quarto post do passeio capítulo a capítulo pelo LLM Primer I. Por que o pré-treinamento define o teto da capacidade, por que o fine-tuning esculpe a personalidade, e como o RLHF transforma um previsor de tokens no assistente em que confiamos todo dia.

2026-02-21

Capítulo 3 — Como o texto flui dentro do modelo

Terceiro post do passeio capítulo a capítulo pelo LLM Primer I. Como o token muda de forma dentro do modelo — embeddings, atenção, transformer — sem cair em matrizes nem perder precisão.

2026-02-20

Capítulo 2 — Probabilidade, tokens e texto

Segundo post do passeio capítulo a capítulo pelo LLM Primer I. Como tokens diferem de palavras, o que é a distribuição de probabilidade que o modelo produz a cada passo, e como temperature e top-p mudam o caráter da saída.

2026-02-19

Capítulo 1 — O que é, afinal, um Grande Modelo de Linguagem?

Primeiro post do passeio capítulo a capítulo pelo LLM Primer I. O que "grande", "linguagem" e "modelo" realmente significam, como saímos dos sistemas baseados em regras até as redes neurais, e três mitos que vale a pena desfazer logo de cara.

2026-02-18

A Série LLM Primer — Um guia de campo para a IA generativa, escrito um volume por vez

A série LLM Primer — um guia de campo de sete volumes completo sobre IA generativa por Sho Shimoda. Dos fundamentos à segurança. Inclui Physical AI como volume companheiro. Todos os 7 volumes disponíveis na Amazon.

2026-02-15

Introdução aos Grandes Modelos de Linguagem (LLMs) - Guia Completo para Engenheiros

Explore os fundamentos dos Grandes Modelos de Linguagem (LLMs), incluindo o treinamento, as aplicações e os desafios. Um guia completo para engenheiros que querem entender o impacto dos LLMs no aprendizado de máquina e no processamento de linguagem natural.

2024-09-01