Introdução ao LLM

Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.


Total de 46 artigos disponíveis. | Atualmente na página 1 de 1.

Capítulo 17 — Ameaças Futuras e Defesas Emergentes

Ameaças ainda em formação — agentes autônomos, superfícies multimodais, identidade sintética e IA contra IA — e o encerramento da série LLM Primer com uma ponte para Physical AI.

2026-05-26

Capítulo 16 — Fine-Tuning Seguro e Adaptação

Um modelo fine-tunado é artefato cujas propriedades de segurança precisam ser conquistadas, não herdadas — porque os mesmos passos de gradiente que ensinam vocabulário de domínio também erodem alinhamento.

2026-05-25

Capítulo 15 — Construindo uma Organização de IA Segura

Cultura de segurança, red teams, risco de fornecedor e stewardship como a infraestrutura organizacional que carrega a disciplina ao longo dos anos.

2026-05-24

Capítulo 14 — Viés, Justiça e IA Responsável

IA responsável como disciplina de escolhas sob incerteza — onde ferramentas técnicas expõem trade-offs sem os resolver.

2026-05-23

Capítulo 13 — Panorama Regulatório

O panorama regulatório plural e ainda em consolidação — AI Act da UE, GDPR e frameworks paralelos — mapeado sobre os controles técnicos que o livro desenvolveu.

2026-05-22

Capítulo 12 — Controle de Acesso e Identidade

Quem pode invocar quais capacidades de uma aplicação integrada a LLM, com o adicional de que o modelo, ao agir por ferramentas, também é principal cuja permissão precisa ser escopada.

2026-05-21

Capítulo 10 — Projetando Arquiteturas LLM Seguras

A arquitetura como disciplina primária de segurança — porque a configuração mais segura de um componente probabilístico é aquela cujo raio de destruição é limitado por estrutura, não pela contenção do próprio componente.

2026-05-19

Capítulo 9 — Integridade de Modelo e Riscos da Cadeia de Suprimentos

Um artefato de modelo é um binário distribuído por terceiros — com as preocupações de desserialização, backdoor e proveniência que a distribuição de binários sempre carregou.

2026-05-18

Capítulo 8 — Ataques Adversariais a Modelos

De Goodfellow 2014 a TextFooler e sufixos universais até roubo de modelo em APIs de produção — a tradição de pesquisa por trás do prompt injection.

2026-05-17

Capítulo 6 — Riscos da Geração Aumentada por Recuperação

O corpus de recuperação como canal de entrada não confiável — cada documento indexado é, do ponto de vista do modelo, uma instrução em pé de igualdade com a pergunta do usuário.

2026-05-15

Capítulo 5 — Validação de Entrada e Filtragem de Saída

Sanitização em estágios, saída estruturada, ferramental de guardrail e as métricas honestas de segurança que sobrevivem ao contato com o tráfego real.

2026-05-14

Capítulo 4 — Prompt Injection e Jailbreaks

Por que prompt injection não tem correção estrutural análoga às consultas parametrizadas, e como a arquitetura de mitigação em quatro camadas do resto da Parte II se estrutura.

2026-05-13

Capítulo 3 — Segurança de Dados e Privacidade

Dado como ativo com ciclo de vida — de corpora de treinamento parcialmente memorizados a entradas de usuário que engenheiros da Samsung colaram no ChatGPT antes de o incidente ter nome.

2026-05-12

Capítulo 1 — Por Que a Segurança de IA É Diferente

Por que a segurança de IA não é segurança tradicional com um adjetivo de ML; o substrato mudou, a superfície de ataque se ampliou e os modelos estão se tornando infraestrutura.

2026-05-10

LLM Primer VII — Introdução da Série e Índice

Introdução da série e índice do LLM Primer VII — o volume final do arco de engenharia, onde o LLM Primer chega à disciplina que decide se todo o resto sobrevive a adversários, reguladores e falhas cotidianas.

2026-05-09

Capítulo 16 — Estratégias de Corte de Custo em Produção

Roteamento de modelos, compactação de contexto, batch APIs e cache semântico — os movimentos ortogonais que se compõem em uma redução de 80 por cento sem mudar o que o usuário vê.

2026-05-08

Capítulo 15 — APIs Serverless vs Infraestrutura Dedicada

A matemática do ponto de equilíbrio entre API por token e GPU dedicada, o item de engenharia de plataforma que decide a conta e por que a postura híbrida é a resposta realista.

2026-05-07

Capítulo 10 — A Camada de Engine de LLM

A fronteira entre engine e plataforma, e os cinco engines que dominam essa camada em 2026 — vLLM, TensorRT-LLM, SGLang, TGI e Ollama.

2026-05-02

Capítulo 9 — Decodificação Especulativa

Como a decodificação especulativa contorna o gargalo sequencial da autorregressão, quais mecanismos de rascunho funcionam e a aritmética que decide quando o ganho compensa.

2026-05-01

Capítulo 8 — Gerenciamento de KV Cache de Próxima Geração

PagedAttention traz a paginação do sistema operacional para o motor de inferência; H2O e InfiniGen adicionam evicção; o prefix caching serve milhões de requisições agênticas em uma dúzia de GPUs.

2026-04-30

Capítulo 6 — Poda e Destilação de Conhecimento

A poda zera pesos que não importam e a destilação transfere o comportamento do professor para um aluno menor — juntas com a quantização, compõem uma redução de 20 vezes nos bytes por token.

2026-04-28

Capítulo 5 — Desmistificando a Quantização

Por que um modelo de 70B sobrevive à quantização de 4 bits enquanto um de 1B não sobrevive — e como escolher a receita entre AWQ, GPTQ, SmoothQuant e GGUF.

2026-04-27

Capítulo 4 — Silício de IA Especializado e ASICs

Groq, Inferentia2, TPU e Gaudi 3 — onde ASICs vencem GPUs em latência ou custo por token, e onde os retos de kernel e variedade de modelos ainda pertencem à NVIDIA.

2026-04-26

Capítulo 3 — GPUs de Data Center para IA Generativa

Como ler o catálogo de GPUs de data center — H100, H200, B200, L40S, MI300X — pela lente de banda de HBM e capacidade de VRAM, não pelos FLOPs de manchete.

2026-04-25

Capítulo 5 — Avaliando Aplicações LLM

Quinto post do passeio pelo LLM Primer V. Rubricas ancoradas de LLM-como-juiz, a Tríade RAG e testes de trajetória de agente — a disciplina que substitui assertEqual em sistemas LLM.

2026-04-18

Capítulo 4 — Agentes de IA e Tool Calling

Quarto post do passeio pelo LLM Primer V. O loop ReAct, os schemas de ferramenta como contratos e as três camadas de memória que transformam uma demo plausível num ator de produção.

2026-04-17

Capítulo 1 — A Disciplina da Engenharia de IA

Primeiro post do passeio pelo LLM Primer V. Por que sua demo funciona e seu sistema de produção não é um problema de engenharia, não de modelo — e os cinco pilares que o fecham.

2026-04-14

LLM Primer V — Introdução da Série e Índice

Primeiro post do passeio pelo LLM Primer V. Por que o padrão demo-para-produção quebra, o wrapper determinístico ao redor do núcleo probabilístico, e as oito superfícies onde vive a disciplina da engenharia de IA.

2026-04-13

Capítulo 14 — Benchmarking, Testes e Desempenho

Décima quarta e última postagem do passeio pelo LLM Primer IV. O MCP-Universe Benchmark em servidores reais, os dois modos de falha sistêmicos que ele expôs, o gap de dez vezes de throughput entre sessão-por-requisição e pools de sessão compartilhados, e a ponte para o Volume V.

2026-04-12

Capítulo 10 — Memória de Tarefa de Horizonte Longo

Décima postagem do passeio pelo LLM Primer IV. Memória de curto prazo via janelas e scratchpads ReAct, memória de longo prazo via vetores episódicos e stores semânticos, e as técnicas de compactação que mantêm um agente produtivo ao longo de horas e dias.

2026-04-08

Capítulo 9 — Gerenciando o Orçamento de Atenção

Nona postagem do passeio pelo LLM Primer IV. Context rot, o precipício de lost-in-the-middle, tool-loadout rot, e as três respostas arquiteturais — MCP, RAG, fine-tuning — para a pergunta de onde o conhecimento ausente de um modelo de fato pertence.

2026-04-07

Capítulo 8 — Layouts Arquiteturais de Deployment

Oitava postagem do passeio pelo LLM Primer IV. Os três layouts de deployment que emergiram no ecossistema MCP — agente reutilizável, pureza estrita, híbrido — e as quatro restrições determinantes que decidem qual encaixa em qual projeto.

2026-04-06

Capítulo 1 — A Crise de Integração de IA e a Ascensão da Arquitetura Agêntica

Primeira postagem do passeio pelo LLM Primer IV. Por que agentes monolíticos se esfarrapam conforme prompts de sistema crescem, o problema de integração N vezes M escondido por baixo, e o movimento de engenharia de prompt para engenharia de contexto que o MCP foi feito para habilitar.

2026-03-30

LLM Primer IV — Introdução à Série e Índice

Abrindo o passeio capítulo a capítulo pelo Livro IV da série LLM Primer — Projetando a Cognição da IA com MCP. Por que agentes precisam de uma camada de protocolo para escalar além do demoware, para quem este livro foi escrito, e o cronograma das quatorze postagens que se seguem, de 30 de março a 12 de abril.

2026-03-29

Capítulo 11 — Atualizações Contínuas e Otimização do Pipeline

Décimo primeiro e último post do passeio pelo LLM Primer III. CDC e indexação incremental mantêm o corpus fresco, semantic caching e tiering de modelo seguram a latência, e um loop de feedback de quatro estágios fecha o gap entre o que a produção conta para o time e o que o time de fato muda — mais a ponte para o Volume IV sobre Model Context Protocol.

2026-03-28

Capítulo 8 — Anonimização de Dados no Pipeline RAG

Oitavo post do passeio pelo LLM Primer III. Anonimização pré-geração versus pós-geração, as três famílias de técnica — mascaramento, substituição sintética, privacidade diferencial — e o tradeoff utilidade-privacidade que determina se o sistema permanece útil.

2026-03-25

Capítulo 7 — Implementando Controle de Acesso

Sétimo post do passeio pelo LLM Primer III. ACLs em nível de documento como fundação, RBAC com rótulos de sensibilidade do Microsoft Purview, ReBAC com Zanzibar e SpiceDB, e a disciplina de pré-filtro versus pós-filtro que corre por baixo de todos eles.

2026-03-24

Capítulo 5 — Arquitetando o Pipeline de Recuperação

Quinto post do passeio pelo LLM Primer III. Por que uma única busca vetorial não é um pipeline — recuperação híbrida, reciprocal rank fusion, reranking com cross-encoder, e rewriting e HyDE do lado da query — montados na arquitetura de produção para a qual sistemas RAG maduros convergem.

2026-03-22

Capítulo 4 — Escolhendo o Banco de Dados Vetorial Certo

Quarto post do passeio pelo LLM Primer III. A separação arquitetural entre bancos vetoriais dedicados e extensões estilo Postgres, as líderes gerenciadas (Pinecone, Vertex), o campo open-source (Qdrant, Milvus, Weaviate), as opções embedded, e os três eixos operacionais — residência, ops, custo — que decidem a escolha real.

2026-03-21

Capítulo 2 — Parsing Inteligente de Documentos

Segundo post do passeio pelo LLM Primer III. Por que um PDF não é um arquivo de texto, o que os parsers conscientes de layout de fato preservam, o panorama atual de ferramentas (LlamaParse, Docling, Unstructured, Marker-PDF, Firecrawl, DeepSeek-OCR), e a trilha multimodal que recupera direto sobre imagens de página.

2026-03-19

Capítulo 1 — A Evolução da Arquitetura RAG

Primeiro post do passeio pelo LLM Primer III. As quatro posturas arquiteturais de RAG — Naive, Avançada, Modular, Agêntica — lidas como uma história de entregar mais agência ao LLM uma decisão por vez, e a resposta honesta para quando fine-tuning é a ferramenta melhor do que recuperação.

2026-03-18

LLM Primer III — Introdução da Série e Índice

Abertura do passeio capítulo a capítulo pelo Livro III da série LLM Primer — Aprimorando a IA Empresarial com RAG. Por que a geração aumentada por recuperação parece simples por fora e é uma pilha de disciplinas por dentro, para quem este livro foi escrito, e o cronograma dos onze posts que seguem, de 18 a 28 de março.

2026-03-17

Capítulo 4 — Como o modelo aprende

Quarto post do passeio capítulo a capítulo pelo LLM Primer I. Por que o pré-treinamento define o teto da capacidade, por que o fine-tuning esculpe a personalidade, e como o RLHF transforma um previsor de tokens no assistente em que confiamos todo dia.

2026-02-21

Capítulo 1 — O que é, afinal, um Grande Modelo de Linguagem?

Primeiro post do passeio capítulo a capítulo pelo LLM Primer I. O que "grande", "linguagem" e "modelo" realmente significam, como saímos dos sistemas baseados em regras até as redes neurais, e três mitos que vale a pena desfazer logo de cara.

2026-02-18

LLM Primer I — passeio capítulo a capítulo: introdução e índice

Introdução do passeio capítulo a capítulo pelo LLM Primer I. Como a série está organizada, o que cada capítulo entrega, e o índice dos doze posts que vêm a seguir entre 18 de fevereiro e 1º de março.

2026-02-17

A Série LLM Primer — Um guia de campo para a IA generativa, escrito um volume por vez

A série LLM Primer — um guia de campo de sete volumes completo sobre IA generativa por Sho Shimoda. Dos fundamentos à segurança. Inclui Physical AI como volume companheiro. Todos os 7 volumes disponíveis na Amazon.

2026-02-15