Introdução ao LLM

Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.


Total de 39 artigos disponíveis. | Atualmente na página 1 de 1.

Capítulo 17 — Ameaças Futuras e Defesas Emergentes

Ameaças ainda em formação — agentes autônomos, superfícies multimodais, identidade sintética e IA contra IA — e o encerramento da série LLM Primer com uma ponte para Physical AI.

2026-05-26

Capítulo 12 — Controle de Acesso e Identidade

Quem pode invocar quais capacidades de uma aplicação integrada a LLM, com o adicional de que o modelo, ao agir por ferramentas, também é principal cuja permissão precisa ser escopada.

2026-05-21

Capítulo 11 — Observabilidade, Logging e Resposta a Incidentes

Logging, alerting e resposta a incidentes como a camada que transforma defesas arquiteturais em sistema que operadores conseguem de fato rodar.

2026-05-20

Capítulo 10 — Projetando Arquiteturas LLM Seguras

A arquitetura como disciplina primária de segurança — porque a configuração mais segura de um componente probabilístico é aquela cujo raio de destruição é limitado por estrutura, não pela contenção do próprio componente.

2026-05-19

Capítulo 9 — Integridade de Modelo e Riscos da Cadeia de Suprimentos

Um artefato de modelo é um binário distribuído por terceiros — com as preocupações de desserialização, backdoor e proveniência que a distribuição de binários sempre carregou.

2026-05-18

Capítulo 8 — Ataques Adversariais a Modelos

De Goodfellow 2014 a TextFooler e sufixos universais até roubo de modelo em APIs de produção — a tradição de pesquisa por trás do prompt injection.

2026-05-17

Capítulo 6 — Riscos da Geração Aumentada por Recuperação

O corpus de recuperação como canal de entrada não confiável — cada documento indexado é, do ponto de vista do modelo, uma instrução em pé de igualdade com a pergunta do usuário.

2026-05-15

Capítulo 3 — Segurança de Dados e Privacidade

Dado como ativo com ciclo de vida — de corpora de treinamento parcialmente memorizados a entradas de usuário que engenheiros da Samsung colaram no ChatGPT antes de o incidente ter nome.

2026-05-12

Capítulo 2 — Threat Modeling para Sistemas LLM

Aplicando Shostack, STRIDE, PASTA e MITRE ATLAS a sistemas LLM cujos ativos, adversários e superfícies de ataque não aparecem em diagramas convencionais.

2026-05-11

Capítulo 15 — APIs Serverless vs Infraestrutura Dedicada

A matemática do ponto de equilíbrio entre API por token e GPU dedicada, o item de engenharia de plataforma que decide a conta e por que a postura híbrida é a resposta realista.

2026-05-07

Capítulo 14 — Economia de Tokens e Precificação de APIs

Por que o token é a unidade de cobrança, por que o output custa de quatro a oito vezes o input, e como tokens de reasoning invisíveis acabam na fatura.

2026-05-06

Capítulo 12 — Serving Desagregado e Kubernetes

Como separar prefill e decodificação em pools de GPU distintos, transportar a KV cache pelo fabric e expressar a topologia em Kubernetes.

2026-05-04

Capítulo 11 — A Camada de Plataforma e Orquestração

Ray Serve, KServe, BentoML e Triton — como as quatro plataformas de orquestração de LLM se dividem por afinidade com a cultura de ops do time.

2026-05-03

Capítulo 10 — A Camada de Engine de LLM

A fronteira entre engine e plataforma, e os cinco engines que dominam essa camada em 2026 — vLLM, TensorRT-LLM, SGLang, TGI e Ollama.

2026-05-02

Capítulo 5 — Desmistificando a Quantização

Por que um modelo de 70B sobrevive à quantização de 4 bits enquanto um de 1B não sobrevive — e como escolher a receita entre AWQ, GPTQ, SmoothQuant e GGUF.

2026-04-27

Capítulo 3 — GPUs de Data Center para IA Generativa

Como ler o catálogo de GPUs de data center — H100, H200, B200, L40S, MI300X — pela lente de banda de HBM e capacidade de VRAM, não pelos FLOPs de manchete.

2026-04-25

Capítulo 2 — O Desafio do KV Cache

A fórmula que governa o tamanho do KV cache, os trade-offs entre MHA, GQA e MQA, e por que a alocação ingênua desperdiça a maior parte do orçamento de VRAM.

2026-04-24

Capítulo 8 — Otimizando Performance, Serving e Custo

Post final do passeio pelo LLM Primer V. Cache semântico, roteamento dinâmico e as otimizações dentro do servidor de inferência que fecham o volume — do que nunca é chamado ao que quase não custa.

2026-04-21

Capítulo 7 — Segurança e Guardrails de LLM

Sétimo post do passeio pelo LLM Primer V. Injeção direta versus indireta, a matriz de mitigação em quatro camadas e o princípio de que autoridade tem de casar com origem de confiança.

2026-04-20

Capítulo 6 — Observabilidade e Tracing de IA

Sexto post do passeio pelo LLM Primer V. Do log de requisição para o trace causal aninhado, as métricas que importam para sistemas LLM, e o pipeline de export que fecha o loop com avaliação.

2026-04-19

Capítulo 4 — Agentes de IA e Tool Calling

Quarto post do passeio pelo LLM Primer V. O loop ReAct, os schemas de ferramenta como contratos e as três camadas de memória que transformam uma demo plausível num ator de produção.

2026-04-17

Capítulo 3 — Geração Aumentada por Recuperação

Terceiro post do passeio pelo LLM Primer V. O pipeline RAG de cinco estágios de ponta a ponta, por que o chunking é onde vive ou morre a qualidade, e as transformações de consulta que separam a demo do deployment.

2026-04-16

Capítulo 1 — A Disciplina da Engenharia de IA

Primeiro post do passeio pelo LLM Primer V. Por que sua demo funciona e seu sistema de produção não é um problema de engenharia, não de modelo — e os cinco pilares que o fecham.

2026-04-14

Capítulo 14 — Benchmarking, Testes e Desempenho

Décima quarta e última postagem do passeio pelo LLM Primer IV. O MCP-Universe Benchmark em servidores reais, os dois modos de falha sistêmicos que ele expôs, o gap de dez vezes de throughput entre sessão-por-requisição e pools de sessão compartilhados, e a ponte para o Volume V.

2026-04-12

Capítulo 13 — Frameworks e Integração com Nuvem

Décima terceira postagem do passeio pelo LLM Primer IV. Strands com Bedrock, o padrão de camada de estado AWS, o Microsoft Agent Framework, LangChain, Semantic Kernel — e os três formatos de integração de produção em que times chegam independentemente.

2026-04-11

Capítulo 10 — Memória de Tarefa de Horizonte Longo

Décima postagem do passeio pelo LLM Primer IV. Memória de curto prazo via janelas e scratchpads ReAct, memória de longo prazo via vetores episódicos e stores semânticos, e as técnicas de compactação que mantêm um agente produtivo ao longo de horas e dias.

2026-04-08

Capítulo 8 — Layouts Arquiteturais de Deployment

Oitava postagem do passeio pelo LLM Primer IV. Os três layouts de deployment que emergiram no ecossistema MCP — agente reutilizável, pureza estrita, híbrido — e as quatro restrições determinantes que decidem qual encaixa em qual projeto.

2026-04-06

Capítulo 7 — Padrões Avançados Colaborativos e Dinâmicos

Sétima postagem do passeio pelo LLM Primer IV. Consenso roundtable, roteamento por handoff, e orquestração magentic — os padrões que emergem quando a topologia precisa ser construída por requisição, com os modos de falha (não-terminação, mis-routing, planejamento desbocado) que os padrões mais simples evitam.

2026-04-05

Capítulo 6 — Estratégias Fundamentais de Orquestração

Sexta postagem do passeio pelo LLM Primer IV. Os dois formatos fundamentais de orquestração — pipelines sequenciais e scatter-gather concorrente — e a pergunta prévia que todo time deveria fazer: um sistema multi-agente é mesmo a resposta certa?

2026-04-04

Capítulo 5 — Protocolos de Transporte e Descoberta

Quinta postagem do passeio pelo LLM Primer IV. Os três transportes que o MCP suporta, a camada de descoberta .well-known com Server Cards, e as preocupações operacionais sem glamour — CORS, validação de origem, caching — que decidem se um servidor é cidadão de rede cooperativo ou um passivo.

2026-04-03

LLM Primer IV — Introdução à Série e Índice

Abrindo o passeio capítulo a capítulo pelo Livro IV da série LLM Primer — Projetando a Cognição da IA com MCP. Por que agentes precisam de uma camada de protocolo para escalar além do demoware, para quem este livro foi escrito, e o cronograma das quatorze postagens que se seguem, de 30 de março a 12 de abril.

2026-03-29

Capítulo 11 — Atualizações Contínuas e Otimização do Pipeline

Décimo primeiro e último post do passeio pelo LLM Primer III. CDC e indexação incremental mantêm o corpus fresco, semantic caching e tiering de modelo seguram a latência, e um loop de feedback de quatro estágios fecha o gap entre o que a produção conta para o time e o que o time de fato muda — mais a ponte para o Volume IV sobre Model Context Protocol.

2026-03-28

Capítulo 7 — Implementando Controle de Acesso

Sétimo post do passeio pelo LLM Primer III. ACLs em nível de documento como fundação, RBAC com rótulos de sensibilidade do Microsoft Purview, ReBAC com Zanzibar e SpiceDB, e a disciplina de pré-filtro versus pós-filtro que corre por baixo de todos eles.

2026-03-24

Capítulo 5 — Arquitetando o Pipeline de Recuperação

Quinto post do passeio pelo LLM Primer III. Por que uma única busca vetorial não é um pipeline — recuperação híbrida, reciprocal rank fusion, reranking com cross-encoder, e rewriting e HyDE do lado da query — montados na arquitetura de produção para a qual sistemas RAG maduros convergem.

2026-03-22

Capítulo 4 — Escolhendo o Banco de Dados Vetorial Certo

Quarto post do passeio pelo LLM Primer III. A separação arquitetural entre bancos vetoriais dedicados e extensões estilo Postgres, as líderes gerenciadas (Pinecone, Vertex), o campo open-source (Qdrant, Milvus, Weaviate), as opções embedded, e os três eixos operacionais — residência, ops, custo — que decidem a escolha real.

2026-03-21

Capítulo 3 — Frameworks Avançados de Chunking

Terceiro post do passeio pelo LLM Primer III. O espectro de chunking de tamanho fixo a consciente de estrutura, o mito do overlap, o penhasco de contexto que destrói a recuperação em silêncio, e as técnicas de recuperação contextual e late chunking que reformularam a fronteira.

2026-03-20

Capítulo 1 — A Evolução da Arquitetura RAG

Primeiro post do passeio pelo LLM Primer III. As quatro posturas arquiteturais de RAG — Naive, Avançada, Modular, Agêntica — lidas como uma história de entregar mais agência ao LLM uma decisão por vez, e a resposta honesta para quando fine-tuning é a ferramenta melhor do que recuperação.

2026-03-18

A Série LLM Primer — Um guia de campo para a IA generativa, escrito um volume por vez

A série LLM Primer — um guia de campo de sete volumes completo sobre IA generativa por Sho Shimoda. Dos fundamentos à segurança. Inclui Physical AI como volume companheiro. Todos os 7 volumes disponíveis na Amazon.

2026-02-15

Introdução aos Grandes Modelos de Linguagem (LLMs) - Guia Completo para Engenheiros

Explore os fundamentos dos Grandes Modelos de Linguagem (LLMs), incluindo o treinamento, as aplicações e os desafios. Um guia completo para engenheiros que querem entender o impacto dos LLMs no aprendizado de máquina e no processamento de linguagem natural.

2024-09-01