Introdução ao LLM - LLM Primer VII — Segurança de IA
Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.
Capítulo 17 — Ameaças Futuras e Defesas Emergentes
Ameaças ainda em formação — agentes autônomos, superfícies multimodais, identidade sintética e IA contra IA — e o encerramento da série LLM Primer com uma ponte para Physical AI.
2026-05-26
Capítulo 16 — Fine-Tuning Seguro e Adaptação
Um modelo fine-tunado é artefato cujas propriedades de segurança precisam ser conquistadas, não herdadas — porque os mesmos passos de gradiente que ensinam vocabulário de domínio também erodem alinhamento.
2026-05-25
Capítulo 15 — Construindo uma Organização de IA Segura
Cultura de segurança, red teams, risco de fornecedor e stewardship como a infraestrutura organizacional que carrega a disciplina ao longo dos anos.
2026-05-24
Capítulo 14 — Viés, Justiça e IA Responsável
IA responsável como disciplina de escolhas sob incerteza — onde ferramentas técnicas expõem trade-offs sem os resolver.
2026-05-23
Capítulo 13 — Panorama Regulatório
O panorama regulatório plural e ainda em consolidação — AI Act da UE, GDPR e frameworks paralelos — mapeado sobre os controles técnicos que o livro desenvolveu.
2026-05-22
Capítulo 12 — Controle de Acesso e Identidade
Quem pode invocar quais capacidades de uma aplicação integrada a LLM, com o adicional de que o modelo, ao agir por ferramentas, também é principal cuja permissão precisa ser escopada.
2026-05-21
Capítulo 11 — Observabilidade, Logging e Resposta a Incidentes
Logging, alerting e resposta a incidentes como a camada que transforma defesas arquiteturais em sistema que operadores conseguem de fato rodar.
2026-05-20
Capítulo 10 — Projetando Arquiteturas LLM Seguras
A arquitetura como disciplina primária de segurança — porque a configuração mais segura de um componente probabilístico é aquela cujo raio de destruição é limitado por estrutura, não pela contenção do próprio componente.
2026-05-19
Capítulo 9 — Integridade de Modelo e Riscos da Cadeia de Suprimentos
Um artefato de modelo é um binário distribuído por terceiros — com as preocupações de desserialização, backdoor e proveniência que a distribuição de binários sempre carregou.
2026-05-18
Capítulo 8 — Ataques Adversariais a Modelos
De Goodfellow 2014 a TextFooler e sufixos universais até roubo de modelo em APIs de produção — a tradição de pesquisa por trás do prompt injection.
2026-05-17
Capítulo 7 — Alucinações e Confiabilidade
Confiabilidade como propriedade de segurança — porque uma saída confidentemente errada é problema de segurança sempre que consequências dependem de correção.
2026-05-16
Capítulo 6 — Riscos da Geração Aumentada por Recuperação
O corpus de recuperação como canal de entrada não confiável — cada documento indexado é, do ponto de vista do modelo, uma instrução em pé de igualdade com a pergunta do usuário.
2026-05-15
Capítulo 5 — Validação de Entrada e Filtragem de Saída
Sanitização em estágios, saída estruturada, ferramental de guardrail e as métricas honestas de segurança que sobrevivem ao contato com o tráfego real.
2026-05-14
Capítulo 4 — Prompt Injection e Jailbreaks
Por que prompt injection não tem correção estrutural análoga às consultas parametrizadas, e como a arquitetura de mitigação em quatro camadas do resto da Parte II se estrutura.
2026-05-13
Capítulo 3 — Segurança de Dados e Privacidade
Dado como ativo com ciclo de vida — de corpora de treinamento parcialmente memorizados a entradas de usuário que engenheiros da Samsung colaram no ChatGPT antes de o incidente ter nome.
2026-05-12
Capítulo 2 — Threat Modeling para Sistemas LLM
Aplicando Shostack, STRIDE, PASTA e MITRE ATLAS a sistemas LLM cujos ativos, adversários e superfícies de ataque não aparecem em diagramas convencionais.
2026-05-11
Capítulo 1 — Por Que a Segurança de IA É Diferente
Por que a segurança de IA não é segurança tradicional com um adjetivo de ML; o substrato mudou, a superfície de ataque se ampliou e os modelos estão se tornando infraestrutura.
2026-05-10
LLM Primer VII — Introdução da Série e Índice
Introdução da série e índice do LLM Primer VII — o volume final do arco de engenharia, onde o LLM Primer chega à disciplina que decide se todo o resto sobrevive a adversários, reguladores e falhas cotidianas.
2026-05-09