Capítulo 13 — Panorama Regulatório
Décimo terceiro post do passeio capítulo a capítulo pelo LLM Primer VII: Segurança de IA. O capítulo que mapeia o panorama regulatório plural e ainda em consolidação sobre os controles técnicos que os capítulos anteriores desenvolveram.
Por que este capítulo existe
Em 2026 a arquitetura regulatória em torno da IA não está nem assentada nem unificada. O AI Act da UE, em vigor pleno desde agosto de 2026 para a maioria das categorias de alto risco, é o instrumento único mais consequente. A postura federal dos EUA passou pela transição EO 14110 para EO 14179 e se assentou num framework operacional cuja forma exata ainda evolui. Leis estaduais — o Colorado AI Act, a série de projetos de IA generativa da Califórnia, a lei AEDT de Nova York — acrescentam um mosaico americano. GDPR, CCPA, PIPL e DPDPA se aplicam a sistemas de IA independentemente de seus projetistas os terem considerado. Os frameworks em Singapura, Japão, Coreia, Índia e Reino Unido avançam em trilhos paralelos. Este capítulo percorre o que cada um exige em termos práticos e mapeia os controles dos Capítulos 3, 10, 11 e 12 nesses requisitos.
13.1 O AI Act da UE é a âncora do panorama atual
O Regulamento (UE) 2024/1689 foi assinado em junho de 2024 e publicado em julho de 2024. As proibições de práticas inaceitáveis — social scoring, identificação biométrica em tempo real em espaços públicos com exceções estreitas, técnicas manipulativas que exploram vulnerabilidades — tornaram-se aplicáveis em fevereiro de 2025. Obrigações sobre modelos de IA de propósito geral, incluindo transparência e documentação de foundation models, tornaram-se aplicáveis em agosto de 2025. As obrigações plenas para alto risco tornam-se aplicáveis em agosto de 2026 para a maioria das categorias e em agosto de 2027 para sistemas de IA embutidos em produtos sob a regulação de segurança de produto da UE. A estrutura substantiva é escalonada por risco: práticas proibidas, sistemas de alto risco com um conjunto detalhado de obrigações (sistemas de gestão de risco, governança de dados, documentação técnica, guarda de registros, transparência a deployers e usuários, supervisão humana, acurácia e robustez, avaliação de conformidade, monitoramento pós-mercado), sistemas de risco limitado com obrigações de transparência e sistemas de risco mínimo pouco regulados pelo próprio Act. As categorias de alto risco no Anexo III incluem infraestrutura crítica, decisões de emprego, serviços essenciais, aplicação da lei, migração, justiça e casos de uso definidos de reconhecimento biométrico e emocional. Obrigações para foundation models acima de limiares definidos de compute e capacidade adicionam uma trilha paralela que moldou como os laboratórios de fronteira abordam o deployment no mercado UE. O alcance extraterritorial do Act estende seu efeito prático à indústria internacional de IA independentemente de onde o desenvolvedor esteja.
13.2 A lei de proteção de dados chegou antes e continua vinculante
Antes das regulações específicas de IA, as restrições mais importantes sobre o desenvolvimento de IA vinham da lei de proteção de dados. E continuam a vir. O GDPR se aplica ao processamento de dados pessoais por qualquer entidade estabelecida na UE ou que mire titulares de dados na UE. Os Artigos 13 e 14 exigem que os titulares sejam informados sobre o processamento, incluindo propósitos, categorias, destinatários e, quando aplicável, a existência de decisão automatizada e a lógica envolvida. O Artigo 22 dá ao titular o direito de não ser sujeito a decisões exclusivamente automatizadas que produzam efeitos jurídicos ou similarmente significativos — provisão cuja aplicação a saídas de LLM é contestada mas que molda como decisões guiadas por IA vêm sendo desdobradas em mercados UE. O Artigo 17 dá o direito de apagamento, cuja aplicação a um modelo cujos pesos refletem os dados de treinamento é outra questão interpretativa que o campo ainda está resolvendo. CCPA e CPRA na Califórnia, PIPL na China, DPDPA na Índia, LGPD no Brasil, PIPEDA no Canadá e dezenas de regimes paralelos em outros lugares impõem obrigações similares com variações específicas por jurisdição. A ação do Garante italiano de março de 2023 contra o ChatGPT (Capítulo 3) foi o primeiro tiro regulatório; ações subsequentes na UE e em outros lugares reforçaram que dados de treinamento contendo informação pessoal são preocupação regulatória mesmo quando o modelo é fornecido por vendor estrangeiro.
13.3 Auditabilidade, model cards e classificação de risco são a forma operacional
As regulações específicas de IA convergem sobre auditabilidade. Sistemas de alto risco sob o AI Act da UE precisam manter documentação técnica desde antes da entrada no mercado por toda a vida do sistema — descrição geral, elementos e processo de desenvolvimento, monitoramento e controle, sistema de gestão de risco, governança de dados, medidas de supervisão humana, em detalhe suficiente para um notified body avaliar a conformidade. O NIST AI 100-1 (2023) e o Generative AI Profile AI 600-1 (2024) fornecem o vocabulário de gestão de risco do lado americano. A ISO/IEC 42001, publicada em 2023, é o padrão de sistema de gestão de IA para organizações que buscam certificação. O model card, introduzido por Mitchell et al. na FAccT 2019, é o artefato de documentação mais importante — um registro estruturado de uso pretendido, dados de treinamento, resultados de avaliação, considerações éticas e uso desaconselhado. A adoção é ampla em Hugging Face, OpenAI, Anthropic e Google, em profundidades variadas. As abordagens de classificação de risco variam. O AI Act da UE usa classificação por caso de uso: um sistema de IA usado para um propósito listado como alto risco é alto risco independentemente da capacidade do modelo. O NIST AI 100-1 usa análise de risco baseada em atributos. O processo Bletchley/Seul/AI Action Summit usa limiares de capacidade de modelo via compute e avaliação. A maioria dos frameworks atuais mistura abordagens, e o trabalho organizacional de compliance é em grande parte o trabalho de mapear sistemas específicos nos esquemas específicos de classificação que cada regulador aplica.
O que o Capítulo 13 prepara
O Capítulo 14 volta-se ao conteúdo substantivo que as regulações tentam endereçar: viés, justiça e IA responsável. O capítulo percorre as fontes de viés em LLMs — viés de dados de treinamento, representacional, de alocação, de avaliação e de deployment — com referência ao paper "Stochastic Parrots" de Bender, Gebru, McMillan-Major e Shmitchell de 2021 e à literatura subsequente. Examina os benchmarks de justiça (BOLD, BBQ, StereoSet, CrowS-Pairs) e seus limites. Percorre o trade-off entre segurança e utilidade documentado no trabalho RLHF da Anthropic. Examina transparência e explicabilidade (SHAP, LIME, interpretabilidade) e o gap entre o que elas entregam e o que as regulações exigem. Encerra com a política organizacional de IA como a camada em que o trabalho técnico se torna operacional. O Capítulo 15 percorre então a infraestrutura organizacional — cultura de segurança, red teams, risco de fornecedor, avaliação contínua, stewardship de longo prazo — que carrega a disciplina.
Próximo — Capítulo 14: Viés, Justiça e IA Responsável. Fontes de viés, medir justiça com limites, o trade-off entre segurança e utilidade e a política organizacional de IA que transforma trabalho técnico em disciplina operacional.
