Capítulo 3 — Geração Aumentada por Recuperação

Terceiro post do passeio capítulo a capítulo pelo LLM Primer V: Construindo Aplicações LLM Reais. O capítulo que percorre o pipeline RAG de ponta a ponta e separa a demo que funciona nos seus dez documentos favoritos do sistema que sobrevive ao contato com o corpus real.

Por que este capítulo existe

Um modelo de fundação sabe aquilo que seu corpus de treinamento lhe mostrou, e nada mais. O produto que você está construindo quase certamente precisa que o modelo raciocine sobre coisas fora desse corpus — documentos internos, os tickets da semana passada, o histórico de pedidos do cliente, uma política que entrou em vigor hoje de manhã. A Geração Aumentada por Recuperação (RAG) é a disciplina de engenharia que fecha a lacuna: em tempo de consulta, busca o material relevante num sistema de registro, formata no prompt, e deixa o modelo gerar em cima dele. A versão ingênua é uma chamada de embedding e um lookup top-k. A versão de produção é um pipeline com estratégia de chunking, transformação de consulta, pontuação híbrida, reranking, e um loop de avaliação. O Capítulo 3 percorre o pipeline de ponta a ponta, e depois as técnicas que transformam um pipeline de demo em um deployment.

3.1 O pipeline de cinco estágios e recuperação híbrida

O pipeline RAG mínimo tem cinco estágios, e cada um interage com os outros de maneiras que ficam óbvias em retrospecto. Loaders preservam estrutura — cabeçalhos, caminhos de seção, timestamps, URLs de origem, rótulos de controle de acesso — porque tudo a jusante depende do que o loader guardou. Chunkers cortam ao longo do grão natural do documento, não ao longo de uma contagem arbitrária de tokens. Embedders projetam chunks num espaço vetorial cuja geometria é inteiramente determinada pela distribuição de treinamento do modelo de embedding. Retrievers acham vizinhos mais próximos. Geradores são prompted com o contexto recuperado, e o enquadramento importa: "responda usando apenas o contexto abaixo, e responda 'não tenho essa informação' caso contrário" é o padrão isolado mais eficaz de redução de alucinação em RAG de produção. Recuperação densa pura entende paráfrase mas perde identificadores exatos; recuperação lexical captura identificadores mas perde semântica; recuperação híbrida, fundida com Reciprocal Rank Fusion, obtém os dois efeitos, e um reranker cross-encoder sobre o top-50 fundido compra outros dez a vinte por cento de precisão.

3.2 Chunking é onde a qualidade vive ou morre

O default de "quebra a cada 500 tokens com 50 de sobreposição" funciona numa fração surpreendente de corpora genéricos e falha em quase todos os especializados. O chunker estrutural percorre HTML ou Markdown por nível de cabeçalho e emite um chunk por seção folha, prefixado com o breadcrumb dos cabeçalhos ancestrais. O chunker pai-filho embeda chunks-filho pequenos para precisão de recuperação, mas expande cada hit para o parágrafo pai antes de passar para o gerador, desacoplando unidade de recuperação de unidade de contexto. O chunker semântico percorre uma sequência de embeddings de sentença e quebra onde o tópico muda. Compostos, primeiro estrutural e depois semântico dentro de seções longas, os dois padrões dão conta de quase todo tipo de fonte que um corpus real contém. E cada chunk carrega metadados de enriquecimento — origem, URL, timestamp, caminho de cabeçalho, idioma, escopo de visibilidade — porque esses são os campos que tornam chunks recuperados atribuíveis, filtráveis e legíveis para o resto do sistema.

3.3 Transformação de consulta, multimodal e text-to-SQL

A consulta do usuário raramente é a consulta ideal para recuperação. Expansão multi-consulta pede ao modelo várias reformulações, recupera para cada uma, e funde. HyDE — Hypothetical Document Embeddings — pede ao modelo que invente uma resposta plausível e embeda essa em vez da pergunta, sob a teoria de que respostas vivem numa região do espaço de embedding diferente das perguntas. Step-back prompting produz uma versão mais geral da pergunta, recupera contra as duas, e deixa o modelo usar o enquadramento para responder ao caso específico. Decomposição quebra uma pergunta composta em sub-perguntas que o retriever consegue tratar uma de cada vez. Recuperação iterativa deixa o modelo decidir o que buscar em seguida — a ponte entre RAG e agentes. RAG também vai além de texto: espaços de embedding conjunto imagem-texto no estilo CLIP suportam recuperação multimodal, e text-to-SQL trata schemas de banco como corpus de recuperação e gera queries contra uma réplica de leitura com timeout. Um roteador escolhe a transformação certa por consulta em vez de rodar todas.

O que o Capítulo 3 prepara

RAG é uma capacidade entre muitas. Um assistente de produção raramente vive só de recuperação: ele precisa buscar os pedidos recentes de um cliente, checar estoque em outro sistema, resumir os resultados, fazer uma pergunta de esclarecimento, e decidir por conta própria quando fazer o quê. O enquadramento natural desse comportamento é agêntico — o modelo escolhe de um conjunto de ferramentas, o sistema executa a escolhida, o resultado volta ao modelo, e o loop continua até a tarefa terminar. Recuperação, nesse enquadramento, é uma ferramenta a que o agente pode recorrer. O Capítulo 4 transforma o wrapper num agente: o loop ReAct, schemas de ferramenta como contratos, e as três camadas de memória que permitem ao agente carregar estado entre turnos.

Próximo — Capítulo 4: Agentes de IA e Tool Calling. O loop que transforma um modelo sem estado num ator perseguindo uma meta — com ferramentas, memória e limites duros contra comportamento fora de controle.