Introdução ao LLM
Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.
Total de 2 artigos disponíveis. |
Atualmente na página 1 de 1.
Capítulo 12 — Serving Desagregado e Kubernetes
Como separar prefill e decodificação em pools de GPU distintos, transportar a KV cache pelo fabric e expressar a topologia em Kubernetes.
2026-05-04
Capítulo 9 — Decodificação Especulativa
Como a decodificação especulativa contorna o gargalo sequencial da autorregressão, quais mecanismos de rascunho funcionam e a aritmética que decide quando o ganho compensa.
2026-05-01