Introdução ao LLM
Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.
Total de 2 artigos disponíveis. |
Atualmente na página 1 de 1.
Capítulo 10 — A Camada de Engine de LLM
A fronteira entre engine e plataforma, e os cinco engines que dominam essa camada em 2026 — vLLM, TensorRT-LLM, SGLang, TGI e Ollama.
2026-05-02
Capítulo 8 — Gerenciamento de KV Cache de Próxima Geração
PagedAttention traz a paginação do sistema operacional para o motor de inferência; H2O e InfiniGen adicionam evicção; o prefix caching serve milhões de requisições agênticas em uma dúzia de GPUs.
2026-04-30