Introdução ao LLM

Esta página oferece um guia sobre LLMs (Modelos de Linguagem em Grande Escala) desde os conceitos básicos até as aplicações, para entusiastas de IA.


Total de 8 artigos disponíveis. | Atualmente na página 1 de 1.

Capítulo 15 — APIs Serverless vs Infraestrutura Dedicada

A matemática do ponto de equilíbrio entre API por token e GPU dedicada, o item de engenharia de plataforma que decide a conta e por que a postura híbrida é a resposta realista.

2026-05-07

Capítulo 14 — Economia de Tokens e Precificação de APIs

Por que o token é a unidade de cobrança, por que o output custa de quatro a oito vezes o input, e como tokens de reasoning invisíveis acabam na fatura.

2026-05-06

Capítulo 12 — Serving Desagregado e Kubernetes

Como separar prefill e decodificação em pools de GPU distintos, transportar a KV cache pelo fabric e expressar a topologia em Kubernetes.

2026-05-04

Capítulo 4 — Silício de IA Especializado e ASICs

Groq, Inferentia2, TPU e Gaudi 3 — onde ASICs vencem GPUs em latência ou custo por token, e onde os retos de kernel e variedade de modelos ainda pertencem à NVIDIA.

2026-04-26

Capítulo 3 — GPUs de Data Center para IA Generativa

Como ler o catálogo de GPUs de data center — H100, H200, B200, L40S, MI300X — pela lente de banda de HBM e capacidade de VRAM, não pelos FLOPs de manchete.

2026-04-25

Capítulo 2 — O Desafio do KV Cache

A fórmula que governa o tamanho do KV cache, os trade-offs entre MHA, GQA e MQA, e por que a alocação ingênua desperdiça a maior parte do orçamento de VRAM.

2026-04-24

Capítulo 1 — A Mecânica da Geração de Tokens

Por que o loop autoregressivo é sequencial por matemática, como prefill e decoding estressam o chip de formas opostas e por que um único usuário deixa uma H100 99,7 por cento ociosa.

2026-04-23

LLM Primer VI — Introdução da Série e Índice

Introdução e índice do passeio capítulo a capítulo por LLM Primer VI: Escalando Sistemas de IA — dezesseis capítulos sobre inferência LLM tratada como disciplina de engenharia.

2026-04-22