Введение в LLM - LLM Primer VI — Масштабирование ИИ-систем
Эта страница предоставляет понятное руководство по большим языковым моделям (LLM), от основ до приложений для любителей ИИ.
Глава 16 — Стратегии сокращения затрат в продакшене
Глава 16 — Стратегии сокращения затрат в продакшене Заключительный пост поглавного разбора LLM Primer VI: Scaling AI Systems. Каталог ортогональных приёмов, скл…
2026-05-08
Глава 15 — Serverless API против выделенной инфраструктуры
Глава 15 — Serverless API против выделенной инфраструктуры Пятнадцатый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, кладущая арифметику точ…
2026-05-07
Глава 14 — Экономика токенов и цены API
Глава 14 — Экономика токенов и цены API Четырнадцатый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, соединяющая физику из главы 1 со строкам…
2026-05-06
Глава 13 — Автоскейлинг и смягчение холодного старта
Глава 13 — Автоскейлинг и смягчение холодного старта Тринадцатый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, объясняющая, почему дефолтный…
2026-05-05
Глава 12 — Дизагрегированный serving и Kubernetes
Глава 12 — Дизагрегированный serving и Kubernetes Двенадцатый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, наконец разделяющая prefill и de…
2026-05-04
Глава 11 — Слой платформы и оркестрации
Глава 11 — Слой платформы и оркестрации Одиннадцатый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, утверждающая, что выбор платформы — не пр…
2026-05-03
Глава 10 — Слой движка LLM
Глава 10 — Слой движка LLM Десятый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, называющая границу между движком и платформой и обходящая п…
2026-05-02
Глава 9 — Спекулятивный декодинг
Глава 9 — Спекулятивный декодинг Девятый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, показывающая, что у последовательного узкого места ав…
2026-05-01
Глава 8 — KV-кэш следующего поколения
Глава 8 — KV-кэш следующего поколения Восьмой пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, переносящая понимание операционно-системного паг…
2026-04-30
Глава 7 — Продвинутые стратегии батчинга
Глава 7 — Продвинутые стратегии батчинга Седьмой пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, показывающая, что батчинг — не оптимизация, а…
2026-04-29
Глава 6 — Обрезка и дистилляция знаний
Глава 6 — Обрезка и дистилляция знаний Шестой пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, атакующая количество весов напрямую — сначала об…
2026-04-28
Глава 5 — Демистификация квантизации
Глава 5 — Демистификация квантизации Пятый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, объясняющая, почему 70B-модель выживает 4-битную кв…
2026-04-27
Глава 4 — Специализированный ИИ-кремний и ASIC
Глава 4 — Специализированный ИИ-кремний и ASIC Четвёртый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, утверждающая, что выбор между GPU и A…
2026-04-26
Глава 3 — Дата-центровые GPU для генеративного ИИ
Глава 3 — Дата-центровые GPU для генеративного ИИ Третий пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, утверждающая, что serving-GPU нужно п…
2026-04-25
Глава 2 — Проблема KV-кэша
Глава 2 — Проблема KV-кэша Второй пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, называющая структуру данных, которая съедает VRAM каждой ser…
2026-04-24
Глава 1 — Механика генерации токенов
Глава 1 — Механика генерации токенов Первый пост поглавного разбора LLM Primer VI: Scaling AI Systems. Глава, утверждающая, что почти каждый трудный вопрос serv…
2026-04-23
LLM Primer VI — Введение в серию и указатель
LLM Primer VI — Введение в серию и указатель Поглавный разбор книги LLM Primer VI: Scaling AI Systems — тома, где инференс LLM рассматривается как инженерная ди…
2026-04-22