LLM入門 - LLM Primer VI — AIシステムのスケーリング
このページでは、AI技術に関心のある方のために、LLM（大規模言語モデル）の基礎から応用までをわかりやすく解説します。
第15章 — サーバーレスAPI vs 専用インフラ
『LLM Primer VI』ウォークスルー第15回。損益分岐算術と、多くのチームにとって答えを傾けるプラットフォームエンジニアリングの行に名前をつける。
2026-05-07
第14章 — トークン経済とAPI価格
『LLM Primer VI』ウォークスルー第14回。第1章の物理を請求書の項目につなぐ章。初月の請求書がなぜチームがモデル化したものと似ていないかを説明する。
2026-05-06
第13章 — オートスケーリングとコールドスタート対策
『LLM Primer VI』ウォークスルー第13回。標準HPAがLLMで障害を出す理由と、KEDA、Knative、CRIUがどう修正を構成するかを説明する章。
2026-05-05
第12章 — 分離型サービングとKubernetes
『LLM Primer VI』ウォークスルー第12回。プリフィルとデコードを別GPUプールに分割し、KVキャッシュをNVLink/InfiniBand上で運ぶ。ポッドを正しい側に留めるKubernetesのプリミティブ。
2026-05-04
第11章 — プラットフォームとオーケストレーション層
『LLM Primer VI』ウォークスルー第11回。プラットフォームの選択はフィーチャーではなく、どの運用モデルがチームの既存文化に合うかの問題である。
2026-05-03
第10章 — LLMエンジン層
『LLM Primer VI』ウォークスルー第10回。エンジンとプラットフォームの境界に名前をつけ、2026年のスタックを支配する5つのエンジンを歩く。ベンチマークではなく機構で選ぶ。
2026-05-02
第9章 — 投機的デコード
『LLM Primer VI』ウォークスルー第9回。自己回帰の逐次ボトルネックには数学的な抜け穴がある。安価な推測と少し広い検証パスで、ターゲットモデルが1トークン分の実時間で数トークンを生む。
2026-05-01
第8章 — 次世代のKVキャッシュ管理
『LLM Primer VI』ウォークスルー第8回。OSのページングをKVキャッシュに持ち込む章。PagedAttention、H2Oエビクション、InfiniGen、そしてプレフィックスキャッシュ経済圏。
2026-04-30
第7章 — 高度なバッチング戦略
『LLM Primer VI』ウォークスルー第7回。バッチングは最適化ではなく、帯域律速のデコードを成立させる唯一の動き。バッチは名詞ではなく動詞である。
2026-04-29
第6章 — プルーニングと知識蒸留
『LLM Primer VI』ウォークスルー第6回。重み数を直接攻める章。無関係な重みをゼロにし、大きな教師の振る舞いを小さな生徒に転写する。Hopperの2:4スパース性、蒸留、そして3圧縮の順序。
2026-04-28
第5章 — 量子化を解き明かす
『LLM Primer VI』ウォークスルー第5回。70Bモデルが4ビット量子化を生き延び1Bが生き延びない理由、そしてAWQ、GPTQ、SmoothQuant、GGUFの実体とレシピの選び方。
2026-04-27
第4章 — 専用AIシリコンとASIC
『LLM Primer VI』ウォークスルー第4回。GPUかASICかの選択はワークロード形状の問題であり、Groq、Inferentia2、TPU、Gaudi 3のそれぞれが勝つ領域と失敗モードを歩く。
2026-04-26
第3章 — 生成AI向けのデータセンターGPU
『LLM Primer VI』ウォークスルー第3回。サービングGPUはFLOP/sではなくHBM帯域とVRAM容量で買うべきだと論じる章。H100、H200、B200、L40S、MI300Xを機構優先で読み解く。
2026-04-25
第2章 — KVキャッシュという課題
『LLM Primer VI』ウォークスルー第2回。重みより先にサービングクラスタのVRAMを食い尽くすデータ構造 — KVキャッシュ — の算式、アーキテクチャの変種、そしてナイーブな割当が同時実行数を壊す仕組み。
2026-04-24
第1章 — トークン生成のメカニズム
『LLM Primer VI』ウォークスルー第1回。LLMサービングの難問はほぼ全て一つの事実から派生する — トークンを生み出すループはメモリ帯域律速で、購入した高価な演算能力は99.7パーセント遊んでいる。
2026-04-23
LLM Primer VI — シリーズ序文と目次
『LLM Primer VI: AIシステムのスケーリング』ウォークスルー全16回の序文と目次。LLM推論をメモリ帯域、スケジューリング、そしてドルが交錯するエンジニアリング領域として扱う一冊の全体像。
2026-04-22