LLM入門
このページでは、AI技術に関心のある方のために、LLM（大規模言語モデル）の基礎から応用までをわかりやすく解説します。
合計 4 件の記事があります。 |
現在 1 ページ中の 1 ページ目です。
第12章 — 分離型サービングとKubernetes
『LLM Primer VI』ウォークスルー第12回。プリフィルとデコードを別GPUプールに分割し、KVキャッシュをNVLink/InfiniBand上で運ぶ。ポッドを正しい側に留めるKubernetesのプリミティブ。
2026-05-04
第8章 — 次世代のKVキャッシュ管理
『LLM Primer VI』ウォークスルー第8回。OSのページングをKVキャッシュに持ち込む章。PagedAttention、H2Oエビクション、InfiniGen、そしてプレフィックスキャッシュ経済圏。
2026-04-30
第2章 — KVキャッシュという課題
『LLM Primer VI』ウォークスルー第2回。重みより先にサービングクラスタのVRAMを食い尽くすデータ構造 — KVキャッシュ — の算式、アーキテクチャの変種、そしてナイーブな割当が同時実行数を壊す仕組み。
2026-04-24
第8章 — パフォーマンス・サービング・コストの最適化
『LLM Primer V』ウォークスルー最終回。本番LLMの経済を、層をなす規律として扱う回。最も安い呼び出しは決してされないもの、次に安いのは十分なもののうち最も小さいモデルへの呼び出し、床は推論サーバ内のKVキャッシュ・連続バッチ・投機的デコーディング。
2026-04-21