シリーズ序文と目次 — LLM Primer V
LLM Primer V: 実運用のLLMアプリケーションを設計する を章ごとに紹介していくウォークスルー。プロンプトの小技ではなく、AIエンジニアリングそのものを一つの規律として扱う巻です。
なぜこのシリーズを書いたのか
応用AIの現場では、同じ形の話が繰り返し起きます。週末にデモを組み、そのデモが眩しく見え、パイロットが承認され、半年後にはチームが「ハーデニング」と呼び、内輪では「モデルが予期せぬことを続けるあの局面」と呼ぶフェーズで止まっている、という筋書きです。モデル側は何も変わっていません。変わったのは、選び抜かれた少数の入力からもっともらしい出力が出る領域から、数千の実ユーザー、敵対的コンテンツ、コスト、レイテンシ予算が条件を決める領域へ、仕事の現場が移動したことです。第5巻は、その第2領域に住む規律を扱います。モデルの訓練の本ではありませんし、プロンプトの小技集でもありません。モデルを、事業として運用できるシステムに変える工学の本です。
誰のために書いたか
動くプロトタイプを出荷し、その後「これを維持してくれ」と言われているアプリケーションエンジニアの方。新しいLLM機能が運用負荷に見合うかどうかを判断するテックリード。AIチームのプロダクトマネージャーで、エンジニアがレイテンシ・コスト・品質のあいだで何をトレードオフしているのかを把握したい方。前提としてLLM APIを触ったことがあり、いずれかのフレームワークのドキュメントを、プロンプトテンプレートが何かはわかる程度に読んでいれば十分です。ML研究の背景は想定していません。プロダクションで効いてくる仕組みは工学の仕組みであり、本書は最後までそのレジスターにとどまります。
どう読むか
章立てはスタックとして並んでいます。第1章が枠 — 確率的な核を包む決定論的なラッパー — を提示し、以降の章がそのラッパーの層を順に埋めていく構成です。第2章から第4章はモデル・検索・エージェントを順に歩き、第5章と第6章はシステムが安全に進化するための評価とオブザーバビリティのレールを敷き、第7章と第8章がセキュリティとサービング経済で締めます。頭から順に読んでも、いま自分のシステムに出ている失敗モードに対応する章から入ってもかまいません。各章のウォークスルー記事は、その章の核となる3つのアイデアを蒸留し、原典を指し示します。
8章構成のウォークスルー
ウォークスルーは1章1記事、毎日更新で公開していきます。
- 4月14日 — 第1章 — AIエンジニアリングという規律。 デモと本番の信頼性ギャップと、それを閉じる5つの柱。
- 4月15日 — 第2章 — 基盤モデルとプロンプト設計。 モデル階層、サンプリング、防御的プロンプト、構造化出力を工学の面として扱う。
- 4月16日 — 第3章 — 検索拡張生成 (RAG)。 RAGパイプラインの端から端まで — チャンキング、ハイブリッド検索、クエリ変換、マルチモーダル、text-to-SQL。
- 4月17日 — 第4章 — AIエージェントとツール呼び出し。 ReActループ、契約としてのツールスキーマ、エージェントに本当に必要な3層のメモリ。
- 4月18日 — 第5章 — LLMアプリケーションの評価。 LLM-as-judge、RAG Triad、エージェント向け軌跡テスト。
- 4月19日 — 第6章 — AIオブザーバビリティとトレーシング。 OpenTelemetryのGenAIコンベンション、効いてくる指標、評価への還流ループ。
- 4月20日 — 第7章 — LLMセキュリティとガードレール。 OWASP Top 10、直接/間接インジェクションの区別、4層の緩和マトリクス。
- 4月21日 — 第8章 — パフォーマンス・サービング・コストの最適化。 セマンティックキャッシュ、動的ルーティング、そして推論サーバの中で実際に起きていること。
本書とシリーズについて
LLM Primerは、言語モデルを魔法ではなく工学として扱う全7巻のシリーズです。第5巻は5作目にあたります。ハウス・スタイルは、地味で機構本位。各章は、閉じにいく失敗モードに名前をつけ、その機構を歩き、それが住むコードを示します。「AIを受け入れよ」的な檄はありません。読者はすでにそこは決めている前提で、本書は「うまくやる」ほうの本です。以降の巻は、スケール(第6巻)と、規制環境が突きつける難しいセキュリティ・ガバナンス(第7巻)へ、さらに深く入っていきます。
