LLM Primer VII — シリーズ序文 & インデックス

公開日: 2026-05-09 最終更新日: 2026-07-13 バージョン: 1
LLM Primer VII — シリーズ序文 & インデックス

LLM Primer VII — シリーズ序文 & インデックス

『LLM Primer VII: AIセキュリティ』を章ごとに紹介するウォークスルー。LLM Primerのエンジニアリングの弧が最後に着地するのは、敵対者・規制・そして確率的システムの日々の失敗から、それまでのすべてを守れるかどうかを決める規律 — セキュリティです。

なぜこのシリーズがあるのか

従来のセキュリティでは、コードとデータは別物だった。パーサ、エスケープ、パラメータ化クエリはすべて、この分離の上に立っている。LLMシステムでは、開発者の指示を運ぶのと同じ文字列が、ユーザー入力も、検索してきたドキュメントも、ツールの実行結果も、そして訓練中にモデルが見たそれらに似た何かも運ぶ。トランスフォーマーに対して構文的に「絶対に不活性」と証明できる位置は存在せず、モデルが指示ではなくデータとして読むと保証できる部分文字列も存在しない。この構造的な衝突があるからこそ、プロンプトインジェクション、ジェイルブレイク、敵対的攻撃は「パッチを当てる実装バグ」ではなく「設計として管理する帰結」になる。LLMシステムのセキュリティ規律は、資産・敵対者・統制・インシデントといった従来セキュリティの語彙を受け継ぎつつ、その下の基盤を作り直す。第VII巻はその作り直しを、脅威モデルから規制の境界線まで書き下ろしたものだ。

本書をひとことで: LLMセキュリティは、最も強力な構成要素が「あらゆる入力を潜在的な指示として読む確率的関数」であるシステムを守る規律であり、その失敗モードは、パッチではなく、アーキテクチャ・評価・可観測性・ガバナンスを通じて管理せざるを得ない。

想定読者

本番でLLMを運用することになり、既存のプレイブックのどこがまだ通用するのかを考えているセキュリティエンジニア。モデルを訓練あるいはファインチューニングした側で、これから誰がそれを攻撃してくるのかを推論しなければならないMLエンジニア。推論スタックを運用し、悪用パターンが跳ねたときに呼び出されるプラットフォームリードとSRE。AIの本番投入にサインし、取締役会・規制当局・監査人に対して、確率分布を返す構成要素における「安全」とは何かを説明する立場にあるCISO。本書は本番エンジニアリングに慣れていることは前提とするが、敵対的機械学習の前提知識は求めない。モデル中心の部分は第一原理から立ち上げ、既存のセキュリティ規律と接続できる箇所ではきちんとつなぐ。

読み方

全17章は6つのパートに分かれる。第1〜3章は基礎 — AIセキュリティが何ゆえに違うのか、LLMシステムをどう脅威モデリングするか、そしてライフサイクル全体でのデータの扱い。第4〜6章はプロンプトと対話の層 — プロンプトインジェクション、入出力フィルタリング、そしてRAG。第7〜9章はモデルそのもの — 信頼性の失敗としてのハルシネーション、敵対的攻撃、そしてモデルのサプライチェーン。第10〜12章はモデルを囲むシステムアーキテクチャ — 隔離、可観測性、アクセス制御。第13〜15章はガバナンスの境界 — 規制、責任あるAI、そしてこの規律を担う組織。第16章はファインチューニングを独自のセキュリティ表面として扱い、第17章はまだ形成途中の新興脅威で締めくくる。

17章のウォークスルー

5月10日から5月26日まで、ウォークスルーは1日1章のペースで公開される。各記事は章の3つの要点を約5分で読める形にまとめている。実際に手を動かす例、コード、そして In Plain English サイドバーは書籍の章本体にある。

『LLM Primer』シリーズはここで完結: 第I巻はトランスフォーマー・アーキテクチャの基礎を、第II巻は訓練とアラインメントの数学を、第III巻は検索拡張生成のパイプラインを、第IV巻はそれを囲むプロトコル形の認知とツールを、第V巻は本番アプリケーションを、第VI巻はスケール時の推論インフラを築いた — そして第VII巻で、その6巻すべてが敵対者と出会う。姉妹巻『Physical AI』はこの地図を身体化システムへと延長する。同じ確率的基盤が、いまやアクチュエータを制御し、人間と物理空間を共有する場面での話だ。

本書とシリーズについて

『LLM Primer』シリーズは下田翔が著した全7巻で、Amazon KDP で刊行し、レシートローラーのブログで章ごとに読める。シリーズの主張は、LLM で構築することは「システムの規律」であり、その規律はチェックリスト形式ではなく、スタックの各層を仕組みから順に歩く散文で最もよく学べる、というものだ。第VII巻はその弧を閉じる。セキュリティの巻であると同時に、他の6巻を敵対的な視線で読み直す巻でもある — 第III巻の検索パイプラインを注入経路として、第VI巻の推論スタックをレート制限の境界として、第II巻のアラインメント作業をファインチューニングの攻撃面として。以前の巻が「こう動く」と述べていたのに対し、本巻は「こうすれば失敗させられる、そしてそれにどう対処するか」を述べる。

書籍で読む。 書籍には、記事版では要約しかない要素がすべて入っている — 実際に動くコード例、レダクションとガードレールとロールバックの Python、OPA ポリシーと CI 評価ゲートの YAML、より長い形のインシデントプレイブック、そして In Plain English サイドバー。Amazonで『LLM Primer VII』を見る →
LLM Primer VII AIセキュリティ シリーズ序文 インデックス プロンプトインジェクション 脅威モデリング
下田 昌平
下田 昌平
開発と設計を担当。1994年からプログラミングを始め、今もなお最新技術への探究心を持ち続けています。