LLM入門
このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。
第9章 — モデル整合性とサプライチェーンリスク
『LLM Primer VII: AIセキュリティ』章別ウォークスルー第9回。モデル成果物を第三者配布のバイナリとして扱う章 — バイナリ配布が常に伴ってきたデシリアライゼーション、バックドア、出所の懸念を辿る。
2026-05-18第8章 — モデルへの敵対的攻撃
『LLM Primer VII: AIセキュリティ』章別ウォークスルー第8回。Goodfellow 2014 の画像分類器研究から TextFooler や universal suffix、本番 API に対するモデル窃取まで、敵対的攻撃の系譜を辿る章。
2026-05-17第7章 — ハルシネーションと信頼性
『LLM Primer VII: AIセキュリティ』章別ウォークスルー第7回。信頼性をセキュリティ的性質として扱う章 — 正しさが結果を左右する場面では、自信満々に間違った出力そのものがセキュリティ問題だからだ。
2026-05-16第6章 — RAG のリスク
『LLM Primer VII: AIセキュリティ』章別ウォークスルー第6回。検索コーパスを非信頼な入力チャネルとして扱う章 — 索引された文書はすべて、モデルから見ればユーザーの質問と同格の命令だからだ。
2026-05-15第5章 — 入力検証と出力フィルタリング
『LLM Primer VII: AIセキュリティ』章別ウォークスルー第5回。第4章の多層緩和フレームを運用規律へと落とし込む章 — サニタイズ段階、ガードレール、構造化出力、レッドチーミング、そして意味のある安全性メトリクスの話。
2026-05-14第4章 — プロンプトインジェクションとジェイルブレイク
『LLM Primer VII: AIセキュリティ』ウォークスルー第4回。実践的LLMセキュリティ問題の中心に位置する章 — なぜプロンプトインジェクションにはパラメータ化クエリに相当する構造的な修正がなく、多層の部分的防御しかないのかを説明します。
2026-05-13第3章 — データセキュリティとプライバシー
『LLM Primer VII: AIセキュリティ』ウォークスルー第3回。データを固有のライフサイクルを持つ資産として扱う — モデルが部分的に記憶している訓練コーパスから、Samsung のエンジニアが名前が付く前にChatGPTに貼り付けたユーザー入力まで、という章です。
2026-05-12第1章 — AIセキュリティがこれまでと違う理由
『LLM Primer VII: AIセキュリティ』を章ごとに紹介するウォークスルー、第1回。AIセキュリティは既存セキュリティにML形容詞を付けたものではない — 基盤が変わり、以後のすべての章がその変化から派生する、という章です。
2026-05-10LLM Primer VII — シリーズ序文 & インデックス
『LLM Primer VII: AIセキュリティ』を章ごとに紹介するウォークスルーのインデックス。シリーズ最終巻は、LLMシステムを敵対者・規制・確率的挙動から守る規律を、脅威モデルから規制の境界線まで一気に書き下ろします。
2026-05-09第15章 — サーバーレスAPI vs 専用インフラ
『LLM Primer VI』ウォークスルー第15回。損益分岐算術と、多くのチームにとって答えを傾けるプラットフォームエンジニアリングの行に名前をつける。
2026-05-07第9章 — 投機的デコード
『LLM Primer VI』ウォークスルー第9回。自己回帰の逐次ボトルネックには数学的な抜け穴がある。安価な推測と少し広い検証パスで、ターゲットモデルが1トークン分の実時間で数トークンを生む。
2026-05-01第8章 — 次世代のKVキャッシュ管理
『LLM Primer VI』ウォークスルー第8回。OSのページングをKVキャッシュに持ち込む章。PagedAttention、H2Oエビクション、InfiniGen、そしてプレフィックスキャッシュ経済圏。
2026-04-30第2章 — KVキャッシュという課題
『LLM Primer VI』ウォークスルー第2回。重みより先にサービングクラスタのVRAMを食い尽くすデータ構造 — KVキャッシュ — の算式、アーキテクチャの変種、そしてナイーブな割当が同時実行数を壊す仕組み。
2026-04-24第8章 — パフォーマンス・サービング・コストの最適化
『LLM Primer V』ウォークスルー最終回。本番LLMの経済を、層をなす規律として扱う回。最も安い呼び出しは決してされないもの、次に安いのは十分なもののうち最も小さいモデルへの呼び出し、床は推論サーバ内のKVキャッシュ・連続バッチ・投機的デコーディング。
2026-04-21第7章 — LLMセキュリティとガードレール
『LLM Primer V』ウォークスルー第7回。LLMアプリケーションが持ち込む新しいセキュリティ軸 — どこから、どれだけの権威を伴った指示がモデルに届くかを制御する軸 — を名指しし、その周りに4層の緩和マトリクスを組み立てる回。
2026-04-20第6章 — AIオブザーバビリティとトレーシング
『LLM Primer V』ウォークスルー第6回。ユーザークエリを要求ログではなく因果木として扱い、その木を可読にするためにトレースすべきものを示す回。OpenTelemetryのGenAIコンベンション、TTFT/TPOT/コスト/品質という指標、そして評価への還流ループ。
2026-04-19第5章 — LLMアプリケーションの評価
『LLM Primer V』ウォークスルー第5回。assertEqualはLLM出力に対して死んだと認めた上で、テストの規律を、錨付きジャッジ・RAG Triad・軌跡テストの上に再構築する回。本番トレースが次のリリースを門番する評価セットを養う継続ループも扱う。
2026-04-18第4章 — AIエージェントとツール呼び出し
『LLM Primer V』ウォークスルー第4回。エージェントを、スキーマ・メモリ層・マルチエージェント配線を工学的に組み立てられて初めて信頼できる「ツールに対してループするLLM」として扱う回。ReAct、契約としてのツールスキーマ、短期/長期/意味の3層メモリ。
2026-04-17第3章 — 検索拡張生成 (RAG)
『LLM Primer V』ウォークスルー第3回。RAGパイプラインを端から端まで歩き、10件のお気に入り文書で動くデモを、実運用のコーパスに耐えるシステムから分ける技法 — ハイブリッド検索、構造的チャンキング、HyDE、step-back、text-to-SQL — をまとめる。
2026-04-16第2章 — 基盤モデルとプロンプト設計
『LLM Primer V』ウォークスルー第2回。プロンプトエンジニアリングを芸ではなく工学として扱う回。モデル階層、サンプリングパラメータの2つのプロファイル、防御的プロンプトの5部構成、そして構造化出力・制約付きデコーディング。
2026-04-15シリーズ序文と目次 — LLM Primer V
『LLM Primer V: 実運用のLLMアプリケーションを設計する』のウォークスルー序文。AIエンジニアリングを一つの規律として扱い、基盤モデル・プロンプト・検索・エージェント・評価・オブザーバビリティ・セキュリティ・サービングの8つの面を歩く8章構成の全体像を示す。
2026-04-13第12章 — プロトコルの堅牢化と防御
LLM Primer IV ウォークスルー第12回。4つの防御クラスタ — 暗号アテステーション、境界付きセッション付きOAuthスコープ規律、ランタイム・サンドボックス、Human-in-the-loopゲート — を組み合わせることで、敵対的条件下でモデルが正しく振る舞うことに依存しない姿勢を作る。
2026-04-10第10章 — 長期タスクの記憶
LLM Primer IV ウォークスルー第10回。ウィンドウとReActスクラッチパッドによる短期記憶、エピソード・ベクトルと意味ストアによる長期記憶、そして数時間・数日にわたってエージェントを生産的に保つ圧縮技術。
2026-04-08第7章 — 高度な協働・動的パターン
LLM Primer IV ウォークスルー第7回。ラウンドテーブル合意、ハンドオフ・ルーティング、マジェンティック・オーケストレーション — トポロジがリクエストごとに作られねばならないときに現れるパターンと、単純なパターンが避ける失敗モード(終わらない、誤ルーティング、暴走する計画)。
2026-04-05第11章 — 継続的なアップデートとパイプライン最適化
LLM Primer III ウォークスルー、最終回。CDC とインクリメンタルなインデックス更新でコーパスを新鮮に保ち、セマンティックキャッシュとモデル階層化でレイテンシを抑え、4段のフィードバックループで本番テレメトリと実際に行う変更の橋渡しをする — そして第4巻 MCP への橋。
2026-03-28第10章 — 主要な評価フレームワーク
LLM Primer III ウォークスルー第10回。評価トライアドを実際に運用できる形にする8つのフレームワークの現場ガイド — メトリックファースト側の RAGAS、TruLens、DeepEval と、可観測性プラットフォーム側の Braintrust、LangSmith、Phoenix、Galileo、Opik、そしてどれもまだ閉じていない評価ギャップ。
2026-03-27第9章 — RAG評価トライアド
LLM Primer III ウォークスルー第9回。RAGは3つの異なる場所で失敗しうるのに、外から見ると同じ症状を出します — コンテキスト関連性、グラウンデッドネス、回答関連性という評価トライアドは、別のバグを直しながら別の症状を測ってしまうのを防ぐための、小さな粘り強い語彙です。
2026-03-26第8章 — RAGパイプラインにおけるデータ匿名化
LLM Primer III ウォークスルー第8回。生成前 vs 生成後の匿名化、3つの技法ファミリー(マスキング、合成置換、差分プライバシー)、そしてシステムが有用なまま残れるかを左右する有用性 vs プライバシーのトレードオフ。
2026-03-25第7章 — アクセス制御の実装
LLM Primer III ウォークスルー第7回。基盤としての文書単位ACL、Microsoft Purview の機密ラベルと統合する RBAC、Zanzibar と SpiceDB による ReBAC、そしてそれらすべての下で動く「事前フィルタ vs 事後フィルタ」の規律。
2026-03-24第6章 — RAGの脅威モデルと脆弱性
LLM Primer III ウォークスルー第6回。検索で広がった攻撃面 — コーパス汚染、敵対的チャンク、間接プロンプトインジェクション、埋め込み反転、そしてエージェント型 RAG での「混乱した代理人」問題。具体的な攻撃、いずれも実証済みで、いずれも再現可能。
2026-03-23第5章 — 検索パイプラインの設計
LLM Primer III ウォークスルー第5回。単発のベクトル検索はパイプラインではない理由 — ハイブリッド検索、Reciprocal Rank Fusion、クロスエンコーダ再ランキング、そしてクエリ側の書き換えと HyDE が、成熟した本番 RAG の収斂先である構成にどう組み上がるか。
2026-03-22第4章 — 適切なベクトルデータベースの選定
LLM Primer III ウォークスルー第4回。専用設計とPostgres型拡張のアーキテクチャ的分岐、マネージドの主役(Pinecone、Vertex)、オープンソース陣営(Qdrant、Milvus、Weaviate)、埋め込み型の選択肢、そして実際の選択を決める3つの運用軸 — レジデンシー、運用、コスト。
2026-03-21第3章 — アドバンスト・チャンキングのフレームワーク
LLM Primer III ウォークスルー第3回。チャンキングのスペクトラム、オーバーラップの神話、検索品質を静かに殺す「コンテキストの崖」、そしてフロンティアの計算を書き換えたコンテクスチュアル・リトリーバルとレイトチャンキングを整理します。
2026-03-20第2章 — インテリジェント文書パース
LLM Primer III ウォークスルー第2回。PDF はテキストファイルではなく、レイアウト指定書である。素朴な変換が何を捨て、レイアウト認識パーサーは何を取り戻すのか。LlamaParse、Docling、Unstructured、Marker-PDF、Firecrawl、DeepSeek-OCR の現在地と、ページ画像を直接検索するマルチモーダル系の道筋を整理します。
2026-03-19第1章 — RAGアーキテクチャの進化
LLM Primer III ウォークスルー第1回。ベースモデルの2つの構造的制約 — 凍結された知識と、出典が示せないこと — に対するアーキテクチャ上の単一の答えが、3年で4つの顔を持つに至った話です。Naive、Advanced、Modular、Agentic という4つの姿勢と、検索よりもファインチューニングが効く場面を整理します。
2026-03-18LLM Primer III — シリーズ紹介とインデックス
LLM Primer シリーズ第3巻『RAGで強化するエンタープライズAI』を、章ごとに紹介していくウォークスルーの初回です。なぜ検索拡張生成は、外から見ると単純で、中を開けると工程の積み重ねなのか。本書を誰に向けて書いたか、そして3月18日から28日までの11日間の進行を最初にお伝えします。
2026-03-17第12章 — LLM の実世界応用
LLM Primer II シリーズの第12章を紹介します。テキスト生成、要約、質問応答、翻訳、推論 — 一見ばらばらに見える応用が、ひとつの「次トークン分布」の上に静かに並んでいることを、これまでの数学のレンズで見直す章です。
2026-03-14第11章 — 評価、キャリブレーション、推論
LLM Primer II シリーズの第11章です。「何でも生成できる」機械を、いったいどうやって測るのか。パープレキシティで内在的な精度を見、キャリブレーションで自信と正答率のズレを測り、ベンチマーク値に誤差棒をつけ、ハルシネーションを RAG の幾何で抑える。第III部の締めくくりとして、誠実な評価の道具立てを整えます。
2026-03-13第7章 — 効率と Transformer の派生
LLM Primer II シリーズの第7章をご紹介させていただきます。Attention の O(n²)、GPU メモリとスループットの算数、FlashAttention の導出、そしてマルチクエリ・ゲート・低ランクといった派生たちを、控えめに見渡してまいります。
2026-03-09第6章 — Transformer ブロック
LLM Primer II シリーズの第6章をご紹介させていただきます。フィードフォワード層、活性化関数、「Attention + FFN」がなぜ補完しあう組み合わせなのか、そして深さと幅が表現力に何をもたらすのかを、控えめに眺めてまいります。
2026-03-08第5章 — 位置、順序、系列の構造
LLM Primer II シリーズの第5章をご紹介させていただきます。Attention が抱えていた「順序を見ない」という静かな不具合を、正弦波エンコーディング、相対位置、RoPE、そして Fourier の視点から控えめにたどってまいります。
2026-03-07第4章 — Attention
LLM Primer II シリーズの第4章をご紹介させていただきます。Attention を直観から導出し、クエリ・キー・バリューの幾何、softmax の温度、マルチヘッド構造、そして Attention をカーネル法として読み直す視点まで、控えめに歩いてまいります。
2026-03-06第7章 — 次トークン予測の先へ: Embedding、検索、マルチモーダル
LLM Primer I シリーズの第7章です。次トークン予測器をはるかに豊かなものへと押し上げる能力 — Embedding、セマンティック検索、Retrieval-Augmented Generation、そしてマルチモーダル入力への移行を解説します。RAG が LLM を本物の文書に「接地」させ、捏造を抑える仕組みも整理します。
2026-02-24RAGとの統合設計とは?|MCP入門 4.1|生成AIの文脈構築を強化する検索補助付き設計
RAG(検索補助付き生成)は、生成AIに最新情報や社内知識を与える鍵です。本章では、MCPとの接続方法、FAQ注入、要約統合、テンプレートとの連携など、RAGとコンテキスト設計を統合する具体的手法を紹介します。
2025-03-18RAGは今後も必要か?生成AI時代における検索設計の価値と使い続ける理由|LLM入門 7.4
長文処理に優れたLLMが登場する中で、RAGを使い続ける意味とは何か。本記事では、情報制御・更新性・出典明示・組織ナレッジ活用という観点から、RAGの価値と今後の活かし方を再評価します。
2025-03-07RAGを強化するハイブリッド検索とMulti-Vector戦略とは?検索の多視点化と精度向上の設計|LLM入門 7.2
意味検索とキーワード検索を組み合わせるハイブリッド検索、複数の視点から検索するMulti-Vector RAG。どちらもRetrieverの精度と柔軟性を高める先進的な手法です。本記事では構成・効果・導入の注意点を解説します。
2025-03-05RAGの検索精度を高める設計術:質問の正規化とドキュメントマッチングとは|LLM入門 6.2
自然文のままでは曖昧なユーザー質問を、検索に適した形式へ整える「質問の正規化」と、意味的に関連する文書を適切に選び出す「マッチング戦略」について、RAG実装の視点からわかりやすく解説します。
2025-02-28LlamaIndexとは何か?RAGにおける文書インデックス構築の強みとLangChainとの違い|LLM入門 5.3
LlamaIndexは、RAGの文書処理とインデックス管理に特化したライブラリです。本記事では、LlamaIndexの設計思想と主要機能、LangChainとの違いや併用パターン、実務での活用シーンを丁寧に解説します。
2025-02-24OpenAI Embeddingsとベクトル検索エンジンの連携方法|RAG構築の基本|LLM入門 5.1
RAGを構築する上で基本となるのが、OpenAIの埋め込みモデルとベクトルストアの組み合わせです。本記事では、text-embedding-ada-002の特徴と、FAISSやPineconeとの連携設計、実装時の注意点を詳しく解説します。
2025-02-22