LLM入門
このページでは、AI技術に関心のある方のために、LLM（大規模言語モデル）の基礎から応用までをわかりやすく解説します。
第14章 — エンジニアのための実践的知識
LLM Primer II 第14章、歩き読みシリーズの最終回です。本書を読み終えたあと、どのように理解を深め続けるか。PyTorch、JAX、Hugging Face、vLLM などの道具立てを数学に重ね、シリーズの次の巻へとご案内します。
2026-03-16第13章 — 限界、リスク、未解決の課題
LLM Primer II 第13章の歩き読みです。数学を別の向きに使い、計算コストとエネルギーの天井、データから自然に染み込んでくるバイアス、そして数学だけでは答えの出ない倫理と社会の問いを、控えめに整理します。
2026-03-15第12章 — LLM の実世界応用
LLM Primer II シリーズの第12章を紹介します。テキスト生成、要約、質問応答、翻訳、推論 — 一見ばらばらに見える応用が、ひとつの「次トークン分布」の上に静かに並んでいることを、これまでの数学のレンズで見直す章です。
2026-03-14第11章 — 評価、キャリブレーション、推論
LLM Primer II シリーズの第11章です。「何でも生成できる」機械を、いったいどうやって測るのか。パープレキシティで内在的な精度を見、キャリブレーションで自信と正答率のズレを測り、ベンチマーク値に誤差棒をつけ、ハルシネーションを RAG の幾何で抑える。第III部の締めくくりとして、誠実な評価の道具立てを整えます。
2026-03-13第10章 — ポストトレーニングとアラインメントの数学
LLM Primer II シリーズの第10章です。事前学習で出来上がった「賢いが野生のままの次トークン予測器」を、いかにして役に立つアシスタントへと飼い慣らすか。教師ありファインチューニング、Bradley–Terry に基づく報酬モデル、KL の手綱付き RLHF、そして報酬モデルも RL ループも消し去る DPO の鮮やかな導出。アラインメントの数学を、3つの楽章として整理します。
2026-03-12第9章 — スケールでの学習
LLM Primer II シリーズの第9章を紹介します。データ前処理が後段すべてを静かに左右する数学、ミニバッチと並列化の力学、そして数千の GPU にまたがる学習を数値的に安定に保つための、思いのほか繊細な工夫を、控えめに整理します。
2026-03-11第8章 — モデルはどう学ぶか
LLM Primer II シリーズの第8章を紹介します。古典的な統計学習理論が「過学習するはず」と告げる規模で、なぜ大規模モデルは汎化してしまうのか。勾配降下法の暗黙的バイアス、スケーリング則、そして「まだ分かっていないこと」を、控えめに整理します。
2026-03-10第7章 — 効率と Transformer の派生
LLM Primer II シリーズの第7章をご紹介させていただきます。Attention の O(n²)、GPU メモリとスループットの算数、FlashAttention の導出、そしてマルチクエリ・ゲート・低ランクといった派生たちを、控えめに見渡してまいります。
2026-03-09第6章 — Transformer ブロック
LLM Primer II シリーズの第6章をご紹介させていただきます。フィードフォワード層、活性化関数、「Attention + FFN」がなぜ補完しあう組み合わせなのか、そして深さと幅が表現力に何をもたらすのかを、控えめに眺めてまいります。
2026-03-08第5章 — 位置、順序、系列の構造
LLM Primer II シリーズの第5章をご紹介させていただきます。Attention が抱えていた「順序を見ない」という静かな不具合を、正弦波エンコーディング、相対位置、RoPE、そして Fourier の視点から控えめにたどってまいります。
2026-03-07第4章 — Attention
LLM Primer II シリーズの第4章をご紹介させていただきます。Attention を直観から導出し、クエリ・キー・バリューの幾何、softmax の温度、マルチヘッド構造、そして Attention をカーネル法として読み直す視点まで、控えめに歩いてまいります。
2026-03-06第3章 — 数学的な道具立て
LLM Primer II シリーズの第3章です。本書が必要とする確率と線形代数を、必要な分量で、必要な順番で並べさせていただく短い章。最尤推定としての訓練、ベクトル空間と埋め込み、そして Attention への橋渡し。
2026-03-05第2章 — LLM を文脈に置く
LLM Primer II シリーズの第2章です。前作『LLM Primer』の素朴な物語と、本書の数学とを橋渡しする章。LLM とはなにか、事前学習・パラメータ・スケール、データとしての言語、そしてトランスフォーマーが風景を塗り替えた理由。
2026-03-04第1章 — 言語モデルのための数学的直観
LLM Primer II シリーズの第1章です。数式と読み手とのあいだに立っている「壁」を、そっと脇に避けるところから始めます。記号、言語生成のための確率、そして不確かさを測るためのエントロピー。
2026-03-03第12章 — 自分の LLM システムを構築する: データセットから本番まで
LLM Primer I シリーズの第12章です。最終章。LLM 駆動システムをエンドツーエンドで構築するために本当に必要なもの — データセットとライセンス、学習パイプライン、評価フレームワーク、統合アプリケーションスタック、そして成功するデプロイメントを失敗するパイロットから分けるケーススタディのパターンを扱います。
2026-03-01第11章 — 最先端の研究: MoE、推論モデル、新しいスケーリング軸
LLM Primer I シリーズの第11章です。すでに本番の現実となった研究フロンティア — Mixture-of-Experts、検索で拡張するメモリ、ネイティブマルチモーダルのトークン化、継続学習、そして今日の推論モデルを生み出した Inference-Time Scaling のパラダイムを解説します。2026年版で最大のコンテンツ追加です。
2026-02-28第10章 — 安全性、倫理、信頼: マーケティングの先へ
LLM Primer I シリーズの第10章です。LLM の安全性についての正直な像 — なぜハルシネーションが構造的に起きるのか、バイアスは本当はどこに宿るのか、多層ガードレールはどう機能するのか、そしてなぜ技術的コントロールでは置き換えられない制度的レイヤーがガバナンスなのかを解説します。安全に「出す」必要のある実務者向けです。
2026-02-27第9章 — パフォーマンス、スケーリング、コスト: 本物のエンジニアリング・トレードオフ
LLM Primer I シリーズの第9章です。LLM をスケールで運用する現実 — モデルサイズと能力、レイテンシとスループットのトレードオフ、コストの経済学、量子化、エッジ展開を扱います。フロンティアモデルが、たとえ予算的に手が届いてもしばしば誤った選択肢になる理由も整理します。
2026-02-26第8章 — アプリケーションで LLM を使う: チャットボット、コード、抽出、エージェント
LLM Primer I シリーズの第8章です。実際に本番で動くアプリケーションパターン — チャットボット、要約、コードアシスタント、構造化抽出、そしてモデル自身がツール利用ループを駆動するエージェント型システムの台頭を解説します。さらに、エンジニアが名前で押さえておくべきベンチマーク群も整理します。
2026-02-25第7章 — 次トークン予測の先へ: Embedding、検索、マルチモーダル
LLM Primer I シリーズの第7章です。次トークン予測器をはるかに豊かなものへと押し上げる能力 — Embedding、セマンティック検索、Retrieval-Augmented Generation、そしてマルチモーダル入力への移行を解説します。RAG が LLM を本物の文書に「接地」させ、捏造を抑える仕組みも整理します。
2026-02-24第6章 — ファインチューニングと適応: 生のモデルから役に立つアシスタントへ
LLM Primer I シリーズの第6章です。プロンプトベースの安価な操作から、パラメータ効率の良いファインチューニング、そして RLHF やその現代的な後継 DPO による本格的なアライメントまで、適応の全スタックを扱います。なぜ今や API 型クローズドモデルの差別化要因が後学習にあるのかも整理します。
2026-02-23第5章 — 大規模モデルの学習: フロンティアモデルを支える本当のコスト
LLM Primer I シリーズの第5章です。フロンティア LLM が実際にどう学習されるか — データパイプライン、損失関数、数か月にわたる GPU 時間、そして「学習」が今や研究よりも産業規模のエンジニアリング問題になっている理由を解説します。数億ドル規模の学習ランが何にお金を払っているかを解きほぐします。
2026-02-22第4章 — Transformer アーキテクチャ: 現代AIのエンジンの中身
LLM Primer I シリーズの第4章です。Transformer ブロックをツアーします。Self-Attention、位置エンコーディング、層のスタックがどう組み合わさって、現代の LLM の基盤となるアーキテクチャを構成しているか。Transformer のスケーリングがなぜ機能するか、そして何のコストがかかるかも明快に解説します。
2026-02-21第3章 — 言語のためのニューラルネットワーク: RNN から Self-Attention へ
LLM Primer I シリーズの第3章です。なぜ Feedforward では言語を扱えなかったか、RNN がどう壁にぶつかったか、そして Attention が何を変えたかを解説します。現代の NLP を定義した3つのニューラルネットワーク形態を、数学アレルギーなしで整理できる構成です。
2026-02-20第2章 — 確率、トークン、テキスト: 次の単語を当てるゲーム
LLM Primer I シリーズの第2章です。LLM がテキストをトークンに変換する仕組み、なぜ言語モデリングが本質的に確率の問題なのか、そして昔の n-gram アプローチが汎化できるニューラルモデルにどう道を譲ったかを解説します。パープレキシティのやさしい言葉での説明と、トークン境界がなぜ重要かも扱います。
2026-02-19第1章 — 大規模言語モデルとは何か (見出しの先へ)
LLM Primer I シリーズの第1章です。「大規模」「言語」「モデル」が本当に何を意味するのかをひも解き、ルールベースシステムからニューラルネットへの移行を追い、現代のLLMの動作についての3つの大きな誤解を取り上げます。この先のすべての土台となる、明快で読みやすい入口です。
2026-02-18LLM Primer I 章ごとのウォークスルー — シリーズ序文とインデックス
LLM Primer I:『生成AIの仕組み』の章ごとに紹介する全12回シリーズの序文とインデックスです。順番に読むことも、関心のある章だけを選んで読むこともできます。12本すべての記事をここから辿れます。
2026-02-17
LLM入門書シリーズ — 生成AIを理解するために、分解してみる
LLM入門書シリーズは、大規模言語モデルとどう向き合うかを、全7巻にわたって扱う入門書です。第1巻の基礎から、第6巻の本番運用、第7巻の安全性まで、巻ごとに別の角度から取り上げています。このページでは、シリーズ全体の構成と、すでに読める第1巻・第2巻について、章ごとの解説をまとめて紹介します。
2026-02-15
人格・役割・意図の設計とは？｜MCP入門 7.4｜AIの“存在”をプロトコルで定義する方法
AIが人格を持ち、役割を柔軟に切り替え、意図を理解して発話する時代が始まろうとしています。本記事では、MCPによってこうした構成要素をどのように設計・再現し、対話的存在としてのAIを実現できるのかを解説します。
2025-04-05
OpenAI GPT、Claude、Geminiの文脈処理とは？｜MCP入門 7.1｜各社LLMの設計思想とMCPの位置づけ
各社LLMは文脈や状態の扱い方に独自のアプローチを持っています。本記事ではOpenAI GPTのSystem MessageとMemory API、Claudeの自己内省型設計、Geminiのマルチモーダル連携を比較し、MCPが果たす中立的な役割を明らかにします。
2025-04-02
MCPの未来と標準化への道とは？｜MCP入門 7.0｜AI文脈設計の次なるステージとグローバル接続性
Model Context Protocol（MCP）はAIの文脈理解と再現性を支える設計思想です。最終章では、各社LLMとの親和性、Memory API連携、W3C標準化、人格と役割の制御まで、MCPの未来像を展望します。
2025-04-01
モデルの“意図解釈”と状態伝達とは？｜MCP入門 6.0｜プロンプトに込められた意図を理解するLLM設計
LLMが正しく応答するためには、文脈だけでなく“何を求められているか”という意図を読み取る力が不可欠です。本章では、明示的な制約・システムメッセージ・構造化文脈などを通じて、モデルがどのように内部状態を形成するかを解説します。
2025-03-27
MCPの実践設計パターンとは？｜第5章｜チャット・RAG・ツール統合まで網羅的に解説
この章では、Model Context Protocol（MCP）を具体的にどう活用すべきか、チャットボット、タスク切替、RAG、マルチエージェントシステムといった現実的ユースケースごとに設計パターンを解説します。
2025-03-22
外部ツールとのプロトコル統合とは？｜MCP入門 4.4｜カレンダー・チャット・CRMをAIと連携する設計法
SlackやGoogle Calendar、Salesforceなどの外部ツールと生成AIを連携し、チャットから予定作成や顧客データ操作を行う方法を解説。MCPを活用し、文脈の更新・アクション提案・認証設計まで詳しく紹介します。
2025-03-21
複数モデル（LLM）の使い分け設計とは？｜MCP入門 4.2｜GPT-4・Claude・Geminiをタスクごとに最適活用
GPT-4、Claude、Geminiなど複数のLLMを目的に応じて使い分ける設計は、生成AIの品質・速度・コスト最適化に不可欠です。本節では、MCPによる役割分担、タスク別・属性別・フォールバック・ワークフロー設計を詳しく解説します。
2025-03-19
RAGとの統合設計とは？｜MCP入門 4.1｜生成AIの文脈構築を強化する検索補助付き設計
RAG（検索補助付き生成）は、生成AIに最新情報や社内知識を与える鍵です。本章では、MCPとの接続方法、FAQ注入、要約統合、テンプレートとの連携など、RAGとコンテキスト設計を統合する具体的手法を紹介します。
2025-03-18
コンテキストマネジメントとは？｜MCP入門 3.2｜履歴と外部情報を活かす生成AI設計
生成AIの出力品質は、どんな文脈や履歴情報を参照しているかで決まります。本章では、チャット履歴要約・外部ベクター検索・ユーザープロファイル統合といったMCP設計の基礎を丁寧に解説します。
2025-03-14
システムインストラクションの設計パターンとは？｜MCP入門 3.1｜生成AIの人格と振る舞いの設計
生成AIの出力に一貫性と目的を持たせるには、システムインストラクションの設計が重要です。MCPにおける役割、トーン、ルール、タスク駆動型など、代表的な設計パターンをわかりやすく解説します。
2025-03-13
RAG時代の設計者とは？検索と生成をつなぎ、AIを業務に根づかせる方法｜LLM入門 終章
RAGの本質は、情報の選別と構造化を通じて生成AIの文脈を設計すること。本章では、生成AI時代に求められる「検索と生成をつなぐ設計者」の役割と、今後の学びと実装の地図を示します。
2025-03-08
RAGは今後も必要か？生成AI時代における検索設計の価値と使い続ける理由｜LLM入門 7.4
長文処理に優れたLLMが登場する中で、RAGを使い続ける意味とは何か。本記事では、情報制御・更新性・出典明示・組織ナレッジ活用という観点から、RAGの価値と今後の活かし方を再評価します。
2025-03-07
Model Context Protocol（MCP）とは何か？｜MCP入門 第2章｜生成AIの文脈設計の新常識
MCP（Model Context Protocol）とは、生成AIにおける文脈と状態を体系的に制御・再現するための設計原則です。本章ではMCPの定義、従来のプロンプト設計との違い、状態設計による一貫性の向上、実装例などをわかりやすく解説します。
2025-03-07
RAGは本当に不要になるのか？長文対応LLM時代の検索戦略を再考する｜LLM入門 7.3
GPT-4 128kやClaude 2の登場により、「検索せず全文渡す」構成が可能になってきました。本記事ではRetrieval不要論の背景と現実的な限界、そしてRAGの再定義について丁寧に解説します。
2025-03-06
RAGにおける幻覚とは？情報の過不足を防ぎ生成精度を高める設計法｜LLM入門 7.1
RAG構成でも、LLMによる幻覚（hallucination）は発生します。本記事では、Retriever精度、プロンプト設計、出典明示などにより幻覚を抑える具体的な方法と、検知・評価の技術までを丁寧に解説します。
2025-03-04
モデルコンテキストの基礎｜MCP入門 第1章｜生成AIが文脈を理解する仕組み
生成AIやChatGPTの出力がなぜ“賢く”見えるのか？その鍵は文脈にあります。MCP（Model Context Protocol）の理解に必要な、AIと文脈の関係、プロンプトとの違い、コンテキストウィンドウの制約などをわかりやすく解説します。
2025-03-02
Azure Cognitive SearchやElasticでRAGを実現する方法｜既存検索基盤を活かす構成とは｜LLM入門 5.4
RAGはLangChainやLlamaIndex以外にも、Azure Cognitive SearchやElasticsearchといった既存インフラでも構築可能です。本記事では、それぞれの特徴や適用例、選定ポイントをわかりやすく整理します。
2025-02-25
LlamaIndexとは何か？RAGにおける文書インデックス構築の強みとLangChainとの違い｜LLM入門 5.3
LlamaIndexは、RAGの文書処理とインデックス管理に特化したライブラリです。本記事では、LlamaIndexの設計思想と主要機能、LangChainとの違いや併用パターン、実務での活用シーンを丁寧に解説します。
2025-02-24
LangChainでRAGを構築する方法とは？RetrieverからLLM連携まで徹底解説｜LLM入門 5.2
LangChainはRAG構築において、Retriever・LLM・プロンプトを一貫してつなぐフレームワークです。本記事では、各モジュールの役割と構成例、導入のメリット・注意点までを、実装の視点からわかりやすく解説します。
2025-02-23
OpenAI Embeddingsとベクトル検索エンジンの連携方法｜RAG構築の基本｜LLM入門 5.1
RAGを構築する上で基本となるのが、OpenAIの埋め込みモデルとベクトルストアの組み合わせです。本記事では、text-embedding-ada-002の特徴と、FAISSやPineconeとの連携設計、実装時の注意点を詳しく解説します。
2025-02-22
RAG構築に使える主要ツールとサービスの選び方｜LLM入門 第5章
RAGを実装するには、適切なツールやサービスの選定が不可欠です。本章では、OpenAI Embeddings、LangChain、LlamaIndex、Azure Cognitive Searchなど、RAG構築に役立つ代表的な選択肢を比較・解説します。
2025-02-21