LLM入門
このページでは、AI技術に関心のある方のために、LLM（大規模言語モデル）の基礎から応用までをわかりやすく解説します。
第14章 — エンジニアのための実践的知識
LLM Primer II 第14章、歩き読みシリーズの最終回です。本書を読み終えたあと、どのように理解を深め続けるか。PyTorch、JAX、Hugging Face、vLLM などの道具立てを数学に重ね、シリーズの次の巻へとご案内します。
2026-03-16第13章 — 限界、リスク、未解決の課題
LLM Primer II 第13章の歩き読みです。数学を別の向きに使い、計算コストとエネルギーの天井、データから自然に染み込んでくるバイアス、そして数学だけでは答えの出ない倫理と社会の問いを、控えめに整理します。
2026-03-15第12章 — LLM の実世界応用
LLM Primer II シリーズの第12章を紹介します。テキスト生成、要約、質問応答、翻訳、推論 — 一見ばらばらに見える応用が、ひとつの「次トークン分布」の上に静かに並んでいることを、これまでの数学のレンズで見直す章です。
2026-03-14第10章 — ポストトレーニングとアラインメントの数学
LLM Primer II シリーズの第10章です。事前学習で出来上がった「賢いが野生のままの次トークン予測器」を、いかにして役に立つアシスタントへと飼い慣らすか。教師ありファインチューニング、Bradley–Terry に基づく報酬モデル、KL の手綱付き RLHF、そして報酬モデルも RL ループも消し去る DPO の鮮やかな導出。アラインメントの数学を、3つの楽章として整理します。
2026-03-12第7章 — 効率と Transformer の派生
LLM Primer II シリーズの第7章をご紹介させていただきます。Attention の O(n²)、GPU メモリとスループットの算数、FlashAttention の導出、そしてマルチクエリ・ゲート・低ランクといった派生たちを、控えめに見渡してまいります。
2026-03-09第4章 — Attention
LLM Primer II シリーズの第4章をご紹介させていただきます。Attention を直観から導出し、クエリ・キー・バリューの幾何、softmax の温度、マルチヘッド構造、そして Attention をカーネル法として読み直す視点まで、控えめに歩いてまいります。
2026-03-06第2章 — LLM を文脈に置く
LLM Primer II シリーズの第2章です。前作『LLM Primer』の素朴な物語と、本書の数学とを橋渡しする章。LLM とはなにか、事前学習・パラメータ・スケール、データとしての言語、そしてトランスフォーマーが風景を塗り替えた理由。
2026-03-04第12章 — 自分の LLM システムを構築する: データセットから本番まで
LLM Primer I シリーズの第12章です。最終章。LLM 駆動システムをエンドツーエンドで構築するために本当に必要なもの — データセットとライセンス、学習パイプライン、評価フレームワーク、統合アプリケーションスタック、そして成功するデプロイメントを失敗するパイロットから分けるケーススタディのパターンを扱います。
2026-03-01第11章 — 最先端の研究: MoE、推論モデル、新しいスケーリング軸
LLM Primer I シリーズの第11章です。すでに本番の現実となった研究フロンティア — Mixture-of-Experts、検索で拡張するメモリ、ネイティブマルチモーダルのトークン化、継続学習、そして今日の推論モデルを生み出した Inference-Time Scaling のパラダイムを解説します。2026年版で最大のコンテンツ追加です。
2026-02-28第9章 — パフォーマンス、スケーリング、コスト: 本物のエンジニアリング・トレードオフ
LLM Primer I シリーズの第9章です。LLM をスケールで運用する現実 — モデルサイズと能力、レイテンシとスループットのトレードオフ、コストの経済学、量子化、エッジ展開を扱います。フロンティアモデルが、たとえ予算的に手が届いてもしばしば誤った選択肢になる理由も整理します。
2026-02-26第8章 — アプリケーションで LLM を使う: チャットボット、コード、抽出、エージェント
LLM Primer I シリーズの第8章です。実際に本番で動くアプリケーションパターン — チャットボット、要約、コードアシスタント、構造化抽出、そしてモデル自身がツール利用ループを駆動するエージェント型システムの台頭を解説します。さらに、エンジニアが名前で押さえておくべきベンチマーク群も整理します。
2026-02-25第7章 — 次トークン予測の先へ: Embedding、検索、マルチモーダル
LLM Primer I シリーズの第7章です。次トークン予測器をはるかに豊かなものへと押し上げる能力 — Embedding、セマンティック検索、Retrieval-Augmented Generation、そしてマルチモーダル入力への移行を解説します。RAG が LLM を本物の文書に「接地」させ、捏造を抑える仕組みも整理します。
2026-02-24第6章 — ファインチューニングと適応: 生のモデルから役に立つアシスタントへ
LLM Primer I シリーズの第6章です。プロンプトベースの安価な操作から、パラメータ効率の良いファインチューニング、そして RLHF やその現代的な後継 DPO による本格的なアライメントまで、適応の全スタックを扱います。なぜ今や API 型クローズドモデルの差別化要因が後学習にあるのかも整理します。
2026-02-23第4章 — Transformer アーキテクチャ: 現代AIのエンジンの中身
LLM Primer I シリーズの第4章です。Transformer ブロックをツアーします。Self-Attention、位置エンコーディング、層のスタックがどう組み合わさって、現代の LLM の基盤となるアーキテクチャを構成しているか。Transformer のスケーリングがなぜ機能するか、そして何のコストがかかるかも明快に解説します。
2026-02-21第3章 — 言語のためのニューラルネットワーク: RNN から Self-Attention へ
LLM Primer I シリーズの第3章です。なぜ Feedforward では言語を扱えなかったか、RNN がどう壁にぶつかったか、そして Attention が何を変えたかを解説します。現代の NLP を定義した3つのニューラルネットワーク形態を、数学アレルギーなしで整理できる構成です。
2026-02-20第1章 — 大規模言語モデルとは何か (見出しの先へ)
LLM Primer I シリーズの第1章です。「大規模」「言語」「モデル」が本当に何を意味するのかをひも解き、ルールベースシステムからニューラルネットへの移行を追い、現代のLLMの動作についての3つの大きな誤解を取り上げます。この先のすべての土台となる、明快で読みやすい入口です。
2026-02-18LLM Primer I 章ごとのウォークスルー — シリーズ序文とインデックス
LLM Primer I:『生成AIの仕組み』の章ごとに紹介する全12回シリーズの序文とインデックスです。順番に読むことも、関心のある章だけを選んで読むこともできます。12本すべての記事をここから辿れます。
2026-02-17
LLM入門書シリーズ — 生成AIを理解するために、分解してみる
LLM入門書シリーズは、大規模言語モデルとどう向き合うかを、全7巻にわたって扱う入門書です。第1巻の基礎から、第6巻の本番運用、第7巻の安全性まで、巻ごとに別の角度から取り上げています。このページでは、シリーズ全体の構成と、すでに読める第1巻・第2巻について、章ごとの解説をまとめて紹介します。
2026-02-15W3CのAI Context仕様とは？｜MCP入門 7.3｜文脈の国際標準化とMCPの役割
AIの意思決定や会話文脈を明示的に設計するため、W3CではAI Context仕様の標準化が進んでいます。本記事ではその動向と、MCPとの親和性や将来のマッピング可能性について詳しく解説します。
2025-04-04
LLM Memory APIとMCPの違いとは？｜MCP入門 7.2｜ユーザー記憶と文脈設計を統合する方法
ユーザー情報や履歴を保存するMemory APIと、構造的な文脈設計を担うMCPは、目的も実装も異なります。本記事では両者の違いと補完関係、そして信頼性の高いプロンプト設計に向けた統合戦略を具体的に解説します。
2025-04-03
OpenAI GPT、Claude、Geminiの文脈処理とは？｜MCP入門 7.1｜各社LLMの設計思想とMCPの位置づけ
各社LLMは文脈や状態の扱い方に独自のアプローチを持っています。本記事ではOpenAI GPTのSystem MessageとMemory API、Claudeの自己内省型設計、Geminiのマルチモーダル連携を比較し、MCPが果たす中立的な役割を明らかにします。
2025-04-02
JSONスキーマによる状態制御の工夫とは？｜MCP入門 6.4｜一貫性あるAI応答を実現する構造的設計
生成AIの応答を安定化させるには、“状態”の明示が不可欠です。本記事では、MCP設計におけるJSONスキーマの活用方法を詳しく解説し、意図や画面状況をモデルに正しく伝える設計戦略を紹介します。
2025-03-31
システムメッセージ vs ユーザープロンプトとは？｜MCP入門 6.2｜LLMの人格と応答品質を分ける設計手法
プロンプトには“誰が話すか”という役割の違いがあります。本記事では、システムメッセージとユーザープロンプトの違いを明確化し、モデルの態度・目的意識・人格形成に与える影響、MCP設計への応用を詳しく解説します。
2025-03-29
モデルの“意図解釈”と状態伝達とは？｜MCP入門 6.0｜プロンプトに込められた意図を理解するLLM設計
LLMが正しく応答するためには、文脈だけでなく“何を求められているか”という意図を読み取る力が不可欠です。本章では、明示的な制約・システムメッセージ・構造化文脈などを通じて、モデルがどのように内部状態を形成するかを解説します。
2025-03-27
ツール活用 / マルチエージェントシステムでのMCP適用例とは？｜MCP入門 5.4｜複数エージェントとツールを統合する文脈設計
ツール活用やマルチエージェント設計では、AIが状態や目的を共有しながら協調する必要があります。MCPを活用することで、共通の文脈管理・状態同期・出力整理を実現し、複雑な連携を安定運用できる方法を解説します。
2025-03-26
タスク分離とセッション切り替えとは？｜MCP入門 5.2｜AI応答の誤りを防ぐ文脈設計
1人のユーザーが複数の目的でAIと対話する時、文脈の混在は誤応答や情報漏洩の原因になります。MCPによるセッションIDやタスクタグの活用により、タスク単位の文脈を安全かつ自然に切り替える方法を詳しく解説します。
2025-03-24
MCPの実践設計パターンとは？｜第5章｜チャット・RAG・ツール統合まで網羅的に解説
この章では、Model Context Protocol（MCP）を具体的にどう活用すべきか、チャットボット、タスク切替、RAG、マルチエージェントシステムといった現実的ユースケースごとに設計パターンを解説します。
2025-03-22
外部ツールとのプロトコル統合とは？｜MCP入門 4.4｜カレンダー・チャット・CRMをAIと連携する設計法
SlackやGoogle Calendar、Salesforceなどの外部ツールと生成AIを連携し、チャットから予定作成や顧客データ操作を行う方法を解説。MCPを活用し、文脈の更新・アクション提案・認証設計まで詳しく紹介します。
2025-03-21
マルチセッションとユーザー管理とは？｜MCP入門 4.3｜生成AIで複数会話と文脈を自在に制御する方法
一人のユーザーが複数の会話・プロジェクト・目的を同時に扱う時代において、セッション分離と状態復元は不可欠です。本章では、MCPを活用したマルチセッション設計、履歴管理、テンプレート切替、セキュリティまでを詳しく解説します。
2025-03-20
RAGとの統合設計とは？｜MCP入門 4.1｜生成AIの文脈構築を強化する検索補助付き設計
RAG（検索補助付き生成）は、生成AIに最新情報や社内知識を与える鍵です。本章では、MCPとの接続方法、FAQ注入、要約統合、テンプレートとの連携など、RAGとコンテキスト設計を統合する具体的手法を紹介します。
2025-03-18
MCPの拡張と統合とは？｜MCP入門 第4章｜RAG・マルチモデル・外部ツール連携の設計手法
MCP（Model Context Protocol）の応用編として、RAGの統合、複数LLMの使い分け、マルチセッション管理、外部ツールとの連携など、生成AIを高度に運用するための設計フレームワークを解説します。
2025-03-17
ユーザー状態とモデル状態の同期とは？｜MCP入門 3.4｜生成AIの一貫した応答設計
生成AIの出力の一貫性を保つには、ユーザーとモデルの状態を同期させることが重要です。MCPでは、セッションメモリ、タスク管理、ステートマシン、感情トラッキングなどを活用して文脈と目的を揃える設計が求められます。
2025-03-16
テンプレートとスロットの設計とは？｜MCP入門 3.3｜生成AIの柔軟で安全な文脈構築法
生成AIの出力に一貫性と安全性を持たせるには、テンプレートとスロット設計が重要です。本章では、プロンプトテンプレート、文脈スロット化、入力サニタイズなど、再利用とセキュリティを両立する具体的なパターンを解説します。
2025-03-15
コンテキストマネジメントとは？｜MCP入門 3.2｜履歴と外部情報を活かす生成AI設計
生成AIの出力品質は、どんな文脈や履歴情報を参照しているかで決まります。本章では、チャット履歴要約・外部ベクター検索・ユーザープロファイル統合といったMCP設計の基礎を丁寧に解説します。
2025-03-14
従来のプロンプト設計とMCPの違いとは？｜MCP入門 2.2｜生成AI設計の新常識
プロンプトエンジニアリングでは限界がある。MCP（Model Context Protocol）は、文脈と状態を分離・構造化することで、一貫性・拡張性・再現性を備えた生成AIの設計を可能にします。従来手法との違いを比較しながら丁寧に解説。
2025-03-09
RAG時代の設計者とは？検索と生成をつなぎ、AIを業務に根づかせる方法｜LLM入門 終章
RAGの本質は、情報の選別と構造化を通じて生成AIの文脈を設計すること。本章では、生成AI時代に求められる「検索と生成をつなぐ設計者」の役割と、今後の学びと実装の地図を示します。
2025-03-08
RAGは今後も必要か？生成AI時代における検索設計の価値と使い続ける理由｜LLM入門 7.4
長文処理に優れたLLMが登場する中で、RAGを使い続ける意味とは何か。本記事では、情報制御・更新性・出典明示・組織ナレッジ活用という観点から、RAGの価値と今後の活かし方を再評価します。
2025-03-07
Model Context Protocol（MCP）とは何か？｜MCP入門 第2章｜生成AIの文脈設計の新常識
MCP（Model Context Protocol）とは、生成AIにおける文脈と状態を体系的に制御・再現するための設計原則です。本章ではMCPの定義、従来のプロンプト設計との違い、状態設計による一貫性の向上、実装例などをわかりやすく解説します。
2025-03-07
RAGは本当に不要になるのか？長文対応LLM時代の検索戦略を再考する｜LLM入門 7.3
GPT-4 128kやClaude 2の登場により、「検索せず全文渡す」構成が可能になってきました。本記事ではRetrieval不要論の背景と現実的な限界、そしてRAGの再定義について丁寧に解説します。
2025-03-06
モデルにとっての記憶とは何か？｜MCP入門 1.4｜生成AIと文脈再現の技術
生成AIは本当に記憶しているのか？実は、AIの“記憶”は文脈の再構築にすぎません。エフェメラルメモリ・永続メモリ・役割設計など、MCP（Model Context Protocol）での記憶制御の仕組みをわかりやすく解説します。
2025-03-06
RAGを強化するハイブリッド検索とMulti-Vector戦略とは？検索の多視点化と精度向上の設計｜LLM入門 7.2
意味検索とキーワード検索を組み合わせるハイブリッド検索、複数の視点から検索するMulti-Vector RAG。どちらもRetrieverの精度と柔軟性を高める先進的な手法です。本記事では構成・効果・導入の注意点を解説します。
2025-03-05
コンテキストウィンドウとは？生成AIにおける文脈の限界とMCP設計｜MCP入門 1.3
生成AIが扱える“文脈”には上限があります。それがコンテキストウィンドウです。トークン数の制限とは何か、なぜ応答が急に崩れるのか、MCP（Model Context Protocol）における設計の工夫まで、丁寧に解説します。
2025-03-05
RAGにおける幻覚とは？情報の過不足を防ぎ生成精度を高める設計法｜LLM入門 7.1
RAG構成でも、LLMによる幻覚（hallucination）は発生します。本記事では、Retriever精度、プロンプト設計、出典明示などにより幻覚を抑える具体的な方法と、検知・評価の技術までを丁寧に解説します。
2025-03-04
RAGの限界と今後の展望とは？幻覚・検索精度・モデル進化にどう向き合うか｜LLM入門 第7章
RAGには明確な強みがある一方で、限界や課題も存在します。本章では、幻覚対策やハイブリッド検索の可能性、大規模コンテキストモデルとの関係、そして今後の運用と設計戦略について実践的に整理します。
2025-03-03
モデルはなぜ文脈を必要とするのか？｜MCP入門 1.1｜生成AIとコンテキスト理解
ChatGPTをはじめとする生成AIは、入力だけでなく“文脈”によって出力を変えています。なぜ文脈が必要なのか、モデルはどう背景を読み取るのか。MCP設計の基礎となる文脈理解について、具体例を交えて丁寧に解説します。
2025-03-03
RAG設計におけるトークン制限への対処法とは？情報量と生成精度を両立する工夫｜LLM入門 6.4
生成AIにはトークン数の上限という物理的な制約があります。本記事では、Retriever出力やプロンプトを設計する際に考慮すべきトークン制限と、その中で最も有効な情報を渡すための工夫と設計指針を解説します。
2025-03-02
RAGとMCPの関係とは？RetrieverとLLMの役割分担を明確にする設計法｜LLM入門 6.1
RAG構成を安定的に運用するには、RetrieverとLLMの責任範囲を明確にする必要があります。本記事では、MCP（Model Context Protocol）を活用して、指示・文脈・入力の3層に分けた設計の考え方を解説します。
2025-02-27
Azure Cognitive SearchやElasticでRAGを実現する方法｜既存検索基盤を活かす構成とは｜LLM入門 5.4
RAGはLangChainやLlamaIndex以外にも、Azure Cognitive SearchやElasticsearchといった既存インフラでも構築可能です。本記事では、それぞれの特徴や適用例、選定ポイントをわかりやすく整理します。
2025-02-25
LlamaIndexとは何か？RAGにおける文書インデックス構築の強みとLangChainとの違い｜LLM入門 5.3
LlamaIndexは、RAGの文書処理とインデックス管理に特化したライブラリです。本記事では、LlamaIndexの設計思想と主要機能、LangChainとの違いや併用パターン、実務での活用シーンを丁寧に解説します。
2025-02-24