LLM入門

このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。


合計 76 件の記事があります。 | 現在 2 ページ中の 1 ページ目です。

第4章 — プロンプトインジェクションとジェイルブレイク

『LLM Primer VII: AIセキュリティ』ウォークスルー第4回。実践的LLMセキュリティ問題の中心に位置する章 — なぜプロンプトインジェクションにはパラメータ化クエリに相当する構造的な修正がなく、多層の部分的防御しかないのかを説明します。

2026-05-13

第2章 — LLMシステムの脅威モデリング

『LLM Primer VII: AIセキュリティ』ウォークスルー第2回。Shostack の4つの問い、STRIDE、PASTA、MITRE ATLAS を、あらゆる入力を潜在的な指示として読む確率的関数を最も強力な構成要素として持つシステムに適用する、という章です。

2026-05-11

第3章 — 検索拡張生成 (RAG)

『LLM Primer V』ウォークスルー第3回。RAGパイプラインを端から端まで歩き、10件のお気に入り文書で動くデモを、実運用のコーパスに耐えるシステムから分ける技法 — ハイブリッド検索、構造的チャンキング、HyDE、step-back、text-to-SQL — をまとめる。

2026-04-16

第2章 — 基盤モデルとプロンプト設計

『LLM Primer V』ウォークスルー第2回。プロンプトエンジニアリングを芸ではなく工学として扱う回。モデル階層、サンプリングパラメータの2つのプロファイル、防御的プロンプトの5部構成、そして構造化出力・制約付きデコーディング。

2026-04-15

第14章 — ベンチマーク、テスト、性能

LLM Primer IV ウォークスルー最終回。本物のサーバーに対する MCP-Universe ベンチマーク、明らかになった2つの体系的失敗モード、セッション・パー・リクエストと共有セッション・プールの10倍スループット差、そして第V巻への橋渡し。

2026-04-12

第12章 — プロトコルの堅牢化と防御

LLM Primer IV ウォークスルー第12回。4つの防御クラスタ — 暗号アテステーション、境界付きセッション付きOAuthスコープ規律、ランタイム・サンドボックス、Human-in-the-loopゲート — を組み合わせることで、敵対的条件下でモデルが正しく振る舞うことに依存しない姿勢を作る。

2026-04-10

第10章 — 長期タスクの記憶

LLM Primer IV ウォークスルー第10回。ウィンドウとReActスクラッチパッドによる短期記憶、エピソード・ベクトルと意味ストアによる長期記憶、そして数時間・数日にわたってエージェントを生産的に保つ圧縮技術。

2026-04-08

第11章 — 継続的なアップデートとパイプライン最適化

LLM Primer III ウォークスルー、最終回。CDC とインクリメンタルなインデックス更新でコーパスを新鮮に保ち、セマンティックキャッシュとモデル階層化でレイテンシを抑え、4段のフィードバックループで本番テレメトリと実際に行う変更の橋渡しをする — そして第4巻 MCP への橋。

2026-03-28

第3章 — アドバンスト・チャンキングのフレームワーク

LLM Primer III ウォークスルー第3回。チャンキングのスペクトラム、オーバーラップの神話、検索品質を静かに殺す「コンテキストの崖」、そしてフロンティアの計算を書き換えたコンテクスチュアル・リトリーバルとレイトチャンキングを整理します。

2026-03-20

第12章 — LLM の実世界応用

LLM Primer II シリーズの第12章を紹介します。テキスト生成、要約、質問応答、翻訳、推論 — 一見ばらばらに見える応用が、ひとつの「次トークン分布」の上に静かに並んでいることを、これまでの数学のレンズで見直す章です。

2026-03-14

第6章 — Transformer ブロック

LLM Primer II シリーズの第6章をご紹介させていただきます。フィードフォワード層、活性化関数、「Attention + FFN」がなぜ補完しあう組み合わせなのか、そして深さと幅が表現力に何をもたらすのかを、控えめに眺めてまいります。

2026-03-08

第2章 — LLM を文脈に置く

LLM Primer II シリーズの第2章です。前作『LLM Primer』の素朴な物語と、本書の数学とを橋渡しする章。LLM とはなにか、事前学習・パラメータ・スケール、データとしての言語、そしてトランスフォーマーが風景を塗り替えた理由。

2026-03-04

LLM Primer II — シリーズ序文と一覧

本書『LLM Primer II — 数学で読み解く言語モデル』を、章ごとに紹介するシリーズの序文と全14章の一覧です。

2026-03-02

第6章 — ファインチューニングと適応: 生のモデルから役に立つアシスタントへ

LLM Primer I シリーズの第6章です。プロンプトベースの安価な操作から、パラメータ効率の良いファインチューニング、そして RLHF やその現代的な後継 DPO による本格的なアライメントまで、適応の全スタックを扱います。なぜ今や API 型クローズドモデルの差別化要因が後学習にあるのかも整理します。

2026-02-23

第4章 — Transformer アーキテクチャ: 現代AIのエンジンの中身

LLM Primer I シリーズの第4章です。Transformer ブロックをツアーします。Self-Attention、位置エンコーディング、層のスタックがどう組み合わさって、現代の LLM の基盤となるアーキテクチャを構成しているか。Transformer のスケーリングがなぜ機能するか、そして何のコストがかかるかも明快に解説します。

2026-02-21

LLM入門書シリーズ — 生成AIを理解するために、分解してみる

LLM Primer シリーズ — Sho Shimoda による全7巻の生成AIフィールドガイド、ついに完結。基礎からセキュリティまで。姉妹編『Physical AI』も含む。全7巻がAmazonで販売中。

2026-02-15

人格・役割・意図の設計とは?|MCP入門 7.4|AIの“存在”をプロトコルで定義する方法

AIが人格を持ち、役割を柔軟に切り替え、意図を理解して発話する時代が始まろうとしています。本記事では、MCPによってこうした構成要素をどのように設計・再現し、対話的存在としてのAIを実現できるのかを解説します。

2025-04-05

W3CのAI Context仕様とは?|MCP入門 7.3|文脈の国際標準化とMCPの役割

AIの意思決定や会話文脈を明示的に設計するため、W3CではAI Context仕様の標準化が進んでいます。本記事ではその動向と、MCPとの親和性や将来のマッピング可能性について詳しく解説します。

2025-04-04

LLM Memory APIとMCPの違いとは?|MCP入門 7.2|ユーザー記憶と文脈設計を統合する方法

ユーザー情報や履歴を保存するMemory APIと、構造的な文脈設計を担うMCPは、目的も実装も異なります。本記事では両者の違いと補完関係、そして信頼性の高いプロンプト設計に向けた統合戦略を具体的に解説します。

2025-04-03

ストラクチャード・コンテキスト vs ナチュラル・プロンプティングとは?|MCP入門 6.3|構造化と柔軟性を両立するプロンプト設計

生成AIに文脈を渡すには、JSON形式の構造化データか自然言語プロンプトか、どちらが適切か。本記事では、MCP設計において“ストラクチャード・コンテキスト”と“ナチュラル・プロンプティング”の違いと併用戦略を詳しく解説します。

2025-03-30

“明示的な制約”と“暗黙の指示”の違いとは?|MCP入門 6.1|AIが期待に応えるためのプロンプト設計術

生成AIは指示されたことだけでなく、空気や文脈を読むことも求められます。本記事では、プロンプトにおける“明示的な制約”と“暗黙の指示”の違いを解説し、MCP設計を通じて誤解を防ぎ、意図通りの応答を得るための設計手法を紹介します。

2025-03-28

ツール活用 / マルチエージェントシステムでのMCP適用例とは?|MCP入門 5.4|複数エージェントとツールを統合する文脈設計

ツール活用やマルチエージェント設計では、AIが状態や目的を共有しながら協調する必要があります。MCPを活用することで、共通の文脈管理・状態同期・出力整理を実現し、複雑な連携を安定運用できる方法を解説します。

2025-03-26

ドキュメントベース質問応答(RAG)でのContext設計とは?|MCP入門 5.3|情報の構造化で精度と説明力を高める方法

RAG(検索補助生成)で生成AIが正確に応答するためには、検索結果をどのように文脈化するかが鍵です。MCP設計により、取得情報のスロット化・優先度付け・役割づけを行い、安定した回答と説明責任のある出力を実現する方法を解説します。

2025-03-25

タスク分離とセッション切り替えとは?|MCP入門 5.2|AI応答の誤りを防ぐ文脈設計

1人のユーザーが複数の目的でAIと対話する時、文脈の混在は誤応答や情報漏洩の原因になります。MCPによるセッションIDやタスクタグの活用により、タスク単位の文脈を安全かつ自然に切り替える方法を詳しく解説します。

2025-03-24

外部ツールとのプロトコル統合とは?|MCP入門 4.4|カレンダー・チャット・CRMをAIと連携する設計法

SlackやGoogle Calendar、Salesforceなどの外部ツールと生成AIを連携し、チャットから予定作成や顧客データ操作を行う方法を解説。MCPを活用し、文脈の更新・アクション提案・認証設計まで詳しく紹介します。

2025-03-21

MCPの拡張と統合とは?|MCP入門 第4章|RAG・マルチモデル・外部ツール連携の設計手法

MCP(Model Context Protocol)の応用編として、RAGの統合、複数LLMの使い分け、マルチセッション管理、外部ツールとの連携など、生成AIを高度に運用するための設計フレームワークを解説します。

2025-03-17

ユーザー状態とモデル状態の同期とは?|MCP入門 3.4|生成AIの一貫した応答設計

生成AIの出力の一貫性を保つには、ユーザーとモデルの状態を同期させることが重要です。MCPでは、セッションメモリ、タスク管理、ステートマシン、感情トラッキングなどを活用して文脈と目的を揃える設計が求められます。

2025-03-16

テンプレートとスロットの設計とは?|MCP入門 3.3|生成AIの柔軟で安全な文脈構築法

生成AIの出力に一貫性と安全性を持たせるには、テンプレートとスロット設計が重要です。本章では、プロンプトテンプレート、文脈スロット化、入力サニタイズなど、再利用とセキュリティを両立する具体的なパターンを解説します。

2025-03-15

OpenAI Function CallingとMCPの関係とは?|MCP入門 2.4|生成AIの構造化出力と実装設計

OpenAIのFunction Callingは、生成AIが構造化された出力を返す仕組みです。MCP(Model Context Protocol)の文脈・状態設計と深く関係し、再現性や拡張性の高いAI実装を支えます。本節ではその原理と設計のポイントを丁寧に解説します。

2025-03-11

MCPによる状態制御と再現性の向上とは?|MCP入門 2.3|生成AIの安定設計の鍵

生成AIをプロダクトとして安定運用するには、出力の一貫性と再現性が不可欠です。MCP(Model Context Protocol)は文脈と状態を構造化し、モデルの振る舞いを制御・再現可能にします。設計原則から具体例まで詳しく解説。

2025-03-10

従来のプロンプト設計とMCPの違いとは?|MCP入門 2.2|生成AI設計の新常識

プロンプトエンジニアリングでは限界がある。MCP(Model Context Protocol)は、文脈と状態を分離・構造化することで、一貫性・拡張性・再現性を備えた生成AIの設計を可能にします。従来手法との違いを比較しながら丁寧に解説。

2025-03-09

RAG時代の設計者とは?検索と生成をつなぎ、AIを業務に根づかせる方法|LLM入門 終章

RAGの本質は、情報の選別と構造化を通じて生成AIの文脈を設計すること。本章では、生成AI時代に求められる「検索と生成をつなぐ設計者」の役割と、今後の学びと実装の地図を示します。

2025-03-08

RAGは今後も必要か?生成AI時代における検索設計の価値と使い続ける理由|LLM入門 7.4

長文処理に優れたLLMが登場する中で、RAGを使い続ける意味とは何か。本記事では、情報制御・更新性・出典明示・組織ナレッジ活用という観点から、RAGの価値と今後の活かし方を再評価します。

2025-03-07

RAGは本当に不要になるのか?長文対応LLM時代の検索戦略を再考する|LLM入門 7.3

GPT-4 128kやClaude 2の登場により、「検索せず全文渡す」構成が可能になってきました。本記事ではRetrieval不要論の背景と現実的な限界、そしてRAGの再定義について丁寧に解説します。

2025-03-06

モデルにとっての記憶とは何か?|MCP入門 1.4|生成AIと文脈再現の技術

生成AIは本当に記憶しているのか?実は、AIの“記憶”は文脈の再構築にすぎません。エフェメラルメモリ・永続メモリ・役割設計など、MCP(Model Context Protocol)での記憶制御の仕組みをわかりやすく解説します。

2025-03-06

コンテキストウィンドウとは?生成AIにおける文脈の限界とMCP設計|MCP入門 1.3

生成AIが扱える“文脈”には上限があります。それがコンテキストウィンドウです。トークン数の制限とは何か、なぜ応答が急に崩れるのか、MCP(Model Context Protocol)における設計の工夫まで、丁寧に解説します。

2025-03-05

RAGにおける幻覚とは?情報の過不足を防ぎ生成精度を高める設計法|LLM入門 7.1

RAG構成でも、LLMによる幻覚(hallucination)は発生します。本記事では、Retriever精度、プロンプト設計、出典明示などにより幻覚を抑える具体的な方法と、検知・評価の技術までを丁寧に解説します。

2025-03-04

プロンプトとコンテクストの違いとは?|MCP入門 1.2|生成AIにおける役割と設計の考え方

生成AIを効果的に活用するには、Prompt(命令)とContext(文脈)を分けて設計する必要があります。MCP(Model Context Protocol)の基礎として、この2つの違いと役割、実装への考え方を詳しく解説します。

2025-03-04

モデルはなぜ文脈を必要とするのか?|MCP入門 1.1|生成AIとコンテキスト理解

ChatGPTをはじめとする生成AIは、入力だけでなく“文脈”によって出力を変えています。なぜ文脈が必要なのか、モデルはどう背景を読み取るのか。MCP設計の基礎となる文脈理解について、具体例を交えて丁寧に解説します。

2025-03-03

RAG設計におけるトークン制限への対処法とは?情報量と生成精度を両立する工夫|LLM入門 6.4

生成AIにはトークン数の上限という物理的な制約があります。本記事では、Retriever出力やプロンプトを設計する際に考慮すべきトークン制限と、その中で最も有効な情報を渡すための工夫と設計指針を解説します。

2025-03-02

RAGにおけるプロンプト合成の設計パターンとは?文脈統合で生成精度を高める方法|LLM入門 6.3

Retrieverで得た情報をLLMにどう渡すかが、RAGの成否を分けます。本記事では、文書構造ごとのプロンプト合成パターンとその効果、生成品質を高めるための設計指針を具体的に解説します。

2025-03-01

RAGの検索精度を高める設計術:質問の正規化とドキュメントマッチングとは|LLM入門 6.2

自然文のままでは曖昧なユーザー質問を、検索に適した形式へ整える「質問の正規化」と、意味的に関連する文書を適切に選び出す「マッチング戦略」について、RAG実装の視点からわかりやすく解説します。

2025-02-28

RAGとMCPの関係とは?RetrieverとLLMの役割分担を明確にする設計法|LLM入門 6.1

RAG構成を安定的に運用するには、RetrieverとLLMの責任範囲を明確にする必要があります。本記事では、MCP(Model Context Protocol)を活用して、指示・文脈・入力の3層に分けた設計の考え方を解説します。

2025-02-27

Azure Cognitive SearchやElasticでRAGを実現する方法|既存検索基盤を活かす構成とは|LLM入門 5.4

RAGはLangChainやLlamaIndex以外にも、Azure Cognitive SearchやElasticsearchといった既存インフラでも構築可能です。本記事では、それぞれの特徴や適用例、選定ポイントをわかりやすく整理します。

2025-02-25

LangChainでRAGを構築する方法とは?RetrieverからLLM連携まで徹底解説|LLM入門 5.2

LangChainはRAG構築において、Retriever・LLM・プロンプトを一貫してつなぐフレームワークです。本記事では、各モジュールの役割と構成例、導入のメリット・注意点までを、実装の視点からわかりやすく解説します。

2025-02-23

RAGの回答精度を左右するコンテキスト整形とは?LLMへの最適な情報の渡し方|LLM入門 4.3

RAGにおいてRetrieverが抽出した情報をどのように整形し、LLMに渡すかは、出力の質に直結します。本記事では、プロンプト設計・チャンク構造・トークン最適化など、回答品質を高めるための整形技術を詳しく解説します。

2025-02-19

RAGに適したベクトル検索エンジンとは?FAISS・Weaviate・Pinecone徹底比較|LLM入門 4.2

RAGの検索性能を支えるのがベクトル検索エンジンです。本記事では、FAISS・Weaviate・Pineconeといった代表的エンジンの特徴を比較し、導入時に重視すべき観点や選定ポイントをわかりやすく解説します。

2025-02-18

RAGで専門文書を活用する方法|法務・医療・教育分野での事例と効果|LLM入門 3.3

法律文書、医療ガイドライン、教育要綱など、専門性の高い情報を誰もが使いやすくするにはどうすればよいか。本記事では、RAGを活用して専門文書を自然言語で引き出す仕組みと、実際の活用事例を丁寧に解説します。

2025-02-14

RAGと従来の検索の違いとは?意味ベース検索と生成の融合を解説|LLM入門 2.3

RAGは従来のキーワード検索やFAQとは異なり、意味的に関連する情報を抽出し、生成AIによって自然な回答を構成します。本記事では、RAGの検索の仕組みと従来手法との違いを、事例と比較を交えてわかりやすく解説します。

2025-02-09

RAGの中核構造:RetrieverとGeneratorの役割と分離設計|LLM入門 2.2

RAGにおいて、Retriever(検索部)とGenerator(生成部)の明確な分離は高精度な応答生成の鍵となります。本記事では、それぞれの役割、構造、設計上のメリットについて詳しく解説し、柔軟で拡張性のあるAI構築のための基盤を紹介します。

2025-02-08