LLM入門

このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。


合計 76 件の記事があります。 | 現在 2 ページ中の 1 ページ目です。

第17章 — 将来の脅威と新しい防御

『LLM Primer VII』ウォークスルー最終回、第17回。まだ形成途上の脅威群 — 自律エージェント、マルチモーダル攻撃面、合成アイデンティティ、2026年半ばのAI対AIのダイナミクス — を扱う章。そしてLLM Primerシリーズ全体を締めくくる回。

2026-05-26

第15章 — 安全なAI組織の構築

『LLM Primer VII』ウォークスルー第15回。セキュリティ文化、レッドチーム、ベンダーリスク、継続評価、そして長期のモデル運用管理を、AIセキュリティの規律を年単位で支える組織インフラとして扱う章を紹介する。

2026-05-24

第12章 — アクセス制御とアイデンティティ

『LLM Primer VII: AIセキュリティ』第12章のウォークスルー。認証と認可、RBAC対ABAC、マルチテナント分離、レート制限、SSOやSCIMを含むエンタープライズガバナンスのオーバーレイ。モデル自身がプリンシパルとなる論点にも触れる。

2026-05-21

第10章 — 安全なLLMアーキテクチャの設計

『LLM Primer VII: AIセキュリティ』第10章のウォークスルー。分離境界、階層化された検証、宣言的ポリシー、LLM呼び出しに適用されるゼロトラスト — モデルの自制ではなくアーキテクチャが被害範囲の上限を決める章。OPAとCedarにも触れる。

2026-05-19

第9章 — モデル整合性とサプライチェーンリスク

『LLM Primer VII: AIセキュリティ』章別ウォークスルー第9回。モデル成果物を第三者配布のバイナリとして扱う章 — バイナリ配布が常に伴ってきたデシリアライゼーション、バックドア、出所の懸念を辿る。

2026-05-18

第7章 — ハルシネーションと信頼性

『LLM Primer VII: AIセキュリティ』章別ウォークスルー第7回。信頼性をセキュリティ的性質として扱う章 — 正しさが結果を左右する場面では、自信満々に間違った出力そのものがセキュリティ問題だからだ。

2026-05-16

第6章 — RAG のリスク

『LLM Primer VII: AIセキュリティ』章別ウォークスルー第6回。検索コーパスを非信頼な入力チャネルとして扱う章 — 索引された文書はすべて、モデルから見ればユーザーの質問と同格の命令だからだ。

2026-05-15

第5章 — 入力検証と出力フィルタリング

『LLM Primer VII: AIセキュリティ』章別ウォークスルー第5回。第4章の多層緩和フレームを運用規律へと落とし込む章 — サニタイズ段階、ガードレール、構造化出力、レッドチーミング、そして意味のある安全性メトリクスの話。

2026-05-14

第2章 — LLMシステムの脅威モデリング

『LLM Primer VII: AIセキュリティ』ウォークスルー第2回。Shostack の4つの問い、STRIDE、PASTA、MITRE ATLAS を、あらゆる入力を潜在的な指示として読む確率的関数を最も強力な構成要素として持つシステムに適用する、という章です。

2026-05-11

第1章 — AIセキュリティがこれまでと違う理由

『LLM Primer VII: AIセキュリティ』を章ごとに紹介するウォークスルー、第1回。AIセキュリティは既存セキュリティにML形容詞を付けたものではない — 基盤が変わり、以後のすべての章がその変化から派生する、という章です。

2026-05-10

LLM Primer VII — シリーズ序文 & インデックス

『LLM Primer VII: AIセキュリティ』を章ごとに紹介するウォークスルーのインデックス。シリーズ最終巻は、LLMシステムを敵対者・規制・確率的挙動から守る規律を、脅威モデルから規制の境界線まで一気に書き下ろします。

2026-05-09

第16章 — 本番環境でのコスト削減戦略

『LLM Primer VI』ウォークスルー最終回。前月の請求書の3分の1か半分に効いてくる直交する打ち手のカタログ。

2026-05-08

第15章 — サーバーレスAPI vs 専用インフラ

『LLM Primer VI』ウォークスルー第15回。損益分岐算術と、多くのチームにとって答えを傾けるプラットフォームエンジニアリングの行に名前をつける。

2026-05-07

第13章 — オートスケーリングとコールドスタート対策

『LLM Primer VI』ウォークスルー第13回。標準HPAがLLMで障害を出す理由と、KEDA、Knative、CRIUがどう修正を構成するかを説明する章。

2026-05-05

第12章 — 分離型サービングとKubernetes

『LLM Primer VI』ウォークスルー第12回。プリフィルとデコードを別GPUプールに分割し、KVキャッシュをNVLink/InfiniBand上で運ぶ。ポッドを正しい側に留めるKubernetesのプリミティブ。

2026-05-04

第11章 — プラットフォームとオーケストレーション層

『LLM Primer VI』ウォークスルー第11回。プラットフォームの選択はフィーチャーではなく、どの運用モデルがチームの既存文化に合うかの問題である。

2026-05-03

第5章 — 量子化を解き明かす

『LLM Primer VI』ウォークスルー第5回。70Bモデルが4ビット量子化を生き延び1Bが生き延びない理由、そしてAWQ、GPTQ、SmoothQuant、GGUFの実体とレシピの選び方。

2026-04-27

LLM Primer VI — シリーズ序文と目次

『LLM Primer VI: AIシステムのスケーリング』ウォークスルー全16回の序文と目次。LLM推論をメモリ帯域、スケジューリング、そしてドルが交錯するエンジニアリング領域として扱う一冊の全体像。

2026-04-22

第8章 — パフォーマンス・サービング・コストの最適化

『LLM Primer V』ウォークスルー最終回。本番LLMの経済を、層をなす規律として扱う回。最も安い呼び出しは決してされないもの、次に安いのは十分なもののうち最も小さいモデルへの呼び出し、床は推論サーバ内のKVキャッシュ・連続バッチ・投機的デコーディング。

2026-04-21

第7章 — LLMセキュリティとガードレール

『LLM Primer V』ウォークスルー第7回。LLMアプリケーションが持ち込む新しいセキュリティ軸 — どこから、どれだけの権威を伴った指示がモデルに届くかを制御する軸 — を名指しし、その周りに4層の緩和マトリクスを組み立てる回。

2026-04-20

第6章 — AIオブザーバビリティとトレーシング

『LLM Primer V』ウォークスルー第6回。ユーザークエリを要求ログではなく因果木として扱い、その木を可読にするためにトレースすべきものを示す回。OpenTelemetryのGenAIコンベンション、TTFT/TPOT/コスト/品質という指標、そして評価への還流ループ。

2026-04-19

第5章 — LLMアプリケーションの評価

『LLM Primer V』ウォークスルー第5回。assertEqualはLLM出力に対して死んだと認めた上で、テストの規律を、錨付きジャッジ・RAG Triad・軌跡テストの上に再構築する回。本番トレースが次のリリースを門番する評価セットを養う継続ループも扱う。

2026-04-18

第4章 — AIエージェントとツール呼び出し

『LLM Primer V』ウォークスルー第4回。エージェントを、スキーマ・メモリ層・マルチエージェント配線を工学的に組み立てられて初めて信頼できる「ツールに対してループするLLM」として扱う回。ReAct、契約としてのツールスキーマ、短期/長期/意味の3層メモリ。

2026-04-17

第3章 — 検索拡張生成 (RAG)

『LLM Primer V』ウォークスルー第3回。RAGパイプラインを端から端まで歩き、10件のお気に入り文書で動くデモを、実運用のコーパスに耐えるシステムから分ける技法 — ハイブリッド検索、構造的チャンキング、HyDE、step-back、text-to-SQL — をまとめる。

2026-04-16

第2章 — 基盤モデルとプロンプト設計

『LLM Primer V』ウォークスルー第2回。プロンプトエンジニアリングを芸ではなく工学として扱う回。モデル階層、サンプリングパラメータの2つのプロファイル、防御的プロンプトの5部構成、そして構造化出力・制約付きデコーディング。

2026-04-15

第1章 — AIエンジニアリングという規律

『LLM Primer V』ウォークスルー第1回。デモと本番の信頼性ギャップを名指しし、確率的な核を決定論的なラッパーで包む工学 — AIエンジニアリング — の枠組みと、信頼性・品質・パフォーマンス・コスト・進化の5つの柱を歩く。

2026-04-14

シリーズ序文と目次 — LLM Primer V

『LLM Primer V: 実運用のLLMアプリケーションを設計する』のウォークスルー序文。AIエンジニアリングを一つの規律として扱い、基盤モデル・プロンプト・検索・エージェント・評価・オブザーバビリティ・セキュリティ・サービングの8つの面を歩く8章構成の全体像を示す。

2026-04-13

第14章 — ベンチマーク、テスト、性能

LLM Primer IV ウォークスルー最終回。本物のサーバーに対する MCP-Universe ベンチマーク、明らかになった2つの体系的失敗モード、セッション・パー・リクエストと共有セッション・プールの10倍スループット差、そして第V巻への橋渡し。

2026-04-12

第8章 — アーキテクチャ的デプロイメント・レイアウト

LLM Primer IV ウォークスルー第8回。MCPエコシステムに現れた3つのデプロイメント・レイアウト — 再利用可能エージェント、厳格純粋、ハイブリッド — と、どれがどのプロジェクトに合うかを決める4つの拘束条件。

2026-04-06

第2章 — Model Context Protocol (MCP) の正体

LLM Primer IV ウォークスルー第2回。MCPが何を標準化しているのか、Host・Client・Serverの三役割の分割、動的ディスカバリと双方向メッセージがRESTと違って効いてくる場面、そして能力交渉で始まるセッション・ライフサイクル。

2026-03-31

第1章 — AI統合の危機と、エージェント型アーキテクチャの台頭

LLM Primer IV ウォークスルー第1回。長いシステムプロンプトがモノリシック・エージェントを壊す理由、その下に隠れているN×Mの統合問題、そしてMCPが下支えするように作られた「プロンプト工学からコンテキスト工学へ」の移行を歩きます。

2026-03-30

LLM Primer IV — MCPで設計するAI認知: シリーズ紹介とインデックス

LLM Primerシリーズ第4作『MCPで設計するAI認知』の章ごとウォークスルーの第1回。エージェントがデモの段階から本番運用へ進むためにプロトコル層が必要な理由、本書の対象読者、そして3月30日から4月12日まで14回続く投稿の予定をまとめます。

2026-03-29

第6章 — RAGの脅威モデルと脆弱性

LLM Primer III ウォークスルー第6回。検索で広がった攻撃面 — コーパス汚染、敵対的チャンク、間接プロンプトインジェクション、埋め込み反転、そしてエージェント型 RAG での「混乱した代理人」問題。具体的な攻撃、いずれも実証済みで、いずれも再現可能。

2026-03-23

第4章 — 適切なベクトルデータベースの選定

LLM Primer III ウォークスルー第4回。専用設計とPostgres型拡張のアーキテクチャ的分岐、マネージドの主役(Pinecone、Vertex)、オープンソース陣営(Qdrant、Milvus、Weaviate)、埋め込み型の選択肢、そして実際の選択を決める3つの運用軸 — レジデンシー、運用、コスト。

2026-03-21

第14章 — エンジニアのための実践的知識

LLM Primer II 第14章、歩き読みシリーズの最終回です。本書を読み終えたあと、どのように理解を深め続けるか。PyTorch、JAX、Hugging Face、vLLM などの道具立てを数学に重ね、シリーズの次の巻へとご案内します。

2026-03-16

第12章 — 自分の LLM システムを構築する: データセットから本番まで

LLM Primer I シリーズの第12章です。最終章。LLM 駆動システムをエンドツーエンドで構築するために本当に必要なもの — データセットとライセンス、学習パイプライン、評価フレームワーク、統合アプリケーションスタック、そして成功するデプロイメントを失敗するパイロットから分けるケーススタディのパターンを扱います。

2026-03-01

第9章 — パフォーマンス、スケーリング、コスト: 本物のエンジニアリング・トレードオフ

LLM Primer I シリーズの第9章です。LLM をスケールで運用する現実 — モデルサイズと能力、レイテンシとスループットのトレードオフ、コストの経済学、量子化、エッジ展開を扱います。フロンティアモデルが、たとえ予算的に手が届いてもしばしば誤った選択肢になる理由も整理します。

2026-02-26

第8章 — アプリケーションで LLM を使う: チャットボット、コード、抽出、エージェント

LLM Primer I シリーズの第8章です。実際に本番で動くアプリケーションパターン — チャットボット、要約、コードアシスタント、構造化抽出、そしてモデル自身がツール利用ループを駆動するエージェント型システムの台頭を解説します。さらに、エンジニアが名前で押さえておくべきベンチマーク群も整理します。

2026-02-25

第7章 — 次トークン予測の先へ: Embedding、検索、マルチモーダル

LLM Primer I シリーズの第7章です。次トークン予測器をはるかに豊かなものへと押し上げる能力 — Embedding、セマンティック検索、Retrieval-Augmented Generation、そしてマルチモーダル入力への移行を解説します。RAG が LLM を本物の文書に「接地」させ、捏造を抑える仕組みも整理します。

2026-02-24

LLM Primer I 章ごとのウォークスルー — シリーズ序文とインデックス

LLM Primer I:『生成AIの仕組み』の章ごとに紹介する全12回シリーズの序文とインデックスです。順番に読むことも、関心のある章だけを選んで読むこともできます。12本すべての記事をここから辿れます。

2026-02-17

LLM入門書シリーズ — 生成AIを理解するために、分解してみる

LLM Primer シリーズ — Sho Shimoda による全7巻の生成AIフィールドガイド、ついに完結。基礎からセキュリティまで。姉妹編『Physical AI』も含む。全7巻がAmazonで販売中。

2026-02-15

W3CのAI Context仕様とは?|MCP入門 7.3|文脈の国際標準化とMCPの役割

AIの意思決定や会話文脈を明示的に設計するため、W3CではAI Context仕様の標準化が進んでいます。本記事ではその動向と、MCPとの親和性や将来のマッピング可能性について詳しく解説します。

2025-04-04

LLM Memory APIとMCPの違いとは?|MCP入門 7.2|ユーザー記憶と文脈設計を統合する方法

ユーザー情報や履歴を保存するMemory APIと、構造的な文脈設計を担うMCPは、目的も実装も異なります。本記事では両者の違いと補完関係、そして信頼性の高いプロンプト設計に向けた統合戦略を具体的に解説します。

2025-04-03

JSONスキーマによる状態制御の工夫とは?|MCP入門 6.4|一貫性あるAI応答を実現する構造的設計

生成AIの応答を安定化させるには、“状態”の明示が不可欠です。本記事では、MCP設計におけるJSONスキーマの活用方法を詳しく解説し、意図や画面状況をモデルに正しく伝える設計戦略を紹介します。

2025-03-31

チャットボットの履歴管理とは?|MCP入門 5.1|スコープ制御で精度とコストを最適化する設計

生成AIチャットボットの応答品質は、会話履歴の設計に大きく左右されます。本記事では、MCPを活用して履歴の粒度・要約・トピック切り替えを制御し、自然かつ効率的なチャット体験を作る方法を解説します。

2025-03-23

OpenAI Function CallingとMCPの関係とは?|MCP入門 2.4|生成AIの構造化出力と実装設計

OpenAIのFunction Callingは、生成AIが構造化された出力を返す仕組みです。MCP(Model Context Protocol)の文脈・状態設計と深く関係し、再現性や拡張性の高いAI実装を支えます。本節ではその原理と設計のポイントを丁寧に解説します。

2025-03-11

MCPによる状態制御と再現性の向上とは?|MCP入門 2.3|生成AIの安定設計の鍵

生成AIをプロダクトとして安定運用するには、出力の一貫性と再現性が不可欠です。MCP(Model Context Protocol)は文脈と状態を構造化し、モデルの振る舞いを制御・再現可能にします。設計原則から具体例まで詳しく解説。

2025-03-10

モデルにとっての記憶とは何か?|MCP入門 1.4|生成AIと文脈再現の技術

生成AIは本当に記憶しているのか?実は、AIの“記憶”は文脈の再構築にすぎません。エフェメラルメモリ・永続メモリ・役割設計など、MCP(Model Context Protocol)での記憶制御の仕組みをわかりやすく解説します。

2025-03-06

コンテキストウィンドウとは?生成AIにおける文脈の限界とMCP設計|MCP入門 1.3

生成AIが扱える“文脈”には上限があります。それがコンテキストウィンドウです。トークン数の制限とは何か、なぜ応答が急に崩れるのか、MCP(Model Context Protocol)における設計の工夫まで、丁寧に解説します。

2025-03-05

RAGとMCPの関係とは?RetrieverとLLMの役割分担を明確にする設計法|LLM入門 6.1

RAG構成を安定的に運用するには、RetrieverとLLMの責任範囲を明確にする必要があります。本記事では、MCP(Model Context Protocol)を活用して、指示・文脈・入力の3層に分けた設計の考え方を解説します。

2025-02-27