LLM入門

このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。


合計 41 件の記事があります。 | 現在 1 ページ中の 1 ページ目です。

第17章 — 将来の脅威と新しい防御

『LLM Primer VII』ウォークスルー最終回、第17回。まだ形成途上の脅威群 — 自律エージェント、マルチモーダル攻撃面、合成アイデンティティ、2026年半ばのAI対AIのダイナミクス — を扱う章。そしてLLM Primerシリーズ全体を締めくくる回。

2026-05-26

第6章 — RAG のリスク

『LLM Primer VII: AIセキュリティ』章別ウォークスルー第6回。検索コーパスを非信頼な入力チャネルとして扱う章 — 索引された文書はすべて、モデルから見ればユーザーの質問と同格の命令だからだ。

2026-05-15

第5章 — 入力検証と出力フィルタリング

『LLM Primer VII: AIセキュリティ』章別ウォークスルー第5回。第4章の多層緩和フレームを運用規律へと落とし込む章 — サニタイズ段階、ガードレール、構造化出力、レッドチーミング、そして意味のある安全性メトリクスの話。

2026-05-14

第4章 — プロンプトインジェクションとジェイルブレイク

『LLM Primer VII: AIセキュリティ』ウォークスルー第4回。実践的LLMセキュリティ問題の中心に位置する章 — なぜプロンプトインジェクションにはパラメータ化クエリに相当する構造的な修正がなく、多層の部分的防御しかないのかを説明します。

2026-05-13

第3章 — データセキュリティとプライバシー

『LLM Primer VII: AIセキュリティ』ウォークスルー第3回。データを固有のライフサイクルを持つ資産として扱う — モデルが部分的に記憶している訓練コーパスから、Samsung のエンジニアが名前が付く前にChatGPTに貼り付けたユーザー入力まで、という章です。

2026-05-12

LLM Primer VII — シリーズ序文 & インデックス

『LLM Primer VII: AIセキュリティ』を章ごとに紹介するウォークスルーのインデックス。シリーズ最終巻は、LLMシステムを敵対者・規制・確率的挙動から守る規律を、脅威モデルから規制の境界線まで一気に書き下ろします。

2026-05-09

第9章 — 投機的デコード

『LLM Primer VI』ウォークスルー第9回。自己回帰の逐次ボトルネックには数学的な抜け穴がある。安価な推測と少し広い検証パスで、ターゲットモデルが1トークン分の実時間で数トークンを生む。

2026-05-01

第6章 — プルーニングと知識蒸留

『LLM Primer VI』ウォークスルー第6回。重み数を直接攻める章。無関係な重みをゼロにし、大きな教師の振る舞いを小さな生徒に転写する。Hopperの2:4スパース性、蒸留、そして3圧縮の順序。

2026-04-28

第5章 — 量子化を解き明かす

『LLM Primer VI』ウォークスルー第5回。70Bモデルが4ビット量子化を生き延び1Bが生き延びない理由、そしてAWQ、GPTQ、SmoothQuant、GGUFの実体とレシピの選び方。

2026-04-27

第4章 — 専用AIシリコンとASIC

『LLM Primer VI』ウォークスルー第4回。GPUかASICかの選択はワークロード形状の問題であり、Groq、Inferentia2、TPU、Gaudi 3のそれぞれが勝つ領域と失敗モードを歩く。

2026-04-26

第3章 — 生成AI向けのデータセンターGPU

『LLM Primer VI』ウォークスルー第3回。サービングGPUはFLOP/sではなくHBM帯域とVRAM容量で買うべきだと論じる章。H100、H200、B200、L40S、MI300Xを機構優先で読み解く。

2026-04-25

第1章 — トークン生成のメカニズム

『LLM Primer VI』ウォークスルー第1回。LLMサービングの難問はほぼ全て一つの事実から派生する — トークンを生み出すループはメモリ帯域律速で、購入した高価な演算能力は99.7パーセント遊んでいる。

2026-04-23

LLM Primer VI — シリーズ序文と目次

『LLM Primer VI: AIシステムのスケーリング』ウォークスルー全16回の序文と目次。LLM推論をメモリ帯域、スケジューリング、そしてドルが交錯するエンジニアリング領域として扱う一冊の全体像。

2026-04-22

第5章 — LLMアプリケーションの評価

『LLM Primer V』ウォークスルー第5回。assertEqualはLLM出力に対して死んだと認めた上で、テストの規律を、錨付きジャッジ・RAG Triad・軌跡テストの上に再構築する回。本番トレースが次のリリースを門番する評価セットを養う継続ループも扱う。

2026-04-18

第4章 — AIエージェントとツール呼び出し

『LLM Primer V』ウォークスルー第4回。エージェントを、スキーマ・メモリ層・マルチエージェント配線を工学的に組み立てられて初めて信頼できる「ツールに対してループするLLM」として扱う回。ReAct、契約としてのツールスキーマ、短期/長期/意味の3層メモリ。

2026-04-17

第1章 — AIエンジニアリングという規律

『LLM Primer V』ウォークスルー第1回。デモと本番の信頼性ギャップを名指しし、確率的な核を決定論的なラッパーで包む工学 — AIエンジニアリング — の枠組みと、信頼性・品質・パフォーマンス・コスト・進化の5つの柱を歩く。

2026-04-14

シリーズ序文と目次 — LLM Primer V

『LLM Primer V: 実運用のLLMアプリケーションを設計する』のウォークスルー序文。AIエンジニアリングを一つの規律として扱い、基盤モデル・プロンプト・検索・エージェント・評価・オブザーバビリティ・セキュリティ・サービングの8つの面を歩く8章構成の全体像を示す。

2026-04-13

第5章 — トランスポートプロトコルとディスカバリ

LLM Primer IV ウォークスルー第5回。MCPがサポートする3つのトランスポート、Server Cardを含む.well-knownディスカバリ層、そしてサーバーが協調的なネットワーク市民か負債かを決める地味な運用上の関心事 — CORS、Origin検証、キャッシュ。

2026-04-03

第4章 — クライアントプリミティブ: エージェント的な振る舞いと制御

LLM Primer IV ウォークスルー第4回。Sampling、Roots、ElicitationはMCPがホストとサーバーの壁に穿つ、小さく制御された3つの穴 — それぞれユーザーが許可する能力、ホストが代理で受け入れるリスク。

2026-04-02

LLM Primer IV — MCPで設計するAI認知: シリーズ紹介とインデックス

LLM Primerシリーズ第4作『MCPで設計するAI認知』の章ごとウォークスルーの第1回。エージェントがデモの段階から本番運用へ進むためにプロトコル層が必要な理由、本書の対象読者、そして3月30日から4月12日まで14回続く投稿の予定をまとめます。

2026-03-29

第6章 — RAGの脅威モデルと脆弱性

LLM Primer III ウォークスルー第6回。検索で広がった攻撃面 — コーパス汚染、敵対的チャンク、間接プロンプトインジェクション、埋め込み反転、そしてエージェント型 RAG での「混乱した代理人」問題。具体的な攻撃、いずれも実証済みで、いずれも再現可能。

2026-03-23

第5章 — 検索パイプラインの設計

LLM Primer III ウォークスルー第5回。単発のベクトル検索はパイプラインではない理由 — ハイブリッド検索、Reciprocal Rank Fusion、クロスエンコーダ再ランキング、そしてクエリ側の書き換えと HyDE が、成熟した本番 RAG の収斂先である構成にどう組み上がるか。

2026-03-22

第4章 — 適切なベクトルデータベースの選定

LLM Primer III ウォークスルー第4回。専用設計とPostgres型拡張のアーキテクチャ的分岐、マネージドの主役(Pinecone、Vertex)、オープンソース陣営(Qdrant、Milvus、Weaviate)、埋め込み型の選択肢、そして実際の選択を決める3つの運用軸 — レジデンシー、運用、コスト。

2026-03-21

LLM Primer III — シリーズ紹介とインデックス

LLM Primer シリーズ第3巻『RAGで強化するエンタープライズAI』を、章ごとに紹介していくウォークスルーの初回です。なぜ検索拡張生成は、外から見ると単純で、中を開けると工程の積み重ねなのか。本書を誰に向けて書いたか、そして3月18日から28日までの11日間の進行を最初にお伝えします。

2026-03-17

第6章 — Transformer ブロック

LLM Primer II シリーズの第6章をご紹介させていただきます。フィードフォワード層、活性化関数、「Attention + FFN」がなぜ補完しあう組み合わせなのか、そして深さと幅が表現力に何をもたらすのかを、控えめに眺めてまいります。

2026-03-08

第5章 — 位置、順序、系列の構造

LLM Primer II シリーズの第5章をご紹介させていただきます。Attention が抱えていた「順序を見ない」という静かな不具合を、正弦波エンコーディング、相対位置、RoPE、そして Fourier の視点から控えめにたどってまいります。

2026-03-07

第4章 — Attention

LLM Primer II シリーズの第4章をご紹介させていただきます。Attention を直観から導出し、クエリ・キー・バリューの幾何、softmax の温度、マルチヘッド構造、そして Attention をカーネル法として読み直す視点まで、控えめに歩いてまいります。

2026-03-06

LLM Primer II — シリーズ序文と一覧

本書『LLM Primer II — 数学で読み解く言語モデル』を、章ごとに紹介するシリーズの序文と全14章の一覧です。

2026-03-02

第5章 — 大規模モデルの学習: フロンティアモデルを支える本当のコスト

LLM Primer I シリーズの第5章です。フロンティア LLM が実際にどう学習されるか — データパイプライン、損失関数、数か月にわたる GPU 時間、そして「学習」が今や研究よりも産業規模のエンジニアリング問題になっている理由を解説します。数億ドル規模の学習ランが何にお金を払っているかを解きほぐします。

2026-02-22

第4章 — Transformer アーキテクチャ: 現代AIのエンジンの中身

LLM Primer I シリーズの第4章です。Transformer ブロックをツアーします。Self-Attention、位置エンコーディング、層のスタックがどう組み合わさって、現代の LLM の基盤となるアーキテクチャを構成しているか。Transformer のスケーリングがなぜ機能するか、そして何のコストがかかるかも明快に解説します。

2026-02-21

LLM Primer I 章ごとのウォークスルー — シリーズ序文とインデックス

LLM Primer I:『生成AIの仕組み』の章ごとに紹介する全12回シリーズの序文とインデックスです。順番に読むことも、関心のある章だけを選んで読むこともできます。12本すべての記事をここから辿れます。

2026-02-17

LLM入門書シリーズ — 生成AIを理解するために、分解してみる

LLM Primer シリーズ — Sho Shimoda による全7巻の生成AIフィールドガイド、ついに完結。基礎からセキュリティまで。姉妹編『Physical AI』も含む。全7巻がAmazonで販売中。

2026-02-15

ツール活用 / マルチエージェントシステムでのMCP適用例とは?|MCP入門 5.4|複数エージェントとツールを統合する文脈設計

ツール活用やマルチエージェント設計では、AIが状態や目的を共有しながら協調する必要があります。MCPを活用することで、共通の文脈管理・状態同期・出力整理を実現し、複雑な連携を安定運用できる方法を解説します。

2025-03-26

MCPの実践設計パターンとは?|第5章|チャット・RAG・ツール統合まで網羅的に解説

この章では、Model Context Protocol(MCP)を具体的にどう活用すべきか、チャットボット、タスク切替、RAG、マルチエージェントシステムといった現実的ユースケースごとに設計パターンを解説します。

2025-03-22

外部ツールとのプロトコル統合とは?|MCP入門 4.4|カレンダー・チャット・CRMをAIと連携する設計法

SlackやGoogle Calendar、Salesforceなどの外部ツールと生成AIを連携し、チャットから予定作成や顧客データ操作を行う方法を解説。MCPを活用し、文脈の更新・アクション提案・認証設計まで詳しく紹介します。

2025-03-21

大規模言語モデルと対話型AIの「思考状態」を設計するプロトコルの基礎と応用

ChatGPTをはじめとする大規模言語モデル(LLM)の応答精度を高める鍵、それがModel Context Protocol(MCP)です。AIに“文脈”を理解させる新しい設計手法を、初心者にもわかりやすく解説します。

2025-03-01

RAG構築に使える主要ツールとサービスの選び方|LLM入門 第5章

RAGを実装するには、適切なツールやサービスの選定が不可欠です。本章では、OpenAI Embeddings、LangChain、LlamaIndex、Azure Cognitive Searchなど、RAG構築に役立つ代表的な選択肢を比較・解説します。

2025-02-21

セマンティック検索とキーワード検索の違いとは?RAGの精度を左右する検索技術|LLM入門 4.4

RAGでは従来のキーワード検索ではなく、意味ベースのセマンティック検索が活用されます。本記事では、両者の違いと特性、ハイブリッド検索の活用法までを比較しながら、実務での使い分け方を丁寧に解説します。

2025-02-20

RAGで業務AIを強化する方法とは?|LLM入門:検索と統合の仕組みを解説

RAG(Retrieval-Augmented Generation)は、大規模言語モデルに社内ナレッジやFAQを統合し、業務に使えるAIを構築する鍵です。本記事ではRAGの仕組み、活用例、導入のステップまで、わかりやすく解説します。

2025-02-01

4.2 マルチヘッドアテンションの数理 - トランスフォーマーモデルにおける文脈理解の強化

トランスフォーマーモデルのマルチヘッドアテンションについて詳しく解説します。各ヘッドが異なる視点から文中の単語間の関連性を捉える仕組みと、その数理的な背景について説明します。

2024-10-12

4.4 LLMによるコード生成 | 生産性を高める自動コード生成とその応用

LLM(大規模言語モデル)を活用したコード生成の仕組みをエンジニア向けに解説。テンプレートコードや関数の自動生成、テストコードの生成など、開発現場での応用例とともに、GitHub Copilotなどの事例を紹介。

2024-09-19