LLM入門

このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。


合計 20 件の記事があります。 | 現在 1 ページ中の 1 ページ目です。

第16章 — 本番環境でのコスト削減戦略

『LLM Primer VI』ウォークスルー最終回。前月の請求書の3分の1か半分に効いてくる直交する打ち手のカタログ。

2026-05-08

第15章 — サーバーレスAPI vs 専用インフラ

『LLM Primer VI』ウォークスルー第15回。損益分岐算術と、多くのチームにとって答えを傾けるプラットフォームエンジニアリングの行に名前をつける。

2026-05-07

第7章 — 高度なバッチング戦略

『LLM Primer VI』ウォークスルー第7回。バッチングは最適化ではなく、帯域律速のデコードを成立させる唯一の動き。バッチは名詞ではなく動詞である。

2026-04-29

第2章 — KVキャッシュという課題

『LLM Primer VI』ウォークスルー第2回。重みより先にサービングクラスタのVRAMを食い尽くすデータ構造 — KVキャッシュ — の算式、アーキテクチャの変種、そしてナイーブな割当が同時実行数を壊す仕組み。

2026-04-24

LLM Primer VI — シリーズ序文と目次

『LLM Primer VI: AIシステムのスケーリング』ウォークスルー全16回の序文と目次。LLM推論をメモリ帯域、スケジューリング、そしてドルが交錯するエンジニアリング領域として扱う一冊の全体像。

2026-04-22

第3章 — 検索拡張生成 (RAG)

『LLM Primer V』ウォークスルー第3回。RAGパイプラインを端から端まで歩き、10件のお気に入り文書で動くデモを、実運用のコーパスに耐えるシステムから分ける技法 — ハイブリッド検索、構造的チャンキング、HyDE、step-back、text-to-SQL — をまとめる。

2026-04-16

第10章 — 主要な評価フレームワーク

LLM Primer III ウォークスルー第10回。評価トライアドを実際に運用できる形にする8つのフレームワークの現場ガイド — メトリックファースト側の RAGAS、TruLens、DeepEval と、可観測性プラットフォーム側の Braintrust、LangSmith、Phoenix、Galileo、Opik、そしてどれもまだ閉じていない評価ギャップ。

2026-03-27

第6章 — RAGの脅威モデルと脆弱性

LLM Primer III ウォークスルー第6回。検索で広がった攻撃面 — コーパス汚染、敵対的チャンク、間接プロンプトインジェクション、埋め込み反転、そしてエージェント型 RAG での「混乱した代理人」問題。具体的な攻撃、いずれも実証済みで、いずれも再現可能。

2026-03-23

LLM Primer III — シリーズ紹介とインデックス

LLM Primer シリーズ第3巻『RAGで強化するエンタープライズAI』を、章ごとに紹介していくウォークスルーの初回です。なぜ検索拡張生成は、外から見ると単純で、中を開けると工程の積み重ねなのか。本書を誰に向けて書いたか、そして3月18日から28日までの11日間の進行を最初にお伝えします。

2026-03-17

第14章 — エンジニアのための実践的知識

LLM Primer II 第14章、歩き読みシリーズの最終回です。本書を読み終えたあと、どのように理解を深め続けるか。PyTorch、JAX、Hugging Face、vLLM などの道具立てを数学に重ね、シリーズの次の巻へとご案内します。

2026-03-16

LLM入門書シリーズ — 生成AIを理解するために、分解してみる

LLM Primer シリーズ — Sho Shimoda による全7巻の生成AIフィールドガイド、ついに完結。基礎からセキュリティまで。姉妹編『Physical AI』も含む。全7巻がAmazonで販売中。

2026-02-15

JSONスキーマによる状態制御の工夫とは?|MCP入門 6.4|一貫性あるAI応答を実現する構造的設計

生成AIの応答を安定化させるには、“状態”の明示が不可欠です。本記事では、MCP設計におけるJSONスキーマの活用方法を詳しく解説し、意図や画面状況をモデルに正しく伝える設計戦略を紹介します。

2025-03-31

ストラクチャード・コンテキスト vs ナチュラル・プロンプティングとは?|MCP入門 6.3|構造化と柔軟性を両立するプロンプト設計

生成AIに文脈を渡すには、JSON形式の構造化データか自然言語プロンプトか、どちらが適切か。本記事では、MCP設計において“ストラクチャード・コンテキスト”と“ナチュラル・プロンプティング”の違いと併用戦略を詳しく解説します。

2025-03-30

コンテキストマネジメントとは?|MCP入門 3.2|履歴と外部情報を活かす生成AI設計

生成AIの出力品質は、どんな文脈や履歴情報を参照しているかで決まります。本章では、チャット履歴要約・外部ベクター検索・ユーザープロファイル統合といったMCP設計の基礎を丁寧に解説します。

2025-03-14

RAG時代の設計者とは?検索と生成をつなぎ、AIを業務に根づかせる方法|LLM入門 終章

RAGの本質は、情報の選別と構造化を通じて生成AIの文脈を設計すること。本章では、生成AI時代に求められる「検索と生成をつなぐ設計者」の役割と、今後の学びと実装の地図を示します。

2025-03-08

RAGは本当に不要になるのか?長文対応LLM時代の検索戦略を再考する|LLM入門 7.3

GPT-4 128kやClaude 2の登場により、「検索せず全文渡す」構成が可能になってきました。本記事ではRetrieval不要論の背景と現実的な限界、そしてRAGの再定義について丁寧に解説します。

2025-03-06

モデルにとっての記憶とは何か?|MCP入門 1.4|生成AIと文脈再現の技術

生成AIは本当に記憶しているのか?実は、AIの“記憶”は文脈の再構築にすぎません。エフェメラルメモリ・永続メモリ・役割設計など、MCP(Model Context Protocol)での記憶制御の仕組みをわかりやすく解説します。

2025-03-06

コンテキストウィンドウとは?生成AIにおける文脈の限界とMCP設計|MCP入門 1.3

生成AIが扱える“文脈”には上限があります。それがコンテキストウィンドウです。トークン数の制限とは何か、なぜ応答が急に崩れるのか、MCP(Model Context Protocol)における設計の工夫まで、丁寧に解説します。

2025-03-05

RAGの限界と今後の展望とは?幻覚・検索精度・モデル進化にどう向き合うか|LLM入門 第7章

RAGには明確な強みがある一方で、限界や課題も存在します。本章では、幻覚対策やハイブリッド検索の可能性、大規模コンテキストモデルとの関係、そして今後の運用と設計戦略について実践的に整理します。

2025-03-03

RAG設計におけるトークン制限への対処法とは?情報量と生成精度を両立する工夫|LLM入門 6.4

生成AIにはトークン数の上限という物理的な制約があります。本記事では、Retriever出力やプロンプトを設計する際に考慮すべきトークン制限と、その中で最も有効な情報を渡すための工夫と設計指針を解説します。

2025-03-02