なぜ今RAGが必要なのか？｜ChatGPTの限界と知識の外部化｜LLM入門 第1章

第1章　なぜ今RAGなのか？

生成AIが社会に広まり始めた今、ビジネスの現場でもその活用が急速に進んでいます。ChatGPTをはじめとする大規模言語モデル（LLM）は、まるで人と話すように自然な言葉で問いに答え、要約や翻訳、アイデアの提案などを行います。その汎用性の高さから、マーケティング、カスタマーサポート、資料作成、教育、社内研修など、多岐にわたる業務で活用が模索されています。

しかし実際に導入を進めてみると、次のような声が聞かれるようになります。

• 「それっぽく答えているが、うちのルールと違う」

• 「社内のナレッジを使ってくれない」

• 「最新版の情報が反映されていない」

• 「間違っているのに、もっともらしい口調で答える」

これらは偶然のミスではなく、LLMという技術が抱える構造的な限界によって生じる問題です。

大規模言語モデルは、一般的な情報には非常に強く、幅広い質問に対応できます。しかし、それゆえに「特定の業務文脈に最適化されていない」という課題も生み出します。企業や組織が独自に持っている知識や文脈──社内ルール、専門用語、顧客対応の履歴、契約文書、製品仕様といった情報は、インターネット上には存在せず、LLMがあらかじめ学習しているわけでもありません。

このような状況の中で登場したのが、RAG（Retrieval-Augmented Generation） というアプローチです。RAGは、言語モデルが回答を生成する前に、外部のナレッジベースから関連情報を検索して参照させるという仕組みです。これにより、LLMの柔軟な言語生成能力と、社内に蓄積された実務的知識とをつなぐことが可能になります。

この第1章では、なぜRAGという考え方が生まれたのか、そして今、多くの現場で注目されているのかについて、以下の3つの観点から明らかにしていきます。

1.1 ChatGPTだけでは不十分な理由

生成AIの性能は高くとも、それだけでは業務に耐えうる回答が出せない場面が数多く存在します。この節では、ChatGPTの構造的な制約と、現場で頻出する「ずれ」や「誤答」の背景を解説します。

1.2 業務利用における限界とRAGの登場

企業が生成AIを業務に取り入れる中で直面する課題とは何か。そして、それをどのように解決するためにRAGが設計されたのか。その誕生背景と意義を探ります。

1.3 「知識の外部化」という設計思想

RAGは単なる技術手法ではなく、情報とモデルの関係を再設計するための「思想」でもあります。この節では、なぜ「モデルに知識を詰め込む」ことから、「必要な知識は外部から取り出して使う」という考え方への転換が重要なのかを論じます。

この章を通じて、読者の皆さんは「なぜChatGPTだけでは足りないのか」「業務にAIを活用するには何が必要なのか」を明確に理解できるはずです。RAGという概念を理解する前提として、まずこの出発点を丁寧に確認していきましょう。それでは、まず「1.1 ChatGPTでは不十分な理由」を見ていきましょう。