RAGに欠かせない埋め込みモデルとは？意味検索を支える技術解説｜LLM入門 4.1

4.1 埋め込みモデル（Embedding Model）

RAG（Retrieval-Augmented Generation）の中核をなす技術のひとつが「埋め込みモデル（Embedding Model）」です。これは、自然言語で書かれた文章や質問を数値ベクトル（高次元の点）に変換する技術であり、Retrieverの「意味ベース検索」を可能にする根幹部分です。

埋め込みとは、言葉や文の「意味」を、機械が計算可能な形式で表現すること。これにより、単語の表記や言い回しが異なっても、「意味が近いかどうか」を判断できるようになります。

このセクションでは、埋め込みモデルの基本的な仕組みと、RAGにおける役割、そして代表的なモデルの特徴と選び方について解説します。

なぜ埋め込みが必要なのか？

従来の検索エンジンでは、キーワードの一致度（TF-IDFやBM25）をベースに検索が行われていました。しかしこの方法では、次のような問題が起こりがちです。

• 「語順」や「言い換え」に弱く、検索漏れが発生する

• 同義語や略語に対応できず、精度が低下する

• 文脈や意味の近さを捉えることができない

RAGでは、ユーザーの質問と文書チャンクをともにベクトル化し、意味の近さ（コサイン類似度など）で照合します。
このベクトル化を行うのが、埋め込みモデルです。

埋め込みのイメージ：意味を「空間」に投影する

たとえば、「有給休暇の取得ルールを知りたい」という質問は、次のような表現にも言い換えられるでしょう。

• 「年休っていつ取れるの？」

• 「有休の使い方について教えて」

• 「休み申請のルールって何かありますか？」

これらの文章は、文字列としては似ていなくても、「有給制度に関する問い合わせ」という意味では極めて近いものです。
埋め込みモデルは、こうした文章を「意味空間」における近接した位置にマッピングすることで、キーワードベースでは不可能だった検索の柔軟性を実現します。

主な埋め込みモデルと特徴

現在、実務でよく使われる埋め込みモデルには以下のようなものがあります。

① OpenAI Embedding（text-embedding-ada-002 など）

• 特徴：高性能かつ高コストパフォーマンス。OpenAI APIで利用可能

• 次元数：通常 1536 次元

• 言語対応：多言語対応あり（日本語も高精度）

• 長所：ChatGPTとの統合性が高く、精度と使いやすさのバランスが良い

• 注意点：外部API使用のため、プライバシー管理やレイテンシに配慮が必要

② SBERT（Sentence-BERT）

• 特徴：オープンソースでローカル環境でも動作可能

• 次元数：通常 384〜768 次元程度（モデルにより異なる）

• 言語対応：モデルによるが、日本語モデル（cl-tohokuなど）も存在

• 長所：オンプレミスや機密データを扱う環境で有効

• 注意点：精度はモデル選定とチューニングに依存

③ Cohere, Google USE, Instructor XL など

• 各社が提供する独自Embeddingモデル。多くはAPI形式で利用可能

• CohereなどはZero-ShotやMultilingual対応に強い

• RAG向けに設計された汎用埋め込みモデルも増えている

選定時のポイント

埋め込みモデルを選ぶ際には、以下の観点を重視すべきです。

ベストプラクティス：チャンクとの組み合わせで活きる

実は、Embeddingの精度を最大限に引き出すには、対象となる文書の**チャンク化（分割単位の設計）**も極めて重要です。

• 1チャンクが短すぎると文脈が失われる

• 長すぎるとEmbeddingが曖昧になり、意味が散ってしまう

最適なチャンク設計とは、「1つの意味単位」が保たれつつ、モデルの最大トークン数に収まる程度の分割です。

また、チャンクにはメタ情報（カテゴリ、更新日、文書名など）を付加することで、検索結果のフィルタリングや優先順位制御にも活用できます。

ベクトル検索エンジン

このセクション「4.2 ベクトル検索エンジン（FAISS / Weaviate / Pinecone）」では、意味ベースの検索を可能にする埋め込みモデルの役割と種類を解説しました。
次のセクションでは、埋め込まれたベクトルを対象に、高速かつ高精度に類似情報を検索するための技術＝ベクトル検索エンジンについて見ていきます。