LLM入門
このページでは、AI技術に関心のある方のために、LLM（大規模言語モデル）の基礎から応用までをわかりやすく解説します。
合計 1 件の記事があります。 |
現在 1 ページ中の 1 ページ目です。
1.3 情報量とエントロピー ― モデルの“迷い”を数学で読む
大規模言語モデル（LLM）の「迷い」を数式で捉えるとは？本記事では、情報量・エントロピー・クロスエントロピーという情報理論の基礎概念を使い、LLMの予測の仕組みをわかりやすく解説します。損失関数の意味を本質から理解する1章。
2024-10-04