LLM Primer II — シリーズ序文と一覧

このページは、本書 LLM Primer II — 数学で読み解く言語モデル を、章ごとに紹介するシリーズの目次と序文です。全14章を、ひと章ずつ辿っていきます。ご一読いただければ幸いです。

このシリーズについて

『LLM Primer II』は、前作『LLM Primer』が散歩道のような言葉で語っていた内容を、もう一歩だけ踏み込んで「数学で読み直してみる」一冊です。とはいえ、いきなり数式を並べて読者を置き去りにする本ではありません。記号は、すでに頭のなかにある考えを縮めて書いたものに過ぎない — その姿勢を、最後まで崩さないように努めました。

本シリーズでは、章ごとに一本ずつ、その章でなにを扱っているのか、どこに数学が顔を出すのか、そしてその数学がどんな景色を見せてくれるのかを紹介します。本そのものを開いていただかなくても、全体の地図のようなものとして読んでいただければと思います。

ひとことで言うと: 大規模言語モデルを「魔法」でも「ブラックボックス」でもなく、確率・線形代数・最適化という見慣れた道具立てから、ゆっくり眺め直すための、章ごとのちいさな道しるべです。

本書の流れ

『LLM Primer II』は大きく三つの部に分かれています。第I部は準備運動で、記号・確率・ベクトルの感覚を整える章が並びます。第II部はトランスフォーマーの数学が中心 — Attention、位置符号化、層構造、トークナイザ。第III部は学習と運用の数学で、事前学習、スケーリング則、ポストトレーニング、評価、効率化、そして倫理と未来をめぐる章へと続きます。

毎章、長すぎず短すぎず、紹介していきます。ご都合がよろしければ、毎朝のお茶のお供にでも、ひとつずつ追っていただければと思います。

全14章の一覧

下記は、本シリーズで公開予定の全14章の一覧です。各記事へのリンクをまとめました。

第I部 — 基礎と背景

第II部 — トランスフォーマーの数学

第III部 — 学習と運用の数学

覚えておきたいこと: 数式の前に、まずは「なにを言いたかったのか」をお互いに確かめ合うこと。本書もこのシリーズも、その順番だけは崩さないようにしています。

もしよろしければ

このシリーズを読み進めていただいて、もう少しじっくり腰を据えて読み解きたいと感じていただけましたら、本書『LLM Primer II』を手に取っていただければ嬉しく思います。各章の導出は書籍のほうで丁寧に追っており、巻末には記号の早見表も付けてあります。

次回 — 第1章: 言語モデルのための数学的直観。 記号と確率とエントロピー、三つのちいさな約束ごとから、本書は始まります。

全体像を押さえたい方へ: 本書では、全14章を通じて、記号の意味から最新のスケーリング則・アラインメント・評価まで、ひと続きの数学として辿っています。『LLM Primer II』はAmazonで