LLM入門

このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。


合計 5 件の記事があります。 | 現在 1 ページ中の 1 ページ目です。

第15章 — サーバーレスAPI vs 専用インフラ

『LLM Primer VI』ウォークスルー第15回。損益分岐算術と、多くのチームにとって答えを傾けるプラットフォームエンジニアリングの行に名前をつける。

2026-05-07

第6章 — プルーニングと知識蒸留

『LLM Primer VI』ウォークスルー第6回。重み数を直接攻める章。無関係な重みをゼロにし、大きな教師の振る舞いを小さな生徒に転写する。Hopperの2:4スパース性、蒸留、そして3圧縮の順序。

2026-04-28

第5章 — 量子化を解き明かす

『LLM Primer VI』ウォークスルー第5回。70Bモデルが4ビット量子化を生き延び1Bが生き延びない理由、そしてAWQ、GPTQ、SmoothQuant、GGUFの実体とレシピの選び方。

2026-04-27

第4章 — 専用AIシリコンとASIC

『LLM Primer VI』ウォークスルー第4回。GPUかASICかの選択はワークロード形状の問題であり、Groq、Inferentia2、TPU、Gaudi 3のそれぞれが勝つ領域と失敗モードを歩く。

2026-04-26

第3章 — 生成AI向けのデータセンターGPU

『LLM Primer VI』ウォークスルー第3回。サービングGPUはFLOP/sではなくHBM帯域とVRAM容量で買うべきだと論じる章。H100、H200、B200、L40S、MI300Xを機構優先で読み解く。

2026-04-25