LLM介紹
本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。
第 8 章 — 對模型的對抗性攻擊
LLM Primer VII 章節走讀第八篇。本章追溯對抗性攻擊 — 從 Goodfellow 2014 年的影像分類器工作,經 TextFooler 與 universal suffix,一路到針對生產 API 的 model stealing。
2026-05-17
第 15 章 — 無伺服器 API 對比專屬基礎設施
LLM Primer VI 章節走讀第十五篇。這一章把損益兩平的算術擺上桌,接著替那個對大多數團隊而言決定答案的平台工程項目命名。
2026-05-07
第 14 章 — Token 經濟學與 API 定價
LLM Primer VI 章節走讀第十四篇。這一章把第 1 章的物理連到帳單上的項目 — 並解釋為什麼第一個月的帳單常常跟團隊的預估完全對不上。
2026-05-06
第 13 章 — 自動擴縮與冷啟動緩解
LLM Primer VI 章節走讀第十三篇。這一章解釋為什麼預設 Kubernetes 自動擴縮器在 LLM 流量下會造成中斷,以及 KEDA、Knative、CRIU 如何組合成修補方案。
2026-05-05
第 12 章 — 解耦式服務與 Kubernetes
LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。
2026-05-04
第 8 章 — 下一代 KV 快取管理
LLM Primer VI 章節走讀第八篇。這一章把作業系統的分頁洞見搬進推論引擎 — 並把 KV 快取從一段預留的位元組 slab 變成一個共享、可逐出、可做 prefix cache 的資源。
2026-04-30
第 7 章 — 進階批次處理策略
LLM Primer VI 章節走讀第七篇。這一章展示為什麼批次處理不是最佳化,而是讓受頻寬所困的 decoding 變得可解的關鍵動作 — 以及為什麼「批次」是動詞、不是名詞。
2026-04-29
第 3 章 — 生成式 AI 的資料中心 GPU
LLM Primer VI 章節走讀第三篇。這一章主張,挑一顆服務 GPU 應該看它的 HBM 頻寬與 VRAM 容量,而不是規格表正面的那個 FLOP/s 數字。
2026-04-25
第 2 章 — KV 快取的挑戰
LLM Primer VI 章節走讀第二篇。這一章替那個會先於權重吃光每個服務系統 VRAM 的資料結構命名。走過主導 KV 快取大小的公式、把它縮小的架構變體,以及會摧毀天真配置方式的碎裂化問題。
2026-04-24
LLM Primer VI — 系列簡介與索引
《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。
2026-04-22
第 8 章 — 效能、服務、成本的最佳化
LLM Primer V 章節走讀最終篇。把生產 LLM 經濟學當分層紀律處理 — 最便宜的呼叫是那個沒發生的,而下面每一層是讓下一次呼叫變便宜的那一層。
2026-04-21
LLM 入門系列 — 一卷一卷讀懂生成式 AI
LLM Primer 系列 — 下田昌平（Sho Shimoda）撰寫的七卷本生成式 AI 現場指南，已完結。從基礎到安全。含姊妹卷《Physical AI》。全 7 卷均於 Amazon 上市。
2026-02-15