LLM Primer V — 系列導讀與索引
LLM Primer V: Building Real-World LLM Applications 的章節走讀 — 這一卷把 AI 工程當成一門獨立的學科來寫,不是提示詞的小把戲。
這個系列為什麼存在
做 AI 應用有一個一直在重演的樣板:一組人週末做出 demo、demo 驚豔到一群人、pilot 被批准、六個月後 pilot 卡在團隊叫做「hardening」、私下叫做「模型一直在做我們沒預期的事」的那個階段。模型本身沒變。變的是工作已經走出「幾十個精選輸入就能生出像樣輸出」的那塊區域,進到「幾千個真實使用者、對抗性內容、成本線、延遲預算一起訂條件」的那塊區域。第五卷寫的就是第二塊區域裡那門學科。這不是一本講怎麼訓練模型的書,也不是提示詞妙招大全。這是一本講怎麼用工程把一個模型變成一個企業能夠營運的系統的書。
寫給誰看
已經把 prototype 送上線、現在被要求把它維持住的應用工程師。要判斷一個新的 LLM 功能值不值得那份運維負擔的技術主管。想搞懂團隊在延遲、成本、品質三方之間到底怎麼取捨的 AI 團隊產品經理。這本書假設讀者已經呼叫過 LLM API、也讀過某個框架的文件到知道 prompt template 是什麼的程度。它不假設你有 ML 研究背景;真正在生產環境重要的機制是工程機制,整本書都停在工程這個層次上寫。
怎麼讀
章節的排法是疊起來的。第 1 章立框 — 機率核心外面那層確定性包裝 — 之後每一章往包裝裡填一層。第 2 到 4 章依序走模型、檢索、代理;第 5 和第 6 章補上讓系統能安全演化的評估與可觀測性軌道;第 7 和第 8 章收尾在安全與服務經濟。可以從頭讀到尾,也可以直接跳到你系統當前正在露出的失敗模式那一章。每一章的走讀文章都提煉出三個關鍵概念,並指向書裡的原文。
八章走讀
走讀每天一篇,一章一篇。
- 4 月 14 日 — 第 1 章 — AI 工程作為一門學科。Demo 跟生產之間那條可靠性裂縫,以及把它補起來的五根柱子。
- 4 月 15 日 — 第 2 章 — 基礎模型與提示詞工程。模型分層、取樣參數、防禦式提示詞、結構化輸出,通通當工程表面來處理。
- 4 月 16 日 — 第 3 章 — 檢索增強生成。整條 RAG 管線 — 切塊、混合檢索、查詢改寫、多模態、text-to-SQL。
- 4 月 17 日 — 第 4 章 — AI 代理與工具呼叫。ReAct 迴圈、把工具 schema 當契約看、代理真正需要的三層記憶。
- 4 月 18 日 — 第 5 章 — 評估 LLM 應用。LLM-as-judge、RAG Triad、代理的軌跡測試。
- 4 月 19 日 — 第 6 章 — AI 可觀測性與追蹤。OpenTelemetry GenAI 語意慣例、真的重要的那幾個指標,以及回到評估的那個迴圈。
- 4 月 20 日 — 第 7 章 — LLM 安全與護欄。OWASP LLM Top 10、直接對上間接注入、四層緩解矩陣。
- 4 月 21 日 — 第 8 章 — 效能、服務、成本的最佳化。語意快取、動態路由,以及推論伺服器內部到底發生了什麼事。
關於這本書和這個系列
LLM Primer 是一套七卷的系列,把語言模型當成工程來寫,不當成魔法。第五卷是第五本。整套書的語氣是冷靜的、機制優先的:每一章先指名它要收拾的那個失敗模式、走過收拾它的那個機制、把機制活著的那段程式碼放出來。書裡沒有勸讀者擁抱 AI 的段落。這件事讀者早就決定了;書寫的是怎麼把它做好。後面的卷會更深入 scaling(第六卷),以及規範型部署面對的更硬的安全與治理問題(第七卷)。
