LLM介紹
本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。
第 7 章 — 幻覺與可靠性
LLM Primer VII 章節走讀第七篇。本章把可靠性當作一項安全屬性來處理 — 因為每當後果依賴於正確性時,一份自信而錯誤的輸出就是安全問題。
2026-05-16
第 6 章 — 檢索增強生成的風險
LLM Primer VII 章節走讀第六篇。本章把檢索語料當作一條不可信的輸入通道 — 因為每一份被索引的文件,從模型的視角來看,都是與使用者問題對等地位的一則指令。
2026-05-15
第 5 章 — 輸入驗證與輸出過濾
LLM Primer VII 章節走讀第五篇。本章把第 4 章的分層緩解框架轉成作業紀律 — 淨化階段、guardrail 工具、結構化輸出、紅隊,以及真正有意義的安全指標。
2026-05-14
第 2 章 — LLM 系統的威脅建模
LLM Primer VII 章節走讀第二篇。本章把 Shostack 的四個問題、STRIDE、PASTA 與 MITRE ATLAS 套用到一個最強大元件把所有輸入都當作可能指令的系統上。
2026-05-11
第 1 章 — AI 安全為什麼不同
LLM Primer VII 章節走讀第一篇。本章主張 AI 安全不是把「ML」形容詞掛在傳統資安前面 — 子層本身變了,後面每一章都從這個變化開展出來。
2026-05-10
LLM Primer VII — 系列導論與索引
LLM Primer VII 章節走讀的導論與索引。這是系列的完結之卷:LLM Primer 的工程弧線,最後落在決定這一切能否在對手、監管機關以及機率系統日常故障模式面前存活下來的那個學科。
2026-05-09
第 12 章 — 解耦式服務與 Kubernetes
LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。
2026-05-04
第 8 章 — 下一代 KV 快取管理
LLM Primer VI 章節走讀第八篇。這一章把作業系統的分頁洞見搬進推論引擎 — 並把 KV 快取從一段預留的位元組 slab 變成一個共享、可逐出、可做 prefix cache 的資源。
2026-04-30
第 7 章 — 進階批次處理策略
LLM Primer VI 章節走讀第七篇。這一章展示為什麼批次處理不是最佳化,而是讓受頻寬所困的 decoding 變得可解的關鍵動作 — 以及為什麼「批次」是動詞、不是名詞。
2026-04-29
LLM Primer VI — 系列簡介與索引
《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。
2026-04-22
第 7 章 — LLM 安全與護欄
LLM Primer V 章節走讀第七篇。命名 LLM 應用引入的新安全軸 — 控制什麼指令、從哪裡、帶多少權限到達模型 — 並圍繞它建緩解矩陣。
2026-04-20
第 5 章 — 評估 LLM 應用
LLM Primer V 章節走讀第五篇。承認 assertEqual 在 LLM 輸出上已死,把測試紀律重建在錨定的 judge、RAG Triad、代理的軌跡測試上。
2026-04-18
第 4 章 — AI 代理與工具呼叫
LLM Primer V 章節走讀第四篇。把代理當一個「對著工具跑迴圈的語言模型」處理 — 工具 schema、記憶層、多代理接線都得先工程好,迴圈才能被信任去做真的事。
2026-04-17
第 3 章 — 檢索增強生成
LLM Primer V 章節走讀第三篇。走過整條 RAG 管線 — 載入、切塊、嵌入、檢索、生成 — 並把「在你十個最愛文件上會動的 demo」跟「撐得住真實語料的系統」區分開來。
2026-04-16
第 2 章 — 基礎模型與提示詞工程
LLM Primer V 章節走讀第二篇。提示詞工程就是工程 — 版本化的模板、防禦式界定符、結構化輸出。從模型分層、取樣參數走到 Pydantic/Zod schema 強制、Outlines 文法約束解碼。
2026-04-15
LLM Primer V — 系列導讀與索引
LLM Primer V 系列導讀。從 demo 走到生產環境會踩到的那個縫、AI 工程作為一門獨立學科的框架,以及八章走過的八個工程面 — 基礎模型、提示詞、檢索、代理、評估、可觀測性、安全、服務經濟。
2026-04-13
LLM 入門系列 — 一卷一卷讀懂生成式 AI
LLM Primer 系列 — 下田昌平（Sho Shimoda）撰寫的七卷本生成式 AI 現場指南，已完結。從基礎到安全。含姊妹卷《Physical AI》。全 7 卷均於 Amazon 上市。
2026-02-15