LLM介紹
本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。
第 16 章 — 安全的微調與適配
LLM Primer VII 章節走讀第十六篇。本章把微調後的模型當作一份其安全屬性必須被爭取、不是被繼承的產物 — 因為同一批教出領域詞彙的梯度步伐,也能侵蝕基底模型帶來的對齊。
2026-05-25第 14 章 — 偏見、公平性與負責任 AI
LLM Primer VII 章節走讀第十四篇。本章把負責任 AI 當作在不確定下做選擇的紀律 — 那裡技術工具浮現取捨,卻不解決它們。
2026-05-23第 12 章 — 存取控制與身分
LLM Primer VII 章節走讀第十二篇。本章回答組合性問題 — 誰被允許呼叫一個 LLM 整合應用的哪一項能力,以及如何在系統元件之間結構化執行。
2026-05-21第 4 章 — Prompt Injection 與 Jailbreak
LLM Primer VII 章節走讀第四篇。本章坐在實務 LLM 安全問題的正中央 — 並解釋為什麼 prompt injection 沒有類似參數化查詢那樣的結構性修法,只有分層的部分性防禦。
2026-05-13第 15 章 — 無伺服器 API 對比專屬基礎設施
LLM Primer VI 章節走讀第十五篇。這一章把損益兩平的算術擺上桌,接著替那個對大多數團隊而言決定答案的平台工程項目命名。
2026-05-07第 8 章 — 下一代 KV 快取管理
LLM Primer VI 章節走讀第八篇。這一章把作業系統的分頁洞見搬進推論引擎 — 並把 KV 快取從一段預留的位元組 slab 變成一個共享、可逐出、可做 prefix cache 的資源。
2026-04-30第 3 章 — 生成式 AI 的資料中心 GPU
LLM Primer VI 章節走讀第三篇。這一章主張,挑一顆服務 GPU 應該看它的 HBM 頻寬與 VRAM 容量,而不是規格表正面的那個 FLOP/s 數字。
2026-04-25第 2 章 — KV 快取的挑戰
LLM Primer VI 章節走讀第二篇。這一章替那個會先於權重吃光每個服務系統 VRAM 的資料結構命名。走過主導 KV 快取大小的公式、把它縮小的架構變體,以及會摧毀天真配置方式的碎裂化問題。
2026-04-24第 2 章 — 基礎模型與提示詞工程
LLM Primer V 章節走讀第二篇。提示詞工程就是工程 — 版本化的模板、防禦式界定符、結構化輸出。從模型分層、取樣參數走到 Pydantic/Zod schema 強制、Outlines 文法約束解碼。
2026-04-15