LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。


共有12篇文章。 | 當前在第1頁,共1頁。

第 16 章 — 安全的微調與適配

LLM Primer VII 章節走讀第十六篇。本章把微調後的模型當作一份其安全屬性必須被爭取、不是被繼承的產物 — 因為同一批教出領域詞彙的梯度步伐,也能侵蝕基底模型帶來的對齊。

2026-05-25

第 14 章 — 偏見、公平性與負責任 AI

LLM Primer VII 章節走讀第十四篇。本章把負責任 AI 當作在不確定下做選擇的紀律 — 那裡技術工具浮現取捨,卻不解決它們。

2026-05-23

第 13 章 — 監管地景

LLM Primer VII 章節走讀第十三篇。本章把複數的、仍在整合的監管地景,對映到前面章節所發展的技術控制上。

2026-05-22

第 12 章 — 存取控制與身分

LLM Primer VII 章節走讀第十二篇。本章回答組合性問題 — 誰被允許呼叫一個 LLM 整合應用的哪一項能力,以及如何在系統元件之間結構化執行。

2026-05-21

第 4 章 — Prompt Injection 與 Jailbreak

LLM Primer VII 章節走讀第四篇。本章坐在實務 LLM 安全問題的正中央 — 並解釋為什麼 prompt injection 沒有類似參數化查詢那樣的結構性修法,只有分層的部分性防禦。

2026-05-13

第 15 章 — 無伺服器 API 對比專屬基礎設施

LLM Primer VI 章節走讀第十五篇。這一章把損益兩平的算術擺上桌,接著替那個對大多數團隊而言決定答案的平台工程項目命名。

2026-05-07

第 9 章 — 推測解碼

LLM Primer VI 章節走讀第九篇。這一章顯示自回歸的循序瓶頸其實有一個數學上的漏洞 — 並展示它何時值得付出代價的算術。

2026-05-01

第 8 章 — 下一代 KV 快取管理

LLM Primer VI 章節走讀第八篇。這一章把作業系統的分頁洞見搬進推論引擎 — 並把 KV 快取從一段預留的位元組 slab 變成一個共享、可逐出、可做 prefix cache 的資源。

2026-04-30

第 6 章 — 剪枝與知識蒸餾

LLM Primer VI 章節走讀第六篇。這一章直接攻擊權重的數量 — 先把不重要的權重歸零,再把大模型的行為轉移到更小的模型裡。

2026-04-28

第 3 章 — 生成式 AI 的資料中心 GPU

LLM Primer VI 章節走讀第三篇。這一章主張,挑一顆服務 GPU 應該看它的 HBM 頻寬與 VRAM 容量,而不是規格表正面的那個 FLOP/s 數字。

2026-04-25

第 2 章 — KV 快取的挑戰

LLM Primer VI 章節走讀第二篇。這一章替那個會先於權重吃光每個服務系統 VRAM 的資料結構命名。走過主導 KV 快取大小的公式、把它縮小的架構變體,以及會摧毀天真配置方式的碎裂化問題。

2026-04-24

第 2 章 — 基礎模型與提示詞工程

LLM Primer V 章節走讀第二篇。提示詞工程就是工程 — 版本化的模板、防禦式界定符、結構化輸出。從模型分層、取樣參數走到 Pydantic/Zod schema 強制、Outlines 文法約束解碼。

2026-04-15