LLM介紹
本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。
第 17 章 — 未來威脅與新興防禦
LLM Primer VII 章節走讀第十七篇,也是最終篇。本章越過已經成熟到能寫下的紀律,命名那些社群仍在弄清楚的紀律 — 自主 agent、多模態攻擊面、合成身分,以及 2026 年中的 AI-versus-AI 軍備競賽。
2026-05-26第 10 章 — 設計安全的 LLM 架構
LLM Primer VII 章節走讀第十篇。本章把架構視為主要的資安學科 — 因為一個機率元件最安全的組態,是那個爆炸半徑被結構所限制的組態,而不是那個仰賴元件自身克制的組態。
2026-05-19第 7 章 — 幻覺與可靠性
LLM Primer VII 章節走讀第七篇。本章把可靠性當作一項安全屬性來處理 — 因為每當後果依賴於正確性時,一份自信而錯誤的輸出就是安全問題。
2026-05-16第 5 章 — 輸入驗證與輸出過濾
LLM Primer VII 章節走讀第五篇。本章把第 4 章的分層緩解框架轉成作業紀律 — 淨化階段、guardrail 工具、結構化輸出、紅隊,以及真正有意義的安全指標。
2026-05-14第 13 章 — 自動擴縮與冷啟動緩解
LLM Primer VI 章節走讀第十三篇。這一章解釋為什麼預設 Kubernetes 自動擴縮器在 LLM 流量下會造成中斷,以及 KEDA、Knative、CRIU 如何組合成修補方案。
2026-05-05第 2 章 — KV 快取的挑戰
LLM Primer VI 章節走讀第二篇。這一章替那個會先於權重吃光每個服務系統 VRAM 的資料結構命名。走過主導 KV 快取大小的公式、把它縮小的架構變體,以及會摧毀天真配置方式的碎裂化問題。
2026-04-24第 1 章 — Token 生成的力學
LLM Primer VI 章節走讀第一篇。這一章主張:LLM 服務裡幾乎每一個困難的問題都出自一個事實 — 產生每個 token 的那個迴圈受制於記憶體頻寬,你花錢租來的昂貴運算 99.7% 的時間都是閒置的。
2026-04-23LLM Primer V — 系列導讀與索引
LLM Primer V 系列導讀。從 demo 走到生產環境會踩到的那個縫、AI 工程作為一門獨立學科的框架,以及八章走過的八個工程面 — 基礎模型、提示詞、檢索、代理、評估、可觀測性、安全、服務經濟。
2026-04-13