LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。


共有13篇文章。 | 當前在第1頁,共1頁。

第 17 章 — 未來威脅與新興防禦

LLM Primer VII 章節走讀第十七篇,也是最終篇。本章越過已經成熟到能寫下的紀律,命名那些社群仍在弄清楚的紀律 — 自主 agent、多模態攻擊面、合成身分,以及 2026 年中的 AI-versus-AI 軍備競賽。

2026-05-26

第 12 章 — 存取控制與身分

LLM Primer VII 章節走讀第十二篇。本章回答組合性問題 — 誰被允許呼叫一個 LLM 整合應用的哪一項能力,以及如何在系統元件之間結構化執行。

2026-05-21

第 11 章 — 可觀測性、日誌與事件回應

LLM Primer VII 章節走讀第十一篇。本章把日誌、告警與事件回應當作那個把架構防禦轉成營運者能真正運行之系統的層。

2026-05-20

第 10 章 — 設計安全的 LLM 架構

LLM Primer VII 章節走讀第十篇。本章把架構視為主要的資安學科 — 因為一個機率元件最安全的組態,是那個爆炸半徑被結構所限制的組態,而不是那個仰賴元件自身克制的組態。

2026-05-19

第 9 章 — 模型完整性與供應鏈風險

LLM Primer VII 章節走讀第九篇。本章把模型檔案當作一份由第三方發佈的二進位檔案 — 帶著二進位發佈一直以來所承載的反序列化、後門與來源歸屬顧慮。

2026-05-18

第 7 章 — 幻覺與可靠性

LLM Primer VII 章節走讀第七篇。本章把可靠性當作一項安全屬性來處理 — 因為每當後果依賴於正確性時,一份自信而錯誤的輸出就是安全問題。

2026-05-16

第 16 章 — 生產環境的降本策略

LLM Primer VI 章節走讀最終篇。那些各自獨立、但能複利成上個月帳單三分之一到一半的動作目錄。

2026-05-08

第 13 章 — 自動擴縮與冷啟動緩解

LLM Primer VI 章節走讀第十三篇。這一章解釋為什麼預設 Kubernetes 自動擴縮器在 LLM 流量下會造成中斷,以及 KEDA、Knative、CRIU 如何組合成修補方案。

2026-05-05

第 9 章 — 推測解碼

LLM Primer VI 章節走讀第九篇。這一章顯示自回歸的循序瓶頸其實有一個數學上的漏洞 — 並展示它何時值得付出代價的算術。

2026-05-01

第 6 章 — 剪枝與知識蒸餾

LLM Primer VI 章節走讀第六篇。這一章直接攻擊權重的數量 — 先把不重要的權重歸零,再把大模型的行為轉移到更小的模型裡。

2026-04-28

第 1 章 — Token 生成的力學

LLM Primer VI 章節走讀第一篇。這一章主張:LLM 服務裡幾乎每一個困難的問題都出自一個事實 — 產生每個 token 的那個迴圈受制於記憶體頻寬,你花錢租來的昂貴運算 99.7% 的時間都是閒置的。

2026-04-23

第 6 章 — AI 可觀測性與追蹤

LLM Primer V 章節走讀第六篇。把使用者的查詢當一棵因果樹處理、不當請求日誌。走過 OpenTelemetry GenAI 語意慣例、TTFT/TPOT/cost/quality 這些真的重要的指標,以及把 trace 餵回評估的匯出管線。

2026-04-19

第 4 章 — AI 代理與工具呼叫

LLM Primer V 章節走讀第四篇。把代理當一個「對著工具跑迴圈的語言模型」處理 — 工具 schema、記憶層、多代理接線都得先工程好,迴圈才能被信任去做真的事。

2026-04-17