LLM介紹
本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。
第 12 章 — 存取控制與身分
LLM Primer VII 章節走讀第十二篇。本章回答組合性問題 — 誰被允許呼叫一個 LLM 整合應用的哪一項能力,以及如何在系統元件之間結構化執行。
2026-05-21
第 10 章 — 設計安全的 LLM 架構
LLM Primer VII 章節走讀第十篇。本章把架構視為主要的資安學科 — 因為一個機率元件最安全的組態,是那個爆炸半徑被結構所限制的組態,而不是那個仰賴元件自身克制的組態。
2026-05-19
第 9 章 — 模型完整性與供應鏈風險
LLM Primer VII 章節走讀第九篇。本章把模型檔案當作一份由第三方發佈的二進位檔案 — 帶著二進位發佈一直以來所承載的反序列化、後門與來源歸屬顧慮。
2026-05-18
第 6 章 — 檢索增強生成的風險
LLM Primer VII 章節走讀第六篇。本章把檢索語料當作一條不可信的輸入通道 — 因為每一份被索引的文件,從模型的視角來看,都是與使用者問題對等地位的一則指令。
2026-05-15
第 3 章 — 資料安全與隱私
LLM Primer VII 章節走讀第三篇。本章把資料當作一項具有生命週期的資產來處理 — 從模型部分記住了的訓練語料,到 Samsung 工程師在事件被命名之前貼進 ChatGPT 的使用者輸入。
2026-05-12
第 2 章 — LLM 系統的威脅建模
LLM Primer VII 章節走讀第二篇。本章把 Shostack 的四個問題、STRIDE、PASTA 與 MITRE ATLAS 套用到一個最強大元件把所有輸入都當作可能指令的系統上。
2026-05-11
第 3 章 — 生成式 AI 的資料中心 GPU
LLM Primer VI 章節走讀第三篇。這一章主張,挑一顆服務 GPU 應該看它的 HBM 頻寬與 VRAM 容量,而不是規格表正面的那個 FLOP/s 數字。
2026-04-25
第 1 章 — Token 生成的力學
LLM Primer VI 章節走讀第一篇。這一章主張:LLM 服務裡幾乎每一個困難的問題都出自一個事實 — 產生每個 token 的那個迴圈受制於記憶體頻寬,你花錢租來的昂貴運算 99.7% 的時間都是閒置的。
2026-04-23
第 8 章 — 效能、服務、成本的最佳化
LLM Primer V 章節走讀最終篇。把生產 LLM 經濟學當分層紀律處理 — 最便宜的呼叫是那個沒發生的,而下面每一層是讓下一次呼叫變便宜的那一層。
2026-04-21
第 7 章 — LLM 安全與護欄
LLM Primer V 章節走讀第七篇。命名 LLM 應用引入的新安全軸 — 控制什麼指令、從哪裡、帶多少權限到達模型 — 並圍繞它建緩解矩陣。
2026-04-20
第 6 章 — AI 可觀測性與追蹤
LLM Primer V 章節走讀第六篇。把使用者的查詢當一棵因果樹處理、不當請求日誌。走過 OpenTelemetry GenAI 語意慣例、TTFT/TPOT/cost/quality 這些真的重要的指標,以及把 trace 餵回評估的匯出管線。
2026-04-19
第 5 章 — 評估 LLM 應用
LLM Primer V 章節走讀第五篇。承認 assertEqual 在 LLM 輸出上已死,把測試紀律重建在錨定的 judge、RAG Triad、代理的軌跡測試上。
2026-04-18
第 4 章 — AI 代理與工具呼叫
LLM Primer V 章節走讀第四篇。把代理當一個「對著工具跑迴圈的語言模型」處理 — 工具 schema、記憶層、多代理接線都得先工程好,迴圈才能被信任去做真的事。
2026-04-17
第 3 章 — 檢索增強生成
LLM Primer V 章節走讀第三篇。走過整條 RAG 管線 — 載入、切塊、嵌入、檢索、生成 — 並把「在你十個最愛文件上會動的 demo」跟「撐得住真實語料的系統」區分開來。
2026-04-16
第 2 章 — 基礎模型與提示詞工程
LLM Primer V 章節走讀第二篇。提示詞工程就是工程 — 版本化的模板、防禦式界定符、結構化輸出。從模型分層、取樣參數走到 Pydantic/Zod schema 強制、Outlines 文法約束解碼。
2026-04-15
第 1 章 — AI 工程作為一門學科
LLM Primer V 章節走讀第一篇。你的 demo 會動、生產系統不會動,原因不在模型 — 是工程問題,而且那門工程有名字。走過可靠性裂縫、確定性包裝、以及五根柱子。
2026-04-14
LLM Primer V — 系列導讀與索引
LLM Primer V 系列導讀。從 demo 走到生產環境會踩到的那個縫、AI 工程作為一門獨立學科的框架,以及八章走過的八個工程面 — 基礎模型、提示詞、檢索、代理、評估、可觀測性、安全、服務經濟。
2026-04-13