LLM介紹
本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。
第 12 章 — 存取控制與身分
LLM Primer VII 章節走讀第十二篇。本章回答組合性問題 — 誰被允許呼叫一個 LLM 整合應用的哪一項能力,以及如何在系統元件之間結構化執行。
2026-05-21第 10 章 — 設計安全的 LLM 架構
LLM Primer VII 章節走讀第十篇。本章把架構視為主要的資安學科 — 因為一個機率元件最安全的組態,是那個爆炸半徑被結構所限制的組態,而不是那個仰賴元件自身克制的組態。
2026-05-19第 9 章 — 模型完整性與供應鏈風險
LLM Primer VII 章節走讀第九篇。本章把模型檔案當作一份由第三方發佈的二進位檔案 — 帶著二進位發佈一直以來所承載的反序列化、後門與來源歸屬顧慮。
2026-05-18第 8 章 — 對模型的對抗性攻擊
LLM Primer VII 章節走讀第八篇。本章追溯對抗性攻擊 — 從 Goodfellow 2014 年的影像分類器工作,經 TextFooler 與 universal suffix,一路到針對生產 API 的 model stealing。
2026-05-17第 7 章 — 幻覺與可靠性
LLM Primer VII 章節走讀第七篇。本章把可靠性當作一項安全屬性來處理 — 因為每當後果依賴於正確性時,一份自信而錯誤的輸出就是安全問題。
2026-05-16第 5 章 — 輸入驗證與輸出過濾
LLM Primer VII 章節走讀第五篇。本章把第 4 章的分層緩解框架轉成作業紀律 — 淨化階段、guardrail 工具、結構化輸出、紅隊,以及真正有意義的安全指標。
2026-05-14第 4 章 — Prompt Injection 與 Jailbreak
LLM Primer VII 章節走讀第四篇。本章坐在實務 LLM 安全問題的正中央 — 並解釋為什麼 prompt injection 沒有類似參數化查詢那樣的結構性修法,只有分層的部分性防禦。
2026-05-13第 3 章 — 資料安全與隱私
LLM Primer VII 章節走讀第三篇。本章把資料當作一項具有生命週期的資產來處理 — 從模型部分記住了的訓練語料,到 Samsung 工程師在事件被命名之前貼進 ChatGPT 的使用者輸入。
2026-05-12第 2 章 — LLM 系統的威脅建模
LLM Primer VII 章節走讀第二篇。本章把 Shostack 的四個問題、STRIDE、PASTA 與 MITRE ATLAS 套用到一個最強大元件把所有輸入都當作可能指令的系統上。
2026-05-11LLM Primer VII — 系列導論與索引
LLM Primer VII 章節走讀的導論與索引。這是系列的完結之卷:LLM Primer 的工程弧線,最後落在決定這一切能否在對手、監管機關以及機率系統日常故障模式面前存活下來的那個學科。
2026-05-09第 15 章 — 無伺服器 API 對比專屬基礎設施
LLM Primer VI 章節走讀第十五篇。這一章把損益兩平的算術擺上桌,接著替那個對大多數團隊而言決定答案的平台工程項目命名。
2026-05-07第 14 章 — Token 經濟學與 API 定價
LLM Primer VI 章節走讀第十四篇。這一章把第 1 章的物理連到帳單上的項目 — 並解釋為什麼第一個月的帳單常常跟團隊的預估完全對不上。
2026-05-06第 13 章 — 自動擴縮與冷啟動緩解
LLM Primer VI 章節走讀第十三篇。這一章解釋為什麼預設 Kubernetes 自動擴縮器在 LLM 流量下會造成中斷,以及 KEDA、Knative、CRIU 如何組合成修補方案。
2026-05-05LLM Primer VI — 系列簡介與索引
《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。
2026-04-22第 6 章 — AI 可觀測性與追蹤
LLM Primer V 章節走讀第六篇。把使用者的查詢當一棵因果樹處理、不當請求日誌。走過 OpenTelemetry GenAI 語意慣例、TTFT/TPOT/cost/quality 這些真的重要的指標,以及把 trace 餵回評估的匯出管線。
2026-04-19LLM Primer V — 系列導讀與索引
LLM Primer V 系列導讀。從 demo 走到生產環境會踩到的那個縫、AI 工程作為一門獨立學科的框架,以及八章走過的八個工程面 — 基礎模型、提示詞、檢索、代理、評估、可觀測性、安全、服務經濟。
2026-04-13LLM 入門系列 — 一卷一卷讀懂生成式 AI
LLM Primer 系列 — 下田昌平(Sho Shimoda)撰寫的七卷本生成式 AI 現場指南,已完結。從基礎到安全。含姊妹卷《Physical AI》。全 7 卷均於 Amazon 上市。
2026-02-15