LLM介紹 - LLM Primer VII — AI 安全
本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。
第 17 章 — 未來威脅與新興防禦
LLM Primer VII 章節走讀第十七篇,也是最終篇。本章越過已經成熟到能寫下的紀律,命名那些社群仍在弄清楚的紀律 — 自主 agent、多模態攻擊面、合成身分,以及 2026 年中的 AI-versus-AI 軍備競賽。
2026-05-26
第 16 章 — 安全的微調與適配
LLM Primer VII 章節走讀第十六篇。本章把微調後的模型當作一份其安全屬性必須被爭取、不是被繼承的產物 — 因為同一批教出領域詞彙的梯度步伐,也能侵蝕基底模型帶來的對齊。
2026-05-25
第 14 章 — 偏見、公平性與負責任 AI
LLM Primer VII 章節走讀第十四篇。本章把負責任 AI 當作在不確定下做選擇的紀律 — 那裡技術工具浮現取捨,卻不解決它們。
2026-05-23
第 12 章 — 存取控制與身分
LLM Primer VII 章節走讀第十二篇。本章回答組合性問題 — 誰被允許呼叫一個 LLM 整合應用的哪一項能力,以及如何在系統元件之間結構化執行。
2026-05-21
第 10 章 — 設計安全的 LLM 架構
LLM Primer VII 章節走讀第十篇。本章把架構視為主要的資安學科 — 因為一個機率元件最安全的組態,是那個爆炸半徑被結構所限制的組態,而不是那個仰賴元件自身克制的組態。
2026-05-19
第 9 章 — 模型完整性與供應鏈風險
LLM Primer VII 章節走讀第九篇。本章把模型檔案當作一份由第三方發佈的二進位檔案 — 帶著二進位發佈一直以來所承載的反序列化、後門與來源歸屬顧慮。
2026-05-18
第 8 章 — 對模型的對抗性攻擊
LLM Primer VII 章節走讀第八篇。本章追溯對抗性攻擊 — 從 Goodfellow 2014 年的影像分類器工作,經 TextFooler 與 universal suffix,一路到針對生產 API 的 model stealing。
2026-05-17
第 7 章 — 幻覺與可靠性
LLM Primer VII 章節走讀第七篇。本章把可靠性當作一項安全屬性來處理 — 因為每當後果依賴於正確性時,一份自信而錯誤的輸出就是安全問題。
2026-05-16
第 6 章 — 檢索增強生成的風險
LLM Primer VII 章節走讀第六篇。本章把檢索語料當作一條不可信的輸入通道 — 因為每一份被索引的文件,從模型的視角來看,都是與使用者問題對等地位的一則指令。
2026-05-15
第 5 章 — 輸入驗證與輸出過濾
LLM Primer VII 章節走讀第五篇。本章把第 4 章的分層緩解框架轉成作業紀律 — 淨化階段、guardrail 工具、結構化輸出、紅隊,以及真正有意義的安全指標。
2026-05-14
第 4 章 — Prompt Injection 與 Jailbreak
LLM Primer VII 章節走讀第四篇。本章坐在實務 LLM 安全問題的正中央 — 並解釋為什麼 prompt injection 沒有類似參數化查詢那樣的結構性修法,只有分層的部分性防禦。
2026-05-13
第 3 章 — 資料安全與隱私
LLM Primer VII 章節走讀第三篇。本章把資料當作一項具有生命週期的資產來處理 — 從模型部分記住了的訓練語料,到 Samsung 工程師在事件被命名之前貼進 ChatGPT 的使用者輸入。
2026-05-12
第 2 章 — LLM 系統的威脅建模
LLM Primer VII 章節走讀第二篇。本章把 Shostack 的四個問題、STRIDE、PASTA 與 MITRE ATLAS 套用到一個最強大元件把所有輸入都當作可能指令的系統上。
2026-05-11
第 1 章 — AI 安全為什麼不同
LLM Primer VII 章節走讀第一篇。本章主張 AI 安全不是把「ML」形容詞掛在傳統資安前面 — 子層本身變了,後面每一章都從這個變化開展出來。
2026-05-10
LLM Primer VII — 系列導論與索引
LLM Primer VII 章節走讀的導論與索引。這是系列的完結之卷:LLM Primer 的工程弧線,最後落在決定這一切能否在對手、監管機關以及機率系統日常故障模式面前存活下來的那個學科。
2026-05-09