LLM介绍 - LLM Primer VII — AI 安全
本页面为AI爱好者提供从基础到应用的大型语言模型（LLM）指南。
第 17 章 — 未来威胁与新兴防御
LLM Primer VII 章节走读的第 17 篇,也是本卷和 LLM Primer 系列的收官之作。走看那些还在成形中的学科 —— 自主智能体、多模态攻击面、合成身份,以及 2026 年中期 AI 对 AI 的军备竞赛。
2026-05-26
第 16 章 — 安全的微调与适配
LLM Primer VII 章节走读第 16 篇。这一章把微调后的模型当作一份"必须去挣、不是继承来的"安全性质的 artefact —— 因为教域内术语的同一步梯度,也能侵蚀基础模型带来的对齐。
2026-05-25
第 15 章 — 构建一个安全的 AI 组织
LLM Primer VII 章节走读第 15 篇。这一章把安全文化、红队、供应商风险和长期管理,当作那份跨年承载这门学科的组织基础设施。
2026-05-24
第 14 章 — 偏见、公平与责任 AI
LLM Primer VII 章节走读第 14 篇。这一章把责任 AI 当作一门在不确定性下做选择的学科来处理 —— 技术工具让权衡浮出水面,但并不替你解决它。
2026-05-23
第 12 章 — 访问控制与身份
LLM Primer VII 章节走读第 12 篇。这一章回答那个组合性的问题 —— 谁被允许调用一个 LLM 集成应用的哪种能力,以及执法如何跨系统的各组件构建。
2026-05-21
第 11 章 — 可观测性、日志与事件响应
LLM Primer VII 章节走读第 11 篇。这一章把日志、告警和事件响应当作那层"把架构性防御变成运营者真的能跑起来的系统"的层。
2026-05-20
第 10 章 — 设计安全的 LLM 架构
LLM Primer VII 章节走读第 10 篇。这一章把架构当作首要安全学科来处理 —— 因为一个概率组件最安全的配置,是那种爆炸半径由结构而不是由组件自己的克制来限定的配置。
2026-05-19
第 9 章 — 模型完整性与供应链风险
LLM Primer VII 章节走读第 9 篇。这一章把模型 artefact 当作由第三方分发的二进制来对待 —— 带着二进制分发一直带着的反序列化、后门和出处问题。
2026-05-18
第 8 章 — 针对模型的对抗性攻击
LLM Primer VII 章节走读第 8 篇。这一章追溯对抗性攻击 —— 从 Goodfellow 2014 年的图像分类器工作,一路到 TextFooler、通用后缀,再到针对生产 API 的模型窃取。
2026-05-17
第 7 章 — 幻觉与可靠性
LLM Primer VII 章节走读第 7 篇。这一章把可靠性作为安全性质来处理 —— 因为在结果依赖于正确性的时候,一份自信的错误输出就是一个安全问题。
2026-05-16
第 6 章 — 检索增强生成的风险
LLM Primer VII 章节走读第 6 篇。这一章把检索语料看作一条不受信任的输入通道 —— 因为在模型眼里,每一份被索引的文档都是一条和用户提问平起平坐的指令。
2026-05-15
第 5 章 — 输入验证与输出过滤
LLM Primer VII 章节走读第 5 篇。这一章把第 4 章的分层缓解框架变成操作纪律 —— 清洗阶段、护栏工具、结构化输出、红队,以及说得清楚的安全指标。
2026-05-14
第 4 章 — Prompt Injection 与 Jailbreak
LLM Primer VII 章节走读第 4 篇。位于 LLM 安全实操问题正中央的这一章 —— 解释为什么 prompt injection 没有一个类似参数化查询那样的结构性修复,只有分层的、部分的防御。
2026-05-13
第 3 章 — 数据安全与隐私
LLM Primer VII 章节走读第 3 篇。这一章把数据当作一份有生命周期的资产来处理 —— 从被模型部分记住的训练语料,到 Samsung 工程师在这个事件还没被命名之前粘进 ChatGPT 的那些代码。
2026-05-12
第 2 章 — LLM 系统的威胁建模
LLM Primer VII 章节走读第 2 篇。这一章把 Shostack 的四个问题、STRIDE、PASTA 和 MITRE ATLAS 应用到一个系统上 —— 其最强的组件把所有输入都读作潜在指令。
2026-05-11
第 1 章 — 为什么 AI 安全和以往不同
LLM Primer VII 章节走读第 1 篇。这一章要论证的是:AI 安全不是给传统安全前面加一个 ML 形容词 —— 底座变了,后面每一章都是这个变化的直接推论。
2026-05-10
LLM Primer VII — 系列引言与索引
《LLM Primer VII: AI Security》章节走读的系列引言与索引 —— LLM Primer 系列的收官之作,把七卷的工程弧线落到那门决定这一切能否在对手、监管者和概率系统日常故障模式面前存活下来的学科。
2026-05-09