LLM介绍
本页面为AI爱好者提供从基础到应用的大型语言模型（LLM）指南。
第 11 章 — 可观测性、日志与事件响应
LLM Primer VII 章节走读第 11 篇。这一章把日志、告警和事件响应当作那层"把架构性防御变成运营者真的能跑起来的系统"的层。
2026-05-20
第 5 章 — 输入验证与输出过滤
LLM Primer VII 章节走读第 5 篇。这一章把第 4 章的分层缓解框架变成操作纪律 —— 清洗阶段、护栏工具、结构化输出、红队,以及说得清楚的安全指标。
2026-05-14
第 1 章 — 为什么 AI 安全和以往不同
LLM Primer VII 章节走读第 1 篇。这一章要论证的是:AI 安全不是给传统安全前面加一个 ML 形容词 —— 底座变了,后面每一章都是这个变化的直接推论。
2026-05-10
第 7 章 — 进阶 Batching 策略
LLM Primer VI 章节走读第 7 篇。Batching 不是一项优化,是让带宽受限 decoding 变得经济可行的那个决定性动作。从静态 batching 到 continuous batching,再到 chunked prefill —— 以及后者留给 KV cache 的债务。
2026-04-29
第 8 章 — 性能、部署与成本优化
LLM Primer V 章节走读第 8 篇。把生产 LLM 的经济学当分层学科来做:最便宜的调用是那次没发生的调用,再往下每一层都是让下一次调用变便宜的那一层。语义缓存、动态路由、推理服务器内部的 PagedAttention、连续批处理、推测解码。
2026-04-21
第 6 章 — AI 可观测性与追踪
LLM Primer V 章节走读第 6 篇。把一次用户 query 当作一棵因果树,不是一条请求日志,再展示要让这棵树可读需要追踪什么:分布式追踪加 GenAI 语义约定,再加上 TTFT、TPOT、成本、质量这几个指标,以及把生产 trace 送回评估集的导出管道。
2026-04-19
第 5 章 — LLM 应用的评估
LLM Primer V 章节走读第 5 篇。承认 assertEqual 在 LLM 输出上已经死掉,再围绕锚点法官、RAG 三角、智能体轨迹测试,把测试纪律重新搭起来 —— 把随机输出变成能守得住的通过/不通过信号。
2026-04-18
第 3 章 — 检索增强生成
LLM Primer V 章节走读第 3 篇。走完 RAG 五阶段管道 —— 加载、切分、embedding、检索、生成 —— 顺带把 demo 阶段的 RAG 和真正扛得住真实语料的生产 RAG 分开:混合检索加重排器、结构感知加语义组合的切分,以及按 query 派发的变换路由。
2026-04-16第 11 章 — 攻击面与协议漏洞
LLM Primer IV 章节走读第 11 篇。被改造到 MCP 上的几个经典攻击 — Confused Deputy、Token Passthrough、Session Hijacking — 围绕能力升级和未认证 sampling 的协议级缺陷,以及让上下文投毒变成结构性问题而不是卫生问题的隐式信任传播。
2026-04-09第 1 章 — AI 集成危机与智能体架构的兴起
LLM Primer IV 章节走读第 1 篇。单体智能体为什么会随着 system prompt 变长而散掉,藏在底下的那个 N 乘 M 集成问题是什么,以及从 prompt 工程转向上下文工程这一步 — MCP 就是为了让这一步走得通而存在的。
2026-03-30第 11 章 — 持续更新与流水线优化
LLM Primer III 章节走读最末一篇。流水线没有「做完」这件事 — 文档在变、查询在漂、模型在换 — 负它的团队学着在三种时间尺度上同时思考。结尾接到第四本 — MCP。
2026-03-28第 4 章 — 模型是怎么学的
LLM Primer I 章节走读第四篇。为什么预训练决定能力上限,为什么微调塑造性格,以及 RLHF 是怎么把一个原始的"下一个 token 预测器"变成我们每天信任的那位助手。
2026-02-21第 2 章 — 概率、token 和文本
LLM Primer I 章节走读第二篇。token 和单词的区别、模型每一步构造出的那整张"下一个 token 概率分布"到底是什么,以及 temperature 和 top-p 怎么改变同一个模型的输出性格。
2026-02-19