LLM介绍
本页面为AI爱好者提供从基础到应用的大型语言模型（LLM）指南。
第 17 章 — 未来威胁与新兴防御
LLM Primer VII 章节走读的第 17 篇,也是本卷和 LLM Primer 系列的收官之作。走看那些还在成形中的学科 —— 自主智能体、多模态攻击面、合成身份,以及 2026 年中期 AI 对 AI 的军备竞赛。
2026-05-26
第 16 章 — 安全的微调与适配
LLM Primer VII 章节走读第 16 篇。这一章把微调后的模型当作一份"必须去挣、不是继承来的"安全性质的 artefact —— 因为教域内术语的同一步梯度,也能侵蚀基础模型带来的对齐。
2026-05-25
第 9 章 — 模型完整性与供应链风险
LLM Primer VII 章节走读第 9 篇。这一章把模型 artefact 当作由第三方分发的二进制来对待 —— 带着二进制分发一直带着的反序列化、后门和出处问题。
2026-05-18
第 8 章 — 针对模型的对抗性攻击
LLM Primer VII 章节走读第 8 篇。这一章追溯对抗性攻击 —— 从 Goodfellow 2014 年的图像分类器工作,一路到 TextFooler、通用后缀,再到针对生产 API 的模型窃取。
2026-05-17
第 7 章 — 幻觉与可靠性
LLM Primer VII 章节走读第 7 篇。这一章把可靠性作为安全性质来处理 —— 因为在结果依赖于正确性的时候,一份自信的错误输出就是一个安全问题。
2026-05-16
第 1 章 — 为什么 AI 安全和以往不同
LLM Primer VII 章节走读第 1 篇。这一章要论证的是:AI 安全不是给传统安全前面加一个 ML 形容词 —— 底座变了,后面每一章都是这个变化的直接推论。
2026-05-10
LLM Primer VII — 系列引言与索引
《LLM Primer VII: AI Security》章节走读的系列引言与索引 —— LLM Primer 系列的收官之作,把七卷的工程弧线落到那门决定这一切能否在对手、监管者和概率系统日常故障模式面前存活下来的学科。
2026-05-09
第 16 章 — 生产环境的降本策略
LLM Primer VI 章节走读收官篇。六个正交动作 —— 路由、压缩、批量、缓存、prompt 审计、输出预算 —— 复利叠加到只剩上个月账单的 20%,而用户什么都不会察觉。
2026-05-08
第 14 章 — Token 经济学与 API 定价
LLM Primer VI 章节走读第 14 篇。为什么输出比输入贵 4–8 倍。输入输出混合决定优化杠杆的方向。上下文累积和看不见的 reasoning token 是账单上最贵的两个隐藏项。
2026-05-06
第 12 章 — 拆分部署与 Kubernetes
LLM Primer VI 章节走读第 12 篇。把 prefill 和 decode 拆到不同 GPU 池,让每一池按自己的工作负载调优。LeaderWorkerSet、Grove PodCliqueSet、KAI Scheduler —— 表达这次拆分的 Kubernetes 原语。
2026-05-04
第 11 章 — 平台与编排层
LLM Primer VI 章节走读第 11 篇。平台的选择不是关于功能,而是关于哪一种运营模型贴合团队的 ops 文化。Ray Serve、KServe、BentoML、Triton —— 四种 CRD、Python actor、Bento、模型仓库,分别匹配不同的 ops grain。
2026-05-03
第 10 章 — LLM Engine 层
LLM Primer VI 章节走读第 10 篇。Engine 是把一个模型跑在一块或几块 GPU 上的单节点运行时。vLLM、TensorRT-LLM、SGLang、TGI、Ollama —— 五个 engine 在同一份工作上做的不同机制层面取舍。
2026-05-02
第 9 章 — 投机解码
LLM Primer VI 章节走读第 9 篇。原来自回归的顺序瓶颈里藏着一个数学漏洞:先猜再验。EAGLE、Medusa、Lookahead、MTP —— 以及投机什么时候真的划算的那道算术。
2026-05-01
第 8 章 — 新一代 KV Cache 管理
LLM Primer VI 章节走读第 8 篇。把 KV cache 当成分页虚拟内存来管理:小 block、page table、引用计数共享 —— continuous batching 那道内存债就还得起。PagedAttention、H2O、InfiniGen、前缀缓存。
2026-04-30
第 7 章 — 进阶 Batching 策略
LLM Primer VI 章节走读第 7 篇。Batching 不是一项优化,是让带宽受限 decoding 变得经济可行的那个决定性动作。从静态 batching 到 continuous batching,再到 chunked prefill —— 以及后者留给 KV cache 的债务。
2026-04-29
第 6 章 — 剪枝与知识蒸馏
LLM Primer VI 章节走读第 6 篇。剪枝直接砍掉参与相乘的权重数量;蒸馏把大教师的行为迁到更小的学生上。Hopper 上的 2:4 稀疏、KL 蒸馏、MiniLLM 的反向 KL,以及三种压缩叠加的顺序。
2026-04-28
第 3 章 — 面向生成式 AI 的数据中心 GPU
LLM Primer VI 章节走读第 3 篇。挑一块 serving GPU,该看的是 HBM 带宽和 VRAM 容量,而不是数据表正面那个 FLOP/s 数字。这一章走 H100、H200、B200、L40S、MI300X 这五款主流硅片。
2026-04-25
第 2 章 — KV Cache 的挑战
LLM Primer VI 章节走读第 2 篇。KV cache 是 serving 系统里最大的显存消费者。这一章走那道决定它大小的公式、MHA/GQA/MQA 三种架构选择,以及那道毁掉并发的碎片化问题。
2026-04-24
第 1 章 — Token 生成的机制
LLM Primer VI 章节走读第 1 篇。这一章说的是:LLM serving 里几乎每一个难题都能追溯到同一件事 —— 生成每一个 token 的那个循环是内存带宽受限的,你花大价钱买的算力有 99.7% 的时间在空转。
2026-04-23
LLM Primer VI — 系列导读与目录
《LLM Primer VI: Scaling AI Systems》章节走读的第一篇。这一卷把 LLM 推理当成一门工程学科:内存带宽、调度、每一美元的账单,在同一块芯片上撞在一起。十六章分成六个部分,一层层走过硬件、模型压缩、运行时、平台和经济学。
2026-04-22
第 5 章 — LLM 应用的评估
LLM Primer V 章节走读第 5 篇。承认 assertEqual 在 LLM 输出上已经死掉,再围绕锚点法官、RAG 三角、智能体轨迹测试,把测试纪律重新搭起来 —— 把随机输出变成能守得住的通过/不通过信号。
2026-04-18
第 4 章 — AI 智能体与工具调用
LLM Primer V 章节走读第 4 篇。把智能体当作一个针对工具循环起来的语言模型来处理:工具 schema、错误合同、以及记忆的写入纪律,是整个系统里杠杆率最高的工程面。ReAct 循环、工具作为合同,以及智能体真正需要的三层记忆。
2026-04-17
第 3 章 — 检索增强生成
LLM Primer V 章节走读第 3 篇。走完 RAG 五阶段管道 —— 加载、切分、embedding、检索、生成 —— 顺带把 demo 阶段的 RAG 和真正扛得住真实语料的生产 RAG 分开:混合检索加重排器、结构感知加语义组合的切分,以及按 query 派发的变换路由。
2026-04-16
第 2 章 — 基础模型与 prompt 工程
LLM Primer V 章节走读第 2 篇。把 prompt 工程当工程来做:版本化的模板、防御性分隔符、结构化输出,而不是靠感觉打分的手艺。模型选型、采样参数、prompt 剖面、结构化输出 —— 这四个控制面要么被主动操作,要么就接受后果。
2026-04-15
LLM Primer V — 系列导读与索引
LLM Primer V 章节走读的系列导读。这一卷把 AI 工程当作一门独立的工程学科来讲,而不是一套 prompt 技巧;八个章节按栈的方式排列 —— 基础模型、prompt、检索、智能体、评估、可观测性、安全、以及部署经济学 —— 一层一层填出包在概率核心外面的确定性外壳。
2026-04-13第 14 章 — 基准测试、测试与性能
LLM Primer IV 章节走读最后一篇。真 server 上的 MCP-Universe Benchmark、它暴露的两种系统性故障、每请求一会话跟共享会话池之间的十倍吞吐差距,以及通往第 V 卷的桥。
2026-04-12第 7 章 — 高级协作与动态模式
LLM Primer IV 章节走读第 7 篇。Roundtable 共识、handoff 路由、magentic 编排 — 当拓扑要按请求构建时出现的那些模式,以及它们带来的故障模式(不停机、错路由、计划失控)。
2026-04-05第 6 章 — 基础编排策略
LLM Primer IV 章节走读第 6 篇。两种基础编排形状 — 顺序流水线和并发 scatter-gather — 以及每个团队都该先问的那个上游问题:多 agent 系统真的是这件事的答案吗?
2026-04-04第 5 章 — 传输协议与发现
LLM Primer IV 章节走读第 5 篇。MCP 支持的三种传输,.well-known 这一层发现机制加 Server Card,以及那些无聊的运维问题 — CORS、Origin 校验、缓存 — 决定一个 server 是合作型网络公民还是负债。
2026-04-03第 4 章 — 客户端原语:Agentic 行为与控制
LLM Primer IV 章节走读第 4 篇。Sampling、Roots、Elicitation 是 MCP 在 host-server 这堵墙上打的三个小洞 — 每一个都是 host 借给 server 的一份能力,也是替用户接住的一份风险。
2026-04-02第 3 章 — 服务器原语:暴露上下文与能力
LLM Primer IV 章节走读第 3 篇。MCP server 能给的三个名词 — Resources(读状态)、Prompts(可复用脚手架)、Tools(写操作) — 它们的 schema、生命周期、错误模型,以及挑对原语这件事的纪律。
2026-04-01第 2 章 — 揭开 Model Context Protocol(MCP)
LLM Primer IV 章节走读第 2 篇。MCP 到底标准化了什么,Host、Client、Server 三个角色的分工,动态发现和双向消息为什么在那些真正重要的场景里跟 REST 不一样,以及从能力协商开始的会话生命周期。
2026-03-31第 1 章 — AI 集成危机与智能体架构的兴起
LLM Primer IV 章节走读第 1 篇。单体智能体为什么会随着 system prompt 变长而散掉,藏在底下的那个 N 乘 M 集成问题是什么,以及从 prompt 工程转向上下文工程这一步 — MCP 就是为了让这一步走得通而存在的。
2026-03-30LLM Primer IV — 系列导读与目录
本文开启 LLM Primer 系列第四卷《用 MCP 设计 AI 认知》的章节走读。为什么智能体要靠一层协议才能从 demo 走到生产,这本书写给谁,以及 3 月 30 日到 4 月 12 日 14 篇连载的时间表。
2026-03-29第 11 章 — 持续更新与流水线优化
LLM Primer III 章节走读最末一篇。流水线没有「做完」这件事 — 文档在变、查询在漂、模型在换 — 负它的团队学着在三种时间尺度上同时思考。结尾接到第四本 — MCP。
2026-03-28第 7 章 — 落实访问控制
LLM Primer III 章节走读第七篇。为关系数据库和文件系统设计的权限模型,套到检索上不完全合身。访问单位不再是一行或一份文件,而是一个嵌入 — 哪怕原文档已被拦,这个嵌入还能通过相似搜索把它漏出来。
2026-03-24第 5 章 — 搭一条检索流水线
LLM Primer III 章节走读第五篇。一次向量搜索是大多数 demo 停下的地方,也是大多数生产故障开始的地方。本章一路走到生成器手里那一组候选,以及每一步存在的理由。
2026-03-22第 3 章 — 进阶分块框架
LLM Primer III 章节走读第三篇。朴素的分块选择最会悄悄拖垮下游 — 以及最近两项把可能的上限都改写了的技术:contextual retrieval 与 late chunking。
2026-03-20第 2 章 — 智能文档解析
LLM Primer III 章节走读第二篇。检索系统会继承它输入的质量 — 而那个让 RAG 质量平庸的最常见原因,就悄悄住在输入层。PDF 不是文本文件、版面感知解析器把哪些信号放回来,以及让模型直接读页面图像的那一路多模态。
2026-03-19第 1 章 — RAG 架构的演进
LLM Primer III 章节走读第一篇。基础模型有两条结构性的限 — 知识封冻、来源不可指认 — 居然有同一个架构上的答案,而这个答案,三年里长出了四张脸。
2026-03-18LLM Primer III — 系列导读与目录
LLM Primer 系列第三本《用 RAG 增强企业级 AI》的章节走读开篇。RAG 从外面看是三只盒子,做下去每一只都是一门独立的学问。十一篇文章,一天一章,把企业级 RAG 那一整套决策摊开来看。
2026-03-17第 10 章 — 多模态:走出文本
LLM Primer I 章节走读第十篇。同一个 Transformer 是怎么学会接收图像和音频的 — vision transformer 和音频 token 化 — 以及"一个模型什么都能看"这种说法老老实实的边界在哪。
2026-02-27第 9 章 — RAG:把新鲜信息缝进上下文
LLM Primer I 章节走读第九篇。RAG(检索增强生成)到底在做什么、它是怎么补上模型的时间缺失和事实弱点的,以及好 RAG 和坏 RAG 的分水岭从哪儿开始。
2026-02-26第 6 章 — 安全、对齐,以及"有用"到底是什么意思
LLM Primer I 章节走读第六篇。为什么"听上去通顺"和"真的有用"是两件事、对齐到底在调什么,以及 2026 版里 §6.6 新增的那一节 — 宪法式 AI、基于辩论的模型,以及对齐领域里最新的研究方向。
2026-02-23第 5 章 — 还是有些小毛病
LLM Primer I 章节走读第五篇。即便是训得很好的 LLM 也还在犯的那几样毛病 — 幻觉、对时间没概念、算术、一致性抖动 — 为什么这些不是 bug,而是同一个"下一个 token 预测"机制的特性。
2026-02-22第 4 章 — 模型是怎么学的
LLM Primer I 章节走读第四篇。为什么预训练决定能力上限,为什么微调塑造性格,以及 RLHF 是怎么把一个原始的"下一个 token 预测器"变成我们每天信任的那位助手。
2026-02-21第 3 章 — 文本在模型里是怎么流动的
LLM Primer I 章节走读第三篇。token 进了模型之后到底经历了什么 — 嵌入、注意力、Transformer — 不被矩阵淹没,也不丢精度。
2026-02-20第 1 章 — 所以,大语言模型究竟是什么?
LLM Primer I 章节走读第一篇。"大"、"语言"和"模型"这三个词到底分别意味着什么、从规则系统到神经网络我们是怎么一步步走过来的,以及三个值得尽早摆脱的误解。
2026-02-18LLM Primer I — 章节走读:序言与目录
LLM Primer I 章节走读的开篇。整本书是怎么搭起来的、每一章给出什么,以及 2 月 18 日到 3 月 1 日这十二篇连载的发布日程。
2026-02-17