第 13 章 — 监管全景
《LLM Primer VII: AI Security》章节走读的第十三篇。这一章把仍在整合中的、多元的监管全景,映射到前面几章开发出来的技术控制上。
这一章为什么存在
到 2026 年,围绕 AI 的监管架构既没有稳定下来,也没有统一起来。欧盟 AI 法案 —— 大多数高风险类别自 2026 年 8 月起完全适用 —— 是最重要的单一工具。美国联邦姿态在 EO 14110 到 EO 14179 的过渡之后,已经落在一个具体形式仍在演进的工作框架里。州级法律 —— 科罗拉多 AI 法案、加州一系列生成式 AI 法案、纽约市 AEDT 法 —— 加上一层美国拼图。GDPR、CCPA、PIPL 和 DPDPA 适用于 AI 系统,不看设计者是否考虑过它们。新加坡、日本、韩国、印度和英国的框架在平行推进。这一章走一遍每一份在实操层面要什么,并把第 3、10、11、12 章的控制映射到那些要求。
13.1 欧盟 AI 法案是当下全景的锚
Regulation (EU) 2024/1689 在 2024 年 6 月签署,7 月公布。对不可接受实践的禁止 —— 社会评分、公共空间的实时生物识别(有窄门例外)、利用脆弱性的操纵性技术 —— 于 2025 年 2 月开始适用。对通用 AI 模型的义务,包括基础模型的透明度和文档,于 2025 年 8 月开始适用。完整的高风险义务,对大多数类别于 2026 年 8 月开始适用,对已有欧盟产品安全监管下嵌入产品的 AI 系统于 2027 年 8 月开始适用。实体结构是风险分级的:被禁止的实践、有详细义务集的高风险系统(风险管理系统、数据治理、技术文档、记录留存、对部署者和用户的透明度、人机监督、准确性与鲁棒性、合格性评估、上市后监测)、有透明度义务的有限风险系统,以及法案本身几乎不管的最小风险系统。附件 III 里的高风险类别包括关键基础设施、雇佣决策、基本服务、执法、移民、司法,以及被定义的生物识别和情绪识别用例。对计算量和能力阈值以上的模型的基础模型义务加了一条平行轨,已经塑形了前沿实验室如何切入欧盟市场。法案的域外适用把它的实际影响,不看开发者位于何处,扩展到国际 AI 行业。
13.2 数据保护法先来一步,并且仍然有约束力
在 AI 特定的监管出来之前,对 AI 开发最重要的约束来自数据保护法。它们仍然如此。GDPR 适用于设立在欧盟或以欧盟数据主体为目标的任何主体对个人数据的处理。第 13 和 14 条要求告知数据主体处理的相关信息,包括目的、类别、接收方,以及在适用时,自动化决策的存在及其所涉及的逻辑。第 22 条给了数据主体不受完全自动化的、产生法律或类似显著效果的决策约束的权利 —— 该条款如何适用于 LLM 输出仍有争议,但它塑形了 AI 驱动决策在欧盟市场如何被部署。第 17 条给了删除权,如何适用于其权重反映训练数据的模型,是这个领域仍在琢磨的又一个解释性问题。加州的 CCPA 和 CPRA、中国的 PIPL、印度的 DPDPA、巴西的 LGPD、加拿大的 PIPEDA,以及其他数十个平行制度,以辖区特定的差异施加类似义务。意大利 Garante 在 2023 年 3 月对 ChatGPT 的动作(第 3 章)是第一枪;欧盟内外后续的动作强化了那件事 —— 训练数据含个人信息就是监管关切,即使模型是由境外厂商提供的。
13.3 可审计性、模型卡与风险分级是操作形状
AI 特定的监管在可审计性上收敛。欧盟 AI 法案下的高风险系统,必须从进入市场之前一直到系统的整个生命期维护技术文档 —— 总体描述、组件与开发过程、监测与控制、风险管理系统、数据治理、人机监督措施 —— 详细到足以让指定机构评估合格性。NIST AI 100-1(2023)和生成式 AI 剖面 AI 600-1(2024)提供美国这一侧的风险管理词汇。ISO/IEC 42001,2023 年发布,给出面向寻求认证的组织的 AI 管理体系标准。模型卡,由 Mitchell 等在 2019 年 FAccT 引入,是最重要的单一文档 artefact —— 一份结构化的记录,涵盖预期用途、训练数据、评估结果、伦理考量、以及"不建议用于"的场景。Hugging Face、OpenAI、Anthropic 和 Google 的采纳都很广泛,深度不一。风险分级的做法各不相同。欧盟 AI 法案用用例分类:一个 AI 系统只要用于清单里的某项高风险目的,不看模型能力就是高风险的。NIST AI 100-1 用基于属性的风险分析。Bletchley/Seoul/AI Action Summit 过程用基于计算量和评估的模型能力阈值。多数当前框架混用几种做法,组织的合规工作,大量就是把具体系统映射到各监管者所用的具体分类方案上。
第 13 章为下面铺了什么
第 14 章转向监管试图处理的实质内容:偏见、公平与责任 AI。这一章走一遍 LLM 的偏见来源 —— 训练数据、表征、分配、评估和部署上的偏见 —— 参考 Bender、Gebru、McMillan-Major 和 Shmitchell 2021 年"Stochastic Parrots"那篇论文及其后续文献。它审视公平基准(BOLD、BBQ、StereoSet、CrowS-Pairs)及其局限。它走一遍 Anthropic RLHF 工作里记录下来的 safety-utility 权衡。它审视透明度和可解释性(SHAP、LIME、interpretability),以及它们所交付的和监管所要求的之间的差距。它以组织 AI 政策收尾 —— 那是技术工作变成运营的那一层。第 15 章接着走承载这门学科的组织基础设施 —— 安全文化、红队、供应商风险、持续评估、长期管理。
下一章 — 第 14 章:偏见、公平与责任 AI。偏见的来源、带局限的公平测量、safety-utility 权衡,以及把技术工作变成运营纪律的组织 AI 政策。
