第 13 章 — 監管地景
《LLM Primer VII:AI 安全》章節走讀的第十三篇。這一章把複數的、仍在整合的監管地景,對映到前面章節所發展的技術控制上。
這一章為什麼存在
到 2026 年,AI 周邊的監管架構既未定案也未統一。歐盟 AI Act 於 2026 年 8 月起對大多數高風險類別完全生效,是最有影響力的單一工具。美國聯邦姿態透過 EO 14110 到 EO 14179 的轉銜位移,並沉澱成一個仍在演進中的工作框架。州級法律 — 科羅拉多 AI 法案、加州一系列生成式 AI 法案、紐約市 AEDT 法 — 加上一片美國的拼圖。GDPR、CCPA、PIPL 與 DPDPA 適用於 AI 系統,不管設計者是否考慮過它們。新加坡、日本、韓國、印度與英國的框架在平行軌道上推進。這一章走每一項在實務上要求什麼,並把第 3、10、11、12 章的控制對映到那些要求上。
13.1 歐盟 AI Act 是當前地景的錨
Regulation (EU) 2024/1689 於 2024 年 6 月簽署、7 月公布。對不可接受實務的禁令 — 社會評分、公共空間的即時生物特徵辨識(有限例外)、利用弱點的操縱性技術 — 於 2025 年 2 月生效。對通用型 AI 模型的義務 — 包括基礎模型的透明度與文件 — 於 2025 年 8 月生效。高風險義務對大多數類別於 2026 年 8 月生效,對嵌入於現行歐盟產品安全法規之產品中的 AI 系統則於 2027 年 8 月生效。實質結構是風險分級的:被禁的實務、附詳細義務集的高風險系統(風險管理系統、資料治理、技術文件、紀錄保存、對部署者與使用者的透明度、人工監督、準確性與強健性、符合性評估、上市後監控)、附透明度義務的有限風險系統、以及此法案本身大致上不管的最小風險系統。附錄 III 中的高風險類別包括關鍵基礎設施、就業決策、必需服務、執法、移民、司法、以及定義好的生物特徵與情緒識別用例。針對超過定義好之運算與能力門檻之模型的基礎模型義務,加了一條平行軌道,已塑形了前沿實驗室對歐盟市場部署的做法。此法的域外效力,把其實務影響延伸到國際 AI 產業,不管開發者位於何處。
13.2 資料保護法先在,而且仍具拘束力
在 AI 專屬監管之前,對 AI 發展最重要的約束來自資料保護法。它們仍是。GDPR 適用於在歐盟設立、或以歐盟資料主體為目標之任何實體對個人資料的處理。第 13 與 14 條要求資料主體被告知處理,包括目的、類別、接收者,以及在適用時,自動化決策之存在與涉及的邏輯。第 22 條給資料主體不被純粹自動化決策(產生法律或類似顯著影響)拘束的權利 — 該條款套用到 LLM 輸出的解釋有爭議,但塑形了 AI 驅動決策在歐盟市場如何被部署。第 17 條給刪除權,其套用到權重反映訓練資料之模型的做法,是另一個此領域仍在處理的解釋性問題。加州的 CCPA 與 CPRA、中國的 PIPL、印度的 DPDPA、巴西的 LGPD、加拿大的 PIPEDA,以及其他數十個平行制度,以管轄地特定的差異加上類似義務。義大利 Garante 在 2023 年 3 月對 ChatGPT 的處分(第 3 章)是監管上的第一槍;後續在歐盟與各地的行動強化了「含個人資訊的訓練資料是監管關切,即使模型由外國廠商提供」這件事。
13.3 可稽核性、model card 與風險分級是作業形狀
AI 專屬監管在可稽核性上收攏。歐盟 AI Act 下的高風險系統,必須從進入市場前起到系統壽命之終為止,維持技術文件 — 一般描述、元件與開發過程、監控與控制、風險管理系統、資料治理、人工監督措施 — 詳細到讓公告機構能評估符合性。NIST AI 100-1(2023)與生成式 AI Profile AI 600-1(2024)提供美國側的風險管理詞彙。ISO/IEC 42001 於 2023 年公布,是給追求認證之組織的 AI 管理系統標準。Model card 由 Mitchell 等人在 FAccT 2019 提出,是最重要的單一文件產物 — 一份意圖用途、訓練資料、評估結果、倫理考量、不建議用途的結構化紀錄。Hugging Face、OpenAI、Anthropic 與 Google 廣泛採用,深度不一。風險分級做法不一。歐盟 AI Act 用用例分類:被用於列出的高風險目的之 AI 系統是高風險,不論模型能力如何。NIST AI 100-1 用屬性型風險分析。Bletchley/Seoul/AI Action Summit 過程用透過運算與評估的模型能力門檻。大多數當前框架混用做法,而組織的合規工作,很大程度上就是把具體系統對映到每個監管者所套用之具體分類架構的工作。
第 13 章鋪陳出來的東西
第 14 章轉向監管所試圖處理的實質內容:偏見、公平性、負責任 AI。這一章走過 LLM 中偏見的來源 — 訓練資料、表徵、分配、評估、部署偏見 — 參照 Bender、Gebru、McMillan-Major 與 Shmitchell 2021 年的《Stochastic Parrots》論文與後續文獻。它檢視公平性 benchmark(BOLD、BBQ、StereoSet、CrowS-Pairs)及其極限。它走 Anthropic RLHF 工作記錄的安全對比效用取捨。它檢視透明度與可解釋性(SHAP、LIME、可解釋性)以及它們所交付的與監管所要求之間的落差。它以組織 AI 政策收束 — 技術工作在此變成作業。第 15 章接著走組織基礎設施 — 資安文化、紅隊、供應商風險、持續評估、長期維運 — 那個承載此門紀律的層。
下一篇 — 第 14 章:偏見、公平性與負責任 AI。偏見的來源、附極限的公平性量測、安全對比效用的取捨,以及把技術工作變成作業紀律的組織 AI 政策。
