第13章 — 規制の状況
『LLM Primer VII: AIセキュリティ』を章ごとに紹介していくウォークスルー、第13回。まだ統合の途上にある複数の規制の状況を、先の章で展開した技術的統制の上にマッピングする章。
なぜこの章があるのか
2026年時点でAIをめぐる規制アーキテクチャは、まだ落ち着いても統一されてもいない。2026年8月から大半の高リスクカテゴリに全面適用されるEU AI Actは、単独では最も帰結の大きい規範だ。米国連邦の姿勢はEO 14110からEO 14179への移行を経て、正確な形は今も進化しつつも、機能する枠組みへと落ち着いた。州法 — コロラドのAI法、カリフォルニアの一連の生成AI法案、ニューヨーク市のAEDT法 — が米国内のパッチワークを加える。GDPR、CCPA、PIPL、DPDPAは、AIシステムの設計者がそれらを想定していたかどうかに関わらず適用される。シンガポール、日本、韓国、インド、英国の枠組みが並行するトラックで進んでいる。この章は、各枠組みが実務上何を求めるかを歩き、第3章、第10章、第11章、第12章の統制をそれらの要求にマッピングする。
13.1 EU AI Actが現状の状況の錨である
規則(EU) 2024/1689 は2024年6月に署名され7月に公布された。受け入れ不可能な慣行 — 社会的スコアリング、狭い例外を伴う公共空間でのリアルタイム生体認証、脆弱性を悪用する操作技法 — への禁止は2025年2月に適用開始となった。汎用AIモデルに対する義務 — 基盤モデルの透明性と文書化を含む — は2025年8月に適用開始となった。高リスクの完全な義務は大半のカテゴリで2026年8月に、既存のEU製品安全規制の下で製品に組み込まれるAIシステムでは2027年8月に適用開始となる。実体構造はリスク段階制である。禁止された慣行、詳細な義務セット(リスクマネジメントシステム、データガバナンス、技術文書、記録保持、導入者およびユーザへの透明性、人間による監督、精度と堅牢性、適合性評価、市販後モニタリング)を備えた高リスクシステム、透明性義務のある限定リスクシステム、Act自身では大部分規制されない最小リスクシステム、である。附属書IIIの高リスクカテゴリは、重要インフラ、雇用判断、必須サービス、法執行、移民、司法、そして特定の生体・感情認識ユースケースを含む。定められた計算量と能力の閾値を超えるモデルに対する基盤モデル義務は並行するトラックを追加し、フロンティア研究機関がEU市場への展開をどう扱うかに影響を与えてきた。Actの域外適用は、開発者がどこに拠点を置くかに関わらず、その実務上の影響を国際的なAI業界に及ぼす。
13.2 データ保護法が先にあり、依然として拘束的である
AI固有の規制より前に、AI開発への最も重要な制約はデータ保護法から来ていた。今もそうである。GDPRは、EUに設立された、あるいはEUのデータ主体を対象とするあらゆる主体による個人データの処理に適用される。第13条と第14条は、データ主体が処理について — 目的、カテゴリ、受領者、該当する場合には自動化された意思決定の存在と関与する論理を含めて — 通知されることを要求する。第22条は、法的または類似する重大な効果を生む純粋に自動化された判断の対象とならない権利をデータ主体に与える。これがLLM出力にどう適用されるかは争いのあるところだが、EU市場でAI駆動の判断がどう配備されるかを形作っている。第17条は削除の権利を与える。学習データを重みに反映するモデルへの適用は、この分野がまだ整理を続けている解釈上の問いだ。カリフォルニアのCCPAとCPRA、中国のPIPL、インドのDPDPA、ブラジルのLGPD、カナダのPIPEDA、そして他所の数十の並行制度は、管轄区域固有の差異を伴って類似の義務を課す。イタリアのGaranteが2023年3月にChatGPTに対して取った措置(第3章)は最初の規制側の一撃で、その後EUおよび他地域での措置は、たとえモデルが外国ベンダから提供されたものであっても、個人情報を含む学習データが規制上の懸念事項であることを補強してきた。
13.3 監査可能性、モデルカード、リスク分類が運用上の形状である
AI固有の規制は監査可能性へ収束する。EU AI Actの下で高リスクシステムは、市場投入前からシステムの生涯にわたって技術文書 — 一般的記述、要素と開発プロセス、モニタリングと統制、リスクマネジメントシステム、データガバナンス、人間の監督措置 — を、届出機関が適合性を評価するのに十分な詳細で維持しなければならない。NIST AI 100-1 (2023) とその生成AIプロファイル AI 600-1 (2024) が米国側のリスクマネジメントの語彙を提供する。2023年に公布されたISO/IEC 42001は、認証を追求する組織のためのAIマネジメントシステム規格を与える。2019年にMitchellらがFAccTで導入したモデルカードは、単体で最も重要な文書化成果物だ — 意図された用途、学習データ、評価結果、倫理的考慮事項、推奨されない用途の構造化された記録である。Hugging Face、OpenAI、Anthropic、Googleで広く採用されているが、深さには違いがある。リスク分類のアプローチも異なる。EU AI Actはユースケース分類を用いる。列挙された高リスク目的で使われるAIシステムはモデルの能力に関係なく高リスクである。NIST AI 100-1は属性ベースのリスク分析を用いる。Bletchley/Seoul/AI Action Summitのプロセスは、計算量と評価を通じたモデル能力の閾値を用いる。現在の枠組みの多くはアプローチを混ぜており、組織のコンプライアンス作業の大部分は、特定のシステムを各規制当局が適用する特定の分類スキームへマッピングする作業だ。
第13章が敷いたもの
第14章は、規制が扱おうとしている実体的内容 — バイアス、公平性、責任あるAI — に転じる。この章はLLMにおけるバイアスの源 — 学習データ、表象、配分、評価、配備のバイアス — を、Bender、Gebru、McMillan-Major、Shmitchellの2021年「Stochastic Parrots」論文とその後の文献を参照しつつ歩く。公平性ベンチマーク(BOLD、BBQ、StereoSet、CrowS-Pairs)とその限界を検討する。AnthropicのRLHF研究で記録された安全性と実用性のトレードオフを歩く。透明性と説明可能性(SHAP、LIME、解釈可能性)、およびそれらが提供するものと規制が要求するものとの間の隙間を検討する。技術的作業が運用に変わるレイヤとしての、組織のAIポリシーで章を締めくくる。第15章はさらに、規律を担う組織的インフラ — セキュリティ文化、レッドチーム、ベンダリスク、継続評価、長期スチュワードシップ — を歩く。
次回 — 第14章: バイアス、公平性、責任あるAI。バイアスの源、限界のなかで公平性を測ること、安全性と実用性のトレードオフ、そして技術的作業を運用規律に変える組織のAIポリシー。
