Глава 13 — Регуляторный ландшафт

Тринадцатый пост поглавного разбора LLM Primer VII: AI Security. Глава, отображающая плюральный, всё ещё консолидирующийся регуляторный ландшафт на технические контроли, которые разработали более ранние главы.

Зачем существует эта глава

К 2026 году регуляторная архитектура вокруг ИИ ни устоялась, ни единой не стала. EU AI Act, вступающий в полное действие с августа 2026 для большинства категорий высокого риска, — самый значимый единичный инструмент. Федеральная позиция США сдвинулась через переход EO 14110 к EO 14179 и осела в рабочем фреймворке, чья точная форма всё ещё эволюционирует. Законы уровня штатов — Colorado AI Act, серия законов Калифорнии о генеративном ИИ, Нью-Йоркский закон об AEDT — добавляют лоскутное одеяло США. GDPR, CCPA, PIPL и DPDPA применяются к системам ИИ, задумывались о них разработчики или нет. Фреймворки в Сингапуре, Японии, Корее, Индии и Великобритании продвигаются по параллельным трекам. Эта глава проходит, что каждый требует в практических терминах, и отображает контроли из глав 3, 10, 11 и 12 на эти требования.

13.1 EU AI Act — якорь текущего ландшафта

Регламент (ЕС) 2024/1689 подписан в июне 2024 и опубликован в июле 2024. Запреты на неприемлемые практики — социальный скоринг, биометрическая идентификация в реальном времени в общественных местах с узкими исключениями, манипулятивные техники, эксплуатирующие уязвимости, — стали применимы в феврале 2025. Обязательства для моделей ИИ общего назначения, включая прозрачность и документацию foundation-моделей, стали применимы в августе 2025. Полные обязательства высокого риска становятся применимы в августе 2026 для большинства категорий и в августе 2027 для систем ИИ, встроенных в продукты по существующему EU product-safety-регулированию. Существенная структура тиерована по риску: запрещённые практики, системы высокого риска с детальным набором обязательств (системы риск-менеджмента, data governance, техническая документация, ведение записей, прозрачность для развёртывающих и пользователей, человеческий надзор, точность и робастность, оценка соответствия, пост-маркетный мониторинг), системы ограниченного риска с обязательствами прозрачности и системы минимального риска, в основном нерегулируемые самим Актом. Категории высокого риска в Приложении III включают критическую инфраструктуру, решения о занятости, essential services, правоохранительную деятельность, миграцию, юстицию и определённые случаи биометрии и распознавания эмоций. Обязательства foundation-моделей для моделей выше определённых порогов compute и способностей добавляют параллельный трек, сформировавший, как frontier-лабы подходят к развёртыванию на рынок ЕС. Экстерриториальное действие Акта распространяет его практический эффект на международную индустрию ИИ независимо от того, где сидит разработчик.

13.2 Право защиты данных было там первым и остаётся связывающим

До AI-специфичных регуляций важнейшие ограничения на разработку ИИ приходили из права защиты данных. Они таковыми и остаются. GDPR применяется к обработке персональных данных любым учреждением, обосновавшимся в ЕС или таргетирующим субъектов данных ЕС. Статьи 13 и 14 требуют, чтобы субъекты данных были проинформированы об обработке, включая цели, категории, получателей и, где применимо, существование автоматизированного принятия решений и вовлечённую логику. Статья 22 даёт субъектам данных право не подлежать исключительно автоматизированным решениям с правовыми или подобно значимыми эффектами — положение, чьё применение к выводам LLM оспаривается, но формирующее, как AI-driven-решения развёртываются на рынках ЕС. Статья 17 даёт право на удаление, чьё применение к модели, чьи веса отражают обучающие данные, — другой интерпретационный вопрос, который поле ещё прорабатывает. CCPA и CPRA в Калифорнии, PIPL в Китае, DPDPA в Индии, LGPD в Бразилии, PIPEDA в Канаде и десятки параллельных режимов в других местах налагают схожие обязательства с юрисдикционно-специфичными вариациями. Мартовское 2023 года действие итальянского Garante против ChatGPT (глава 3) было первым регуляторным выстрелом; последующие действия по всему ЕС и в других местах усилили, что обучающие данные, содержащие персональную информацию, — регуляторная забота, даже когда модель предоставлена иностранным вендором.

13.3 Аудируемость, карты моделей и классификация риска — операционная форма

AI-специфичные регуляции сходятся на аудируемости. Системы высокого риска по EU AI Act должны поддерживать техническую документацию с момента до входа на рынок через жизнь системы — общее описание, элементы и процесс разработки, мониторинг и контроль, система риск-менеджмента, data governance, меры человеческого надзора — в достаточной детали, чтобы notified body могло оценить соответствие. NIST AI 100-1 (2023) и Generative AI Profile AI 600-1 (2024) дают риск-менеджерский словарь со стороны США. ISO/IEC 42001, опубликованный в 2023, даёт стандарт AI management system для организаций, стремящихся к сертификации. Карта модели, введённая Митчелл и др. на FAccT 2019, — самый важный документационный артефакт: структурированная запись целевого использования, обучающих данных, результатов оценки, этических соображений и рекомендаций-против-использования. Принятие широкое на Hugging Face, OpenAI, Anthropic и Google, в разной глубине. Подходы к классификации риска варьируются. EU AI Act использует use-case-классификацию: система ИИ, используемая для перечисленной высокорисковой цели, — высокорисковая независимо от способности модели. NIST AI 100-1 использует attribute-based risk-анализ. Процесс Bletchley/Seoul/AI Action Summit использует пороги способности модели через compute и оценку. Большинство текущих фреймворков смешивают подходы, и организационная работа по комплаенсу — во многом работа отображения конкретных систем на конкретные классификационные схемы, применяемые каждым регулятором.

Что подготавливает глава 13

Глава 14 обращается к существенному содержанию, которое регуляции пытаются адресовать: смещение, справедливость и ответственный ИИ. Глава проходит источники смещения в LLM — training-data, представительное, аллокативное, evaluation и deployment bias — со ссылкой на статью Bender, Gebru, McMillan-Major и Shmitchell 2021 «Stochastic Parrots» и последующую литературу. Она рассматривает бенчмарки справедливости (BOLD, BBQ, StereoSet, CrowS-Pairs) и их ограничения. Она проходит компромисс безопасность/полезность, задокументированный в RLHF-работе Anthropic. Она рассматривает прозрачность и объяснимость (SHAP, LIME, интерпретируемость) и разрыв между тем, что они дают, и тем, что требуют регуляции. Она закрывается организационной политикой ИИ как слоем, где техническая работа становится операционной. Глава 15 затем проходит организационную инфраструктуру — культуру безопасности, red teams, риски поставщиков, непрерывную оценку, долгосрочное сопровождение, — несущую дисциплину.

Дальше — Глава 14: Смещение, справедливость и ответственный ИИ. Источники смещения, измерение справедливости с ограничениями, компромисс безопасность/полезность и организационная политика ИИ, превращающая техническую работу в операционную дисциплину.