Глава 14 — Смещение, справедливость и ответственный ИИ
Четырнадцатый пост поглавного разбора LLM Primer VII: AI Security. Глава, обращающаяся с ответственным ИИ как с дисциплиной выборов, сделанных в условиях неопределённости, — где технические инструменты выявляют компромиссы, не разрешая их.
Зачем существует эта глава
Смещение, справедливость и ответственный ИИ — существенное содержание того, что регуляции главы 13 пытаются адресовать. Техническая литература и организационная литература встречаются здесь. Глава проходит источники смещения в LLM, литературу измерения справедливости и её методологические ограничения, компромисс безопасность/полезность, задокументированный в alignment-работе, прозрачность и объяснимость как связанные, но различные дисциплины, и организационную политику ИИ как слой, транслирующий всё это в операционную практику. Статья Bender, Gebru, McMillan-Major и Shmitchell 2021 года «Stochastic Parrots» задала референсное обрамление; поле провело последующие годы, прорабатывая, что рамка подразумевает для инженерии.
14.1 У смещения несколько источников с разными механизмами
Смещение в LLM — не единое явление. Главные источники — training-data-смещение (корпус отражает популяцию, его произведшую: английский переопределён, некоторые демографические группы представлены больше других, исторические паттерны ассоциаций сохранены), представительное смещение (некоторые концепты или группы представлены с меньшим нюансом, потому что обучающий сигнал был скупее), аллокативное смещение (выводы модели распределяют ресурс — внимание, возможности, кредит — неравномерно между группами, даже когда отдельные выводы кажутся разумными), evaluation-смещение (бенчмарки, использованные для сертификации модели, отражают смещения их создателей и их референсных популяций) и deployment-смещение (контекст использования толкает модель к исходам, которых обучение не предвидело). У каждого свой механизм и свой путь смягчения. Training-data-смещение адресуется курированием и аугментацией с ограничениями — нельзя сфабриковать репрезентативные данные, которых не существует. Представительное смещение адресуется целенаправленным файн-тюнингом с оговоркой из главы 16, что файн-тюнинг может также эродировать выравнивание. Аллокативное смещение требует вмешательства на системном уровне, а не тюнинга уровня модели. Evaluation-смещение требует расширения набора бенчмарков. Deployment-смещение требует продуктового scrutiny, которое никакая работа с моделью не заменит.
14.2 Справедливость измеряется несовершенно бенчмарками, которые расходятся
Измерение справедливости в LLM произвело существенную методологическую литературу и несколько стандартных бенчмарков. BOLD (Dhamala и др., FAccT 2021) измеряет сентимент, токсичность и regard в открытой генерации по демографическим группам. BBQ (Parrish и др., 2022) использует ручные QA-пары для проверки смещения. StereoSet и CrowS-Pairs проверяют стереотипные ассоциации. Каждый бенчмарк измеряет что-то разное, и ни один бенчмарк не захватывает свойства справедливости, о которых организация может заботиться. Методологическая литература также ясна в том, что метрики справедливости могут быть взаимно несогласованны — улучшение групповой паритетности может ухудшить калиброванную точность по группам и наоборот, — так что выбор метрики сам по себе ценностный выбор, который организация должна сделать, а не отдать техническому суждению. Компромисс безопасность/полезность, задокументированный в статье Anthropic 2022 года «Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback» и продолжающийся в DPO-литературе, — эмпирически установленное наблюдение, что тренировка модели быть более безвредной обычно также тренирует её быть менее полезной. Современные методы выравнивания сдвинули фронтир, но не устранили компромисс. Инженерный выбор — где вдоль фронтира оперировать для конкретного продукта, и выбор должен быть защитим перед пользователями, регуляторами и аудиториями, которых компромисс затрагивает.
14.3 Прозрачность и организационная политика несут нагрузку
Прозрачность (раскрытие свойств системы) и объяснимость (объяснения конкретных выводов) концептуально различны. Прозрачность в основном обслуживается документационными артефактами главы 13 — карточки моделей, системные карточки, datasheet'ы. Объяснимость — технически более требовательная проблема. SHAP (Lundberg и Lee, NeurIPS 2017) и LIME (Ribeiro и др., KDD 2016) были разработаны для классификации и несовершенно адаптируются к генерации токенов. Механистическая интерпретируемость — dictionary-learning-работа Anthropic, автоматизированное discovery схем OpenAI — исследовательский фронтир с продакшн-приложениями, всё ещё формирующимися. Регуляции часто просят виды объяснений, которых состояние искусства ещё не может дать, и честный инженерный ответ — назвать этот разрыв, а не заклеить его. Организационная политика ИИ — где существенные концерны становятся операционными. Политика должна установить, у кого полномочия над решениями по ИИ, инвентарь систем ИИ в использовании, подход к классификации риска, дисциплину жизненного цикла от оценки до retirement'а, стандарт обработки данных и стандарт человеческого надзора. Responsible Scaling Policy Anthropic, Preparedness Framework OpenAI, Frontier Safety Framework Google DeepMind и Responsible AI Standard Microsoft — опубликованные примеры, задавшие индустриальный этаж.
Что подготавливает глава 14
Глава 15 обращается к организационной инфраструктуре, поддерживающей дисциплину: культуре безопасности, подходящей для AI-работы, функциям red-team и аудита, тестирующим позицию организации, оценке рисков поставщиков, обрабатывающей цепочку поставок, инфраструктуре непрерывной оценки, поддерживающей текущее обеспечение, и долгосрочному сопровождению модели. Трактовка строится на регуляторном контексте главы 13 и существенных концернах главы 14 и даёт им операционную форму. Глава 16 затем сужается до файн-тюнинга как отдельной поверхности безопасности — эрозия выравнивания через безобидные данные, преднамеренное отравление, оценочные ворота в CI, дисциплина отката, — а глава 17 закрывает том, глядя на угрозы, ещё формирующиеся: автономные агенты, мультимодальные поверхности атаки, синтетическая идентичность и AI-vs-AI-динамика середины 2026.
Дальше — Глава 15: Построение безопасной ИИ-организации. Специфичная для ИИ культура безопасности, внутренние red teams, оценка рисков поставщиков, непрерывная оценка и долгосрочное сопровождение модели.
