Chapitre 13 — Paysage réglementaire

Treizième billet de la tournée chapitre par chapitre de LLM Primer VII : Sécurité de l'IA. Le chapitre qui cartographie le paysage réglementaire pluriel, encore en consolidation, sur les contrôles techniques développés dans les chapitres précédents.

Pourquoi ce chapitre existe

D'ici 2026, l'architecture réglementaire autour de l'IA n'est ni figée ni unifiée. L'AI Act européen, pleinement effectif dès août 2026 pour la plupart des catégories à haut risque, est l'instrument unique le plus conséquent. La posture fédérale américaine a évolué à travers la transition EO 14110 vers EO 14179 et s'est installée dans un cadre de travail dont la forme exacte évolue encore. Les lois au niveau des États — le Colorado AI Act, la série californienne de projets de loi sur l'IA générative, la loi AEDT de New York City — ajoutent un patchwork américain. RGPD, CCPA, PIPL et DPDPA s'appliquent aux systèmes IA que leurs concepteurs les aient considérés ou non. Les cadres à Singapour, au Japon, en Corée, en Inde et au Royaume-Uni avancent sur des trajectoires parallèles. Ce chapitre parcourt ce que chacun exige en termes pratiques et cartographie les contrôles des chapitres 3, 10, 11 et 12 sur ces exigences.

13.1 L'AI Act européen est l'ancre du paysage actuel

Le règlement (UE) 2024/1689 a été signé en juin 2024 et publié en juillet 2024. Les interdictions sur les pratiques inacceptables — notation sociale, identification biométrique en temps réel dans les espaces publics avec exceptions étroites, techniques manipulatrices exploitant les vulnérabilités — sont devenues applicables en février 2025. Les obligations sur les modèles d'IA à usage général, dont la transparence et la documentation des modèles de fondation, sont devenues applicables en août 2025. Les obligations complètes à haut risque deviennent applicables en août 2026 pour la plupart des catégories et en août 2027 pour les systèmes IA intégrés à des produits sous la réglementation existante de sécurité des produits de l'UE. La structure de fond est étagée par risque : pratiques interdites, systèmes à haut risque avec un ensemble d'obligations détaillé (systèmes de gestion des risques, gouvernance des données, documentation technique, tenue de registres, transparence envers les déployeurs et utilisateurs, supervision humaine, précision et robustesse, évaluation de conformité, surveillance post-marché), systèmes à risque limité avec obligations de transparence, et systèmes à risque minimal largement non réglementés par l'Act lui-même. Les catégories à haut risque de l'annexe III incluent les infrastructures critiques, les décisions d'emploi, les services essentiels, la police, la migration, la justice, et des cas d'usage définis de biométrie et de reconnaissance des émotions. Les obligations sur les modèles de fondation pour les modèles au-dessus de seuils définis de calcul et de capacité ajoutent une piste parallèle qui a façonné la manière dont les laboratoires frontières abordent le déploiement sur le marché européen. La portée extraterritoriale de l'Act étend son effet pratique à l'industrie IA internationale quelle que soit la localisation du développeur.

13.2 Le droit de la protection des données était là en premier et reste contraignant

Avant les réglementations spécifiques à l'IA, les contraintes les plus importantes sur le développement IA venaient du droit de la protection des données. Elles le restent. Le RGPD s'applique au traitement de données personnelles par toute entité établie dans l'UE ou ciblant des personnes concernées dans l'UE. Les articles 13 et 14 exigent que les personnes concernées soient informées du traitement, y compris les finalités, catégories, destinataires et, le cas échéant, l'existence d'une décision automatisée et la logique impliquée. L'article 22 donne aux personnes concernées le droit de ne pas être soumises à des décisions solely automatisées produisant des effets juridiques ou similairement significatifs — une disposition dont l'application aux sorties LLM est contestée mais qui façonne comment les décisions pilotées par IA sont déployées sur les marchés européens. L'article 17 donne le droit à l'effacement, dont l'application à un modèle dont les poids reflètent les données d'entraînement est une autre question interprétative que le domaine travaille encore. CCPA et CPRA en Californie, PIPL en Chine, DPDPA en Inde, LGPD au Brésil, PIPEDA au Canada, et des dizaines de régimes parallèles ailleurs imposent des obligations similaires avec des variations spécifiques aux juridictions. L'action du Garante italien en mars 2023 contre ChatGPT (chapitre 3) a été le premier coup réglementaire ; les actions ultérieures dans l'UE et ailleurs ont renforcé que les données d'entraînement contenant des informations personnelles sont une préoccupation réglementaire même quand le modèle est fourni par un vendeur étranger.

13.3 Auditabilité, fiches de modèle et classification des risques sont la forme opérationnelle

Les réglementations spécifiques à l'IA convergent sur l'auditabilité. Les systèmes à haut risque au titre de l'AI Act européen doivent maintenir une documentation technique depuis avant la mise sur le marché jusqu'à la fin de vie du système — description générale, éléments et processus de développement, surveillance et contrôle, système de gestion des risques, gouvernance des données, mesures de supervision humaine, en détail suffisant pour qu'un organisme notifié évalue la conformité. NIST AI 100-1 (2023) et le Generative AI Profile AI 600-1 (2024) fournissent le vocabulaire américain de gestion des risques. ISO/IEC 42001, publié en 2023, donne la norme de système de management de l'IA pour les organisations poursuivant la certification. La fiche de modèle, introduite par Mitchell et al. à FAccT 2019, est l'artefact de documentation unique le plus important — un dossier structuré d'usage prévu, données d'entraînement, résultats d'évaluation, considérations éthiques, et usage déconseillé. L'adoption est large à travers Hugging Face, OpenAI, Anthropic et Google, à des profondeurs variables. Les approches de classification des risques varient. L'AI Act européen utilise la classification par cas d'usage : un système IA utilisé pour une finalité à haut risque listée est à haut risque quelle que soit la capacité du modèle. NIST AI 100-1 utilise l'analyse de risque à base d'attributs. Le processus des sommets Bletchley/Séoul/AI Action utilise des seuils de capacité de modèle via calcul et évaluation. La plupart des cadres actuels mélangent les approches, et le travail de conformité organisationnel est largement le travail de cartographier les systèmes spécifiques sur les schémas de classification spécifiques que chaque régulateur applique.

Ce que prépare le Chapitre 13

Le chapitre 14 se tourne vers le contenu substantiel que les réglementations tentent d'aborder : biais, équité et IA responsable. Le chapitre parcourt les sources de biais dans les LLM — biais de données d'entraînement, biais représentationnel, biais d'allocation, biais d'évaluation et biais de déploiement — en référence à l'article « Stochastic Parrots » de Bender, Gebru, McMillan-Major et Shmitchell en 2021 et à la littérature qui suit. Il examine les benchmarks d'équité (BOLD, BBQ, StereoSet, CrowS-Pairs) et leurs limites. Il parcourt l'arbitrage sécurité-utilité documenté dans les travaux RLHF d'Anthropic. Il examine transparence et explicabilité (SHAP, LIME, interprétabilité) et l'écart entre ce qu'elles délivrent et ce que les réglementations exigent. Il clôt avec la politique IA organisationnelle comme couche où le travail technique devient opérationnel. Le chapitre 15 parcourt ensuite l'infrastructure organisationnelle — culture de sécurité, red teams, risque fournisseur, évaluation continue, gérance à long terme — qui porte la discipline.

Prochaine étape — Chapitre 14 : Biais, équité et IA responsable. Sources des biais, mesurer l'équité avec des limites, l'arbitrage sécurité-utilité, et la politique IA organisationnelle qui transforme le travail technique en discipline opérationnelle.