Kapitel 13 — Regulatorische Landschaft

Dreizehnter Beitrag im Kapitel-für-Kapitel-Walkthrough zu LLM Primer VII: KI-Sicherheit. Das Kapitel bildet die plurale, noch konsolidierende regulatorische Landschaft auf die technischen Kontrollen ab, die die früheren Kapitel entwickelt haben.

Warum es dieses Kapitel gibt

Bis 2026 ist die regulatorische Architektur rund um KI weder gesetzt noch vereinheitlicht. Der EU AI Act, ab August 2026 für die meisten Hochrisiko-Kategorien in voller Wirkung, ist das folgenreichste einzelne Instrument. Die US-Bundesposition hat sich durch den Übergang von EO 14110 zu EO 14179 verschoben und sich zu einem Arbeitsrahmen konsolidiert, dessen genaue Form sich noch entwickelt. Gesetze der Bundesstaaten — der Colorado AI Act, Kaliforniens Serie generativer KI-Gesetze, das AEDT-Gesetz von New York City — ergänzen ein US-Flickwerk. DSGVO, CCPA, PIPL und DPDPA gelten für KI-Systeme, egal ob deren Designer sie berücksichtigt haben. Die Frameworks in Singapur, Japan, Korea, Indien und dem UK schreiten auf parallelen Gleisen voran. Dieses Kapitel walkt, was jedes davon praktisch verlangt, und bildet die Kontrollen aus den Kapiteln 3, 10, 11 und 12 auf diese Anforderungen ab.

13.1 Der EU AI Act ist der Anker der aktuellen Landschaft

Verordnung (EU) 2024/1689 wurde im Juni 2024 unterzeichnet und im Juli 2024 veröffentlicht. Verbote unzulässiger Praktiken — Social Scoring, Echtzeit-Biometrieerkennung im öffentlichen Raum mit engen Ausnahmen, manipulative Techniken, die Verletzlichkeiten ausnutzen — sind seit Februar 2025 anwendbar. Pflichten für Allzweck-KI-Modelle, einschließlich Transparenz und Dokumentation von Foundation-Modellen, sind seit August 2025 anwendbar. Die vollen Hochrisiko-Pflichten werden ab August 2026 für die meisten Kategorien und ab August 2027 für KI-Systeme, die in Produkte unter bestehender EU-Produktsicherheitsregulierung eingebettet sind, anwendbar. Die inhaltliche Struktur ist risikostuflich: verbotene Praktiken, Hochrisiko-Systeme mit einem detaillierten Pflichtenkatalog (Risikomanagementsysteme, Data Governance, technische Dokumentation, Aufzeichnungspflichten, Transparenz gegenüber Betreibern und Nutzern, menschliche Aufsicht, Genauigkeit und Robustheit, Konformitätsbewertung, Post-Market-Monitoring), Systeme mit begrenztem Risiko und Transparenzpflichten sowie minimal-risikobehaftete Systeme, die vom Act selbst weitgehend unreguliert sind. Die Hochrisiko-Kategorien in Anhang III umfassen kritische Infrastruktur, Beschäftigungsentscheidungen, wesentliche Dienste, Strafverfolgung, Migration, Justiz sowie definierte biometrische und Emotionserkennungs-Anwendungsfälle. Die Pflichten für Foundation-Modelle oberhalb definierter Rechen- und Fähigkeitsschwellen fügen einen parallelen Pfad hinzu, der geprägt hat, wie die Frontier-Labs den EU-Markt bespielen. Die extraterritoriale Reichweite des Acts erweitert seine praktische Wirkung auf die internationale KI-Branche, unabhängig davon, wo der Entwickler sitzt.

13.2 Datenschutzrecht war zuerst da und bleibt bindend

Vor den KI-spezifischen Regulierungen kamen die wichtigsten Beschränkungen der KI-Entwicklung aus dem Datenschutzrecht. Sie bleiben es. Die DSGVO gilt für die Verarbeitung personenbezogener Daten durch jede in der EU niedergelassene Stelle oder durch Stellen, die EU-Datensubjekte adressieren. Die Artikel 13 und 14 verlangen, dass Datensubjekte über die Verarbeitung informiert werden, einschließlich Zwecke, Kategorien, Empfänger und, wo anwendbar, die Existenz automatisierter Entscheidungsfindung und der beteiligten Logik. Artikel 22 gibt Datensubjekten das Recht, nicht einer ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu sein — eine Bestimmung, deren Anwendung auf LLM-Ausgaben strittig ist, aber die prägt, wie KI-getriebene Entscheidungen in EU-Märkten eingesetzt werden. Artikel 17 gibt das Recht auf Löschung, dessen Anwendung auf ein Modell, dessen Gewichte die Trainingsdaten spiegeln, eine weitere Auslegungsfrage ist, die das Feld noch bearbeitet. CCPA und CPRA in Kalifornien, PIPL in China, DPDPA in Indien, LGPD in Brasilien, PIPEDA in Kanada und Dutzende parallele Regime anderswo erlegen ähnliche Pflichten mit jurisdiktionsspezifischen Varianten auf. Das Verfahren des italienischen Garante gegen ChatGPT im März 2023 (Kapitel 3) war der erste regulatorische Schuss; nachfolgende Verfahren in der EU und darüber hinaus haben bekräftigt, dass Trainingsdaten mit personenbezogenen Informationen ein regulatorisches Anliegen sind, auch wenn das Modell von einem ausländischen Anbieter kommt.

13.3 Auditierbarkeit, Model Cards und Risikoklassifizierung sind die operative Form

Die KI-spezifischen Regulierungen konvergieren auf Auditierbarkeit. Hochrisiko-Systeme unter dem EU AI Act müssen technische Dokumentation von vor dem Markteintritt bis über die Lebenszeit des Systems hinweg pflegen — allgemeine Beschreibung, Elemente und Entwicklungsprozess, Monitoring und Kontrolle, Risikomanagementsystem, Data Governance, Maßnahmen menschlicher Aufsicht, in ausreichendem Detail, damit eine benannte Stelle die Konformität bewerten kann. NIST AI 100-1 (2023) und das Generative-AI-Profil AI 600-1 (2024) liefern das US-seitige Risikomanagement-Vokabular. ISO/IEC 42001, 2023 veröffentlicht, gibt den KI-Management-System-Standard für Organisationen, die eine Zertifizierung anstreben. Die Model Card, von Mitchell et al. 2019 auf der FAccT eingeführt, ist das wichtigste einzelne Dokumentationsartefakt — ein strukturierter Datensatz aus beabsichtigter Nutzung, Trainingsdaten, Evaluationsergebnissen, ethischen Überlegungen und ausdrücklich abgeratenen Verwendungen. Die Adoption ist bei Hugging Face, OpenAI, Anthropic und Google in verschiedenen Tiefen verbreitet. Risikoklassifizierungsansätze variieren. Der EU AI Act nutzt Anwendungsfallklassifizierung: ein KI-System, das für einen gelisteten Hochrisiko-Zweck genutzt wird, ist Hochrisiko, unabhängig von der Modellfähigkeit. NIST AI 100-1 nutzt attributbasierte Risikoanalyse. Der Bletchley/Seoul/AI-Action-Summit-Prozess nutzt Fähigkeitsschwellen über Rechenleistung und Evaluation. Die meisten aktuellen Frameworks mischen Ansätze, und die organisatorische Compliance-Arbeit ist weitgehend die Arbeit, spezifische Systeme auf die spezifischen Klassifizierungsschemata jedes Regulators abzubilden.

Was Kapitel 13 vorbereitet

Kapitel 14 wendet sich dem inhaltlichen Gegenstand zu, den die Regulierungen adressieren wollen: Bias, Fairness und verantwortliche KI. Das Kapitel walkt die Quellen von Bias in LLMs — Trainingsdaten-, Repräsentations-, Allokations-, Evaluations- und Deployment-Bias — mit Bezug auf Bender, Gebru, McMillan-Major und Shmitchells „Stochastic Parrots"-Paper von 2021 und die Folgeliteratur. Es untersucht die Fairness-Benchmarks (BOLD, BBQ, StereoSet, CrowS-Pairs) und ihre Grenzen. Es walkt den Sicherheit-Nutzen-Kompromiss, dokumentiert in Anthropics RLHF-Arbeit. Es untersucht Transparenz und Erklärbarkeit (SHAP, LIME, Interpretierbarkeit) und die Kluft zwischen dem, was sie liefern, und dem, was Regulierungen verlangen. Es schließt mit organisatorischer KI-Policy als der Schicht, in der technische Arbeit operativ wird. Kapitel 15 walkt dann die organisatorische Infrastruktur — Sicherheitskultur, Red Teams, Vendor-Risiko, kontinuierliche Evaluation, langfristige Stewardship — die die Disziplin trägt.

Als Nächstes — Kapitel 14: Bias, Fairness und verantwortliche KI. Quellen von Bias, Fairness mit Grenzen messen, der Sicherheit-Nutzen-Kompromiss und die organisatorische KI-Policy, die technische Arbeit in operative Disziplin überführt.