제13장 — 규제 지형

LLM Primer VII: AI 보안의 챕터별 워크스루 열세 번째 글입니다. 복수이며 아직 통합 중인 규제 지형을 이전 장들이 개발한 기술적 통제 위에 매핑하는 장입니다.

이 장이 존재하는 이유

2026년 기준 AI를 둘러싼 규제 아키텍처는 정착도 통합도 되지 않았습니다. EU AI 법은 대부분의 고위험 범주에 대해 2026년 8월부터 전면 시행되며, 가장 결과적으로 중요한 단일 도구입니다. 미국 연방 태세는 EO 14110에서 EO 14179로의 전환을 거쳐 그 정확한 형태가 여전히 진화 중인 작업 프레임워크로 정착했습니다. 주 수준 법 — 콜로라도 AI 법, 캘리포니아의 생성형 AI 법안 시리즈, 뉴욕시 AEDT 법 — 은 미국의 조각보를 더합니다. GDPR, CCPA, PIPL, DPDPA는 설계자가 고려했든 아니든 AI 시스템에 적용됩니다. 싱가포르, 일본, 한국, 인도, 영국의 프레임워크는 평행 트랙에서 진행됩니다. 이 장은 각각이 실용적 관점에서 요구하는 것을 걷고, 제3·10·11·12장의 통제를 그 요구에 매핑합니다.

13.1 EU AI 법이 현재 지형의 정박이다

규정 (EU) 2024/1689는 2024년 6월에 서명되고 7월에 공포되었습니다. 용납할 수 없는 관행에 대한 금지 — 사회적 점수, 좁은 예외를 둔 공공 장소 실시간 생체 인식, 취약점을 악용하는 조작 기법 — 는 2025년 2월에 적용되기 시작했습니다. 파운데이션 모델 투명성과 문서화를 포함한 범용 AI 모델에 대한 의무는 2025년 8월에 적용되기 시작했습니다. 완전한 고위험 의무는 대부분의 범주에 대해 2026년 8월에, 그리고 기존 EU 제품 안전 규정에 따라 제품에 임베드된 AI 시스템에 대해서는 2027년 8월에 적용됩니다. 실질적 구조는 위험 계층화되어 있습니다: 금지 관행, 상세 의무 세트(위험 관리 시스템, 데이터 거버넌스, 기술 문서, 기록 유지, 배포자와 사용자에 대한 투명성, 인간 감독, 정확성과 견고성, 적합성 평가, 사후 시장 모니터링)를 가진 고위험 시스템, 투명성 의무를 가진 제한 위험 시스템, 그리고 법 자체로는 대부분 규제되지 않는 최소 위험 시스템. Annex III의 고위험 범주에는 중요 인프라, 고용 결정, 필수 서비스, 법 집행, 이민, 사법, 정의된 생체 인식 및 감정 인식 사용 사례가 포함됩니다. 정의된 계산과 능력 임계값을 넘는 모델에 대한 파운데이션 모델 의무는 병행 트랙을 더하며, 이는 프론티어 랩이 EU 시장 배포에 접근하는 방식을 형성했습니다. 법의 역외 적용 범위는 개발자가 어디에 있든 국제 AI 산업에 그 실질적 효과를 확장합니다.

13.2 데이터 보호법이 먼저였고 여전히 구속력을 가진다

AI 특유의 규제 이전에도 AI 개발에 가장 중요한 제약은 데이터 보호법에서 왔습니다. 그것은 여전합니다. GDPR은 EU에 확립된 어느 주체나 EU 데이터 주체를 대상으로 하는 어느 주체가 개인 데이터를 처리하는 데 적용됩니다. 제13조와 제14조는 데이터 주체가 처리에 대해, 목적·범주·수신자·해당되는 경우 자동화 결정의 존재와 관련된 로직을 포함해 통보되어야 함을 요구합니다. 제22조는 데이터 주체에게 법적 혹은 유사하게 중대한 효과를 낳는 순전히 자동화된 결정에 종속되지 않을 권리를 부여합니다 — LLM 출력에 대한 그 적용은 논쟁 중이지만, EU 시장에서 AI 구동 결정이 배포되는 방식을 형성합니다. 제17조는 삭제권을 부여하며, 학습 데이터를 반영하는 가중치를 가진 모델에 대한 그 적용은 필드가 여전히 풀어 나가는 또 하나의 해석 문제입니다. 캘리포니아의 CCPA와 CPRA, 중국의 PIPL, 인도의 DPDPA, 브라질의 LGPD, 캐나다의 PIPEDA, 그리고 다른 곳의 수십 개 평행 체제는 관할 특유의 변형과 함께 유사한 의무를 부과합니다. 2023년 3월 이탈리아 Garante의 ChatGPT에 대한 조치(제3장)는 첫 규제적 발포였습니다. EU와 다른 곳의 이후 조치가 개인 정보를 담은 학습 데이터가 외국 벤더가 제공한 모델일 때도 규제 관심사임을 강화했습니다.

13.3 감사 가능성, 모델 카드, 위험 분류가 운영 형태다

AI 특유의 규제는 감사 가능성으로 수렴합니다. EU AI 법 아래 고위험 시스템은 시장 진입 전부터 시스템 수명 동안 기술 문서를 유지해야 합니다 — 일반 서술, 요소와 개발 과정, 모니터링과 통제, 위험 관리 시스템, 데이터 거버넌스, 인간 감독 조치 — 그것을 통보 기관이 적합성을 평가할 수 있을 만큼 자세히. NIST AI 100-1(2023)과 Generative AI Profile AI 600-1(2024)은 미국 측 위험 관리 어휘를 제공합니다. 2023년에 공포된 ISO/IEC 42001은 인증을 추구하는 조직을 위한 AI 관리 시스템 표준을 제공합니다. Mitchell 등이 FAccT 2019에서 도입한 모델 카드는 가장 중요한 단일 문서 아티팩트입니다 — 의도된 용도, 학습 데이터, 평가 결과, 윤리적 고려, 권장되지 않는 용도의 구조화된 기록. Hugging Face, OpenAI, Anthropic, Google 전반에서 다양한 깊이로 채택되어 있습니다. 위험 분류 접근은 다양합니다. EU AI 법은 사용 사례 분류를 사용합니다: 목록된 고위험 목적으로 사용되는 AI 시스템은 모델의 능력과 무관하게 고위험입니다. NIST AI 100-1은 속성 기반 위험 분석을 사용합니다. Bletchley/Seoul/AI Action Summit 과정은 컴퓨트와 평가를 통한 모델 능력 임계값을 사용합니다. 대부분의 현재 프레임워크는 접근을 혼합하며, 조직의 컴플라이언스 작업은 대체로 특정 시스템을 각 규제자가 적용하는 특정 분류 체계에 매핑하는 작업입니다.

제13장이 준비하는 것

제14장은 규제가 다루려는 실질 내용 — 편향, 공정성, 책임 있는 AI — 으로 향합니다. 이 장은 LLM에서 편향의 근원 — 학습 데이터, 표상, 할당, 평가, 배포 편향 — 을 Bender·Gebru·McMillan-Major·Shmitchell의 2021년 「Stochastic Parrots」 논문과 후속 문헌에 비추어 걷습니다. 공정성 벤치마크(BOLD, BBQ, StereoSet, CrowS-Pairs)와 그 한계를 살핍니다. Anthropic의 RLHF 작업에서 문서화된 안전-유용성 트레이드오프를 걷습니다. 투명성과 설명 가능성(SHAP, LIME, 해석 가능성)과 그것이 제공하는 것과 규제가 요구하는 것 사이의 간극을 살핍니다. 기술 작업이 운영이 되는 층으로서의 조직의 AI 정책으로 닫습니다. 제15장은 그다음 그 규율을 짊어지는 조직 인프라 — 보안 문화, 레드팀, 벤더 위험, 지속적 평가, 장기적 스튜어드십 — 를 걷습니다.

다음 → 제14장: 편향, 공정성, 책임 있는 AI. 편향의 근원, 한계와 함께 공정성을 측정하기, 안전-유용성 트레이드오프, 그리고 기술 작업을 운영 규율로 바꾸는 조직의 AI 정책.