Introduction to LLM
This page provides an easy-to-understand guide on LLMs (Large Language Models) from basics to applications for AI enthusiasts.
제17장 — 미래의 위협과 새롭게 등장하는 방어
자율 에이전트의 폭발 반경, 멀티모달 표면이 넓히는 인젝션 채널, 합성 신원과 AI 대 AI 동역학, 그리고 LLM Primer 시리즈의 마지막 마무리.
2026-05-26
제16장 — 안전한 파인튜닝과 적응
파인튜닝된 모델을 물려받는 것이 아니라 획득해야 할 아티팩트로 다루기. 정렬 침식, 소규모 데이터 오염, CI 평가 게이트, 그리고 롤백 규율.
2026-05-25
제15장 — 안전한 AI 조직 구축
기술 통제가 시간과의 접촉을 살아남게 하는 층 — 문화, 레드팀, 벤더 위험 평가, 지속 평가, 그리고 장기적 모델 스튜어드십.
2026-05-24
제14장 — 편향, 공정성, 책임 있는 AI
편향의 다섯 근원, 서로 불일치하는 공정성 지표, 안전-유용성 트레이드오프, 그리고 설명 가능성이 규제와 만나지 못하는 간극을 다루는 조직의 AI 정책.
2026-05-23
제13장 — 규제 지형
EU AI 법의 단계적 적용, AI 시스템에도 여전히 구속력을 갖는 GDPR·CCPA·PIPL, 그리고 감사 가능성·모델 카드·위험 분류가 만드는 운영 형태.
2026-05-22
제12장 — 접근 제어와 신원
OAuth·mTLS·RBAC·ABAC의 LLM 이식, 멀티테넌트 격리의 세 접근, 그리고 SAML·SCIM·감사 로그가 만드는 엔터프라이즈 거버넌스 오버레이.
2026-05-21
제11장 — 관측 가능성, 로깅, 사건 대응
확률적 시스템에서 로깅해야 할 것, 시그니처·통계·행동 신호를 조합한 탐지, 그리고 재현 가능성을 확보하는 NIST 800-61 형태의 사건 대응.
2026-05-20
제10장 — 안전한 LLM 아키텍처 설계
격리가 폭발 반경을 제한하는 방식, 계층화된 검증과 선언적 정책, 그리고 모델 호출에 적용된 제로 트러스트로 침해된 프롬프트가 시스템 침해로 상승하지 못하게 하는 아키텍처.
2026-05-19
제9장 — 모델 무결성과 공급망 위험
모델을 서드파티가 배포한 바이너리로 다루기. BadNets에서 Sleeper Agents까지, 피클 대 safetensors, 그리고 SLSA·Sigstore·드리프트 모니터링.
2026-05-18
제8장 — 모델에 대한 적대적 공격
FGSM에서 TextFooler·보편적 접미사까지의 계보, API 예산이 시사하는 것보다 저렴한 블랙박스 공격, 그리고 블랙박스를 사실상 화이트박스로 바꾸는 모델 탈취.
2026-05-17
제7장 — 환각과 신뢰성
환각의 두 메커니즘 — 사실성과 충실성 실패, 신경망의 구조적 과신, 그리고 캘리브레이션·RAG 접지·human-in-the-loop로 이루어지는 신뢰성 엔지니어링.
2026-05-16
제6장 — 검색 증강 생성의 위험
RAG 파이프라인의 다섯 신뢰 경계, 인덱스를 통한 인젝션 공격, PoisonedRAG와 BadRAG, 그리고 아키텍처적으로 안전한 검색 패턴.
2026-05-15
제5장 — 입력 검증과 출력 필터링
단계적 위생 처리, 방어로서의 구조화된 출력, Llama Guard와 NeMo Guardrails, 그리고 Garak·PyRIT로 안전을 측정하는 방법.
2026-05-14
제4장 — 프롬프트 인젝션과 탈옥
프롬프트 인젝션에 파라미터화된 쿼리 같은 구조적 해결책이 없는 이유. 직접·간접 인젝션, 탈옥 분류학, 그리고 네 층의 완화 아키텍처.
2026-05-13
제3장 — 데이터 보안과 프라이버시
LLM 시스템에서 데이터를 수명주기 자산으로 다루기. 학습 코퍼스의 저작권과 PII, 암기와 추출 공격, 그리고 Samsung과 Garante 사건이 규정한 사용자 입력 처리 규율.
2026-05-12
제2장 — LLM 시스템의 위협 모델링
Shostack의 네 질문, STRIDE와 PASTA, MITRE ATLAS를 LLM 시스템에 적용. 자산 목록·적대자 카탈로그·위협 등록부를 채우는 작업 템플릿을 걷습니다.
2026-05-11
제1장 — 왜 AI 보안은 다른가
LLM 보안이 코드 보안이 아닌 이유. 확률적 시스템의 행동 포락선이 공격 표면이 되며, 프롬프트·검색·도구·학습·모델·출력의 여섯 표면이 새로운 신뢰 경계를 규정합니다.
2026-05-10
LLM Primer VII — 시리즈 소개 및 목차
LLM Primer VII: AI 보안의 챕터별 워크스루 소개. 위협 모델부터 규제 경계까지, 시리즈의 마지막 권에서 엔지니어링 아크가 적대자와 만나는 지점을 다룹니다.
2026-05-09
제14장 — 토큰 경제학과 API 가격
제1장의 물리를 청구서의 라인 아이템에 연결하고, 첫 달의 청구서가 왜 팀이 모델링한 것과 닮지 않는 경우가 많은지 설명하는 장.
2026-05-06
제8장 — 차세대 KV 캐시 관리
운영체제의 페이징 통찰을 추론 엔진으로 옮겨 오는 장 — KV 캐시를 예약된 바이트 슬래브에서 공유·축출·프리픽스 캐시가 가능한 자원으로 바꿉니다.
2026-04-30
제2장 — KV 캐시라는 과제
KV 캐시는 산술을 메모리와 맞바꿉니다 — 그리고 그 메모리는 배치, 시퀀스 길이, 레이어 수, 헤드 수, 헤드 차원에 동시에 비례합니다. 그래서 서빙 클러스터는 다른 어떤 자원보다 VRAM이 먼저 떨어집니다.
2026-04-24
제1장 — 토큰 생성의 기제
LLM 서빙의 거의 모든 어려운 질문은 한 사실에서 내려옵니다 — 각 토큰을 만드는 루프는 메모리 대역폭에 묶여 있고, 비싼 연산 유닛은 99.7퍼센트의 시간을 놀립니다.
2026-04-23
제8장 — 성능, 서빙, 비용 최적화
프로덕션 LLM 경제학을 층진 규율로 다루는 장. 가장 저렴한 호출은 결코 이루어지지 않는 호출이고, 아래 각 층은 다음 호출을 저렴하게 만들어 주는 층입니다.
2026-04-21
제7장 — LLM 보안과 가드레일
LLM 애플리케이션이 새로 들여오는 보안 축을 명명하고, 그 위에 네 층의 완화 매트릭스를 세우는 장. 원리는 하나 — 권한은 신뢰 출처와 일치해야 합니다.
2026-04-20
LLM Primer V — 시리즈 소개 및 목차
LLM Primer V 워크스루 시리즈의 시작. AI 엔지니어링을 프롬프트 트릭이 아니라 하나의 학문 분야로 다루는 제5권을, 8개 장을 따라 하루에 한 편씩 살핍니다.
2026-04-13제14장 — 벤치마킹, 테스트, 성능
LLM Primer IV 워크스루의 열다섯 번째이자 마지막 글입니다. 실제 서버 위의 MCP-Universe 벤치마크, 그것이 드러낸 두 가지 시스템적 실패 모드, 세션당 요청과 공유 세션 풀 사이의 10배 처리량 격차, 그리고 제5권으로의 다리를 살핍니다.
2026-04-12제13장 — 프레임워크와 클라우드 통합
LLM Primer IV 워크스루의 열세 번째 글입니다. Bedrock과 함께한 Strands, AWS 상태 층 패턴, Microsoft Agent Framework, LangChain, Semantic Kernel — 그리고 팀이 독립적으로 거듭 도착하는 세 가지 프로덕션 통합 모양을 살핍니다.
2026-04-11제12장 — 프로토콜 하드닝과 방어
LLM Primer IV 워크스루의 열두 번째 글입니다. 네 가지 방어 군집 — 암호화 증명, 유계 세션을 가진 OAuth 범위 규율, 런타임 샌드박싱, 사람-개입 게이트 — 이 적대적 조건에서 모델이 올바르게 행동하는 것에 의존하지 않는 자세로 조합되는 모습을 살핍니다.
2026-04-10제11장 — 공격 표면과 프로토콜 취약성
LLM Primer IV 워크스루의 열한 번째 글입니다. MCP에 적용된 고전적 공격 — Confused Deputy, Token Passthrough, 세션 하이재킹 — , 능력 에스컬레이션과 인증 없는 샘플링을 둘러싼 프로토콜 수준의 결함, 그리고 컨텍스트 오염을 위생 문제가 아니라 구조적 문제로 만드는 암묵적 신뢰 전파를 살핍니다.
2026-04-09제8장 — 아키텍처 배포 레이아웃
LLM Primer IV 워크스루의 여덟 번째 글입니다. MCP 생태계에서 떠오른 세 가지 배포 레이아웃 — 재사용 가능한 에이전트, 엄격한 순수성, 하이브리드 — 과 어느 것이 어느 프로젝트에 맞는지 결정하는 네 가지 묶이는 제약을 살핍니다.
2026-04-06제7장 — 고급 협업 및 동적 패턴
LLM Primer IV 워크스루의 일곱 번째 글입니다. 라운드테이블 합의, 핸드오프 라우팅, 마젠틱 오케스트레이션 — 토폴로지가 요청별로 만들어져야 할 때 떠오르는 패턴들과 더 단순한 패턴이 피하는 실패 모드(비종료, 잘못된 라우팅, 폭주 계획)를 살핍니다.
2026-04-05제6장 — 기초 오케스트레이션 전략
LLM Primer IV 워크스루의 여섯 번째 글입니다. 두 기초 오케스트레이션 모양 — 순차 파이프라인과 동시 산-수집 — 과 모든 팀이 먼저 물어야 할 선행 질문을 살핍니다. 다중 에이전트 시스템이 정말 알맞은 답인가?
2026-04-04제5장 — 전송 프로토콜과 발견
LLM Primer IV 워크스루의 다섯 번째 글입니다. MCP가 지원하는 세 가지 전송, 서버 카드를 가진 .well-known 발견 층, 그리고 서버를 협력적 네트워크 시민으로 만들지 부채로 만들지 결정하는 따분한 운영적 관심사들 — CORS, 오리진 검증, 캐싱 — 을 살핍니다.
2026-04-03제4장 — 클라이언트 프리미티브: 에이전트형 행동과 제어
LLM Primer IV 워크스루의 네 번째 글입니다. 샘플링, 루트, 일리시테이션은 MCP가 호스트-서버 벽에 뚫는 세 개의 작고 제어된 구멍입니다 — 각각 호스트가 서버에 빌려주는 능력이며, 각각 사용자를 대신해 받아들이는 위험입니다.
2026-04-02제3장 — 서버 프리미티브: 컨텍스트와 능력의 노출
LLM Primer IV 워크스루의 세 번째 글입니다. MCP 서버가 내놓을 수 있는 세 개의 명사 — Resources(읽기 상태), Prompts(재사용 가능한 스캐폴드), Tools(쓰기 행동) — 와 그 스키마, 라이프사이클, 오류 모델, 그리고 알맞은 프리미티브를 고르는 규율을 살핍니다.
2026-04-01제2장 — Model Context Protocol(MCP)의 베일 벗기
LLM Primer IV 워크스루의 두 번째 글입니다. MCP가 실제로 무엇을 표준화하는지, Host·Client·Server의 세 역할 분할, 중요한 경우에 동적 발견과 양방향 메시징이 REST와 어떻게 다른지, 그리고 능력 협상으로 열리는 세션 라이프사이클을 봅니다.
2026-03-31제1장 — AI 통합 위기와 에이전트형 아키텍처의 부상
LLM Primer IV 워크스루의 첫 번째 글입니다. 시스템 프롬프트가 자라며 모놀리식 에이전트가 닳아 가는 과정, 그 밑에 숨은 N 곱하기 M 통합 문제, 그리고 MCP가 가능하게 하기 위해 만들어진 프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로의 이행을 살핍니다.
2026-03-30LLM Primer IV — 시리즈 소개 및 인덱스
LLM Primer 시리즈 제4권의 챕터별 워크스루를 여는 글입니다. 에이전트가 데모를 넘어 확장되려면 왜 프로토콜 층이 필요한지, 누구를 위해 이 책을 썼는지, 그리고 3월 30일부터 4월 12일까지 이어질 열네 편의 포스트 일정을 정리합니다.
2026-03-29제10장 — 주요 평가 프레임워크
LLM Primer III 워크스루의 열 번째 글입니다. 평가 트라이어드에 도구 모음이 붙은 자리 — 두 진영의 여덟 프레임워크 — 그리고 그중 누구도 아직 풀지 못한 부분에 대한 한 차례 정직한 인정.
2026-03-27제8장 — RAG 파이프라인의 데이터 비식별화
LLM Primer III 워크스루의 여덟 번째 글입니다. 모델이 데이터를 보기 전에 비식별화할 것인가, 사용자가 출력을 보기 전에 할 것인가. 답은 파이프라인의 모든 것을 바꾸고, 규제 체계가 보통 그 답을 골라 줍니다.
2026-03-25제7장 — 접근 제어 구현
LLM Primer III 워크스루의 일곱 번째 글입니다. 문서 수준 ACL을 토대로, Microsoft Purview 민감도 레이블과 함께 가는 RBAC, Zanzibar와 SpiceDB로 가는 ReBAC, 그리고 그 모두 아래에서 도는 사전 필터와 사후 필터의 규율을 함께 살펴봅니다.
2026-03-24제6장 — RAG 위협 모델과 취약점
LLM Primer III 워크스루의 여섯 번째 글입니다. 순수 LLM은 단 하나의 신뢰 경계를 가졌습니다. RAG 시스템은 여럿을 갖습니다 — 수집, 파서, 청커, 임베더, 인덱스, 리트리버, 리랭커, 생성기, 도구, 출력 — 그리고 각각이 적대자가 빚을 수 있는 입력에 닿아 있습니다.
2026-03-23제4장 — 올바른 벡터 데이터베이스 선택
LLM Primer III 워크스루의 네 번째 글입니다. 목적별 벡터 데이터베이스와 Postgres 류 확장의 아키텍처적 분기, 매니지드의 선두 주자(Pinecone, Vertex), 오픈소스의 진영(Qdrant, Milvus, Weaviate), 임베디드 옵션, 그리고 실제 선택을 가르는 세 운영 축 — 데이터 거주성, 운영, 비용 — 을 함께 살펴봅니다.
2026-03-21제3장 — 고급 청킹 프레임워크
LLM Primer III 워크스루의 세 번째 글입니다. 고정 크기에서 구조 인지까지 이어지는 청킹 스펙트럼, 오버랩 미신, 검색을 조용히 무너뜨리는 컨텍스트 클리프, 그리고 최전선의 셈을 다시 짠 컨텍스추얼 리트리벌과 레이트 청킹을 함께 살펴봅니다.
2026-03-20제2장 — 지능형 문서 파싱
LLM Primer III 워크스루의 두 번째 글입니다. PDF가 텍스트 파일이 아닌 이유, 레이아웃 인지 파서가 실제로 보존하는 것, 현재 도구 지형(LlamaParse, Docling, Unstructured, Marker-PDF, Firecrawl, DeepSeek-OCR), 그리고 페이지 이미지 위에서 직접 검색하는 멀티모달 트랙을 함께 살펴봅니다.
2026-03-19LLM Primer III — 시리즈 소개 및 인덱스
LLM Primer 시리즈 제3권의 챕터별 워크스루를 여는 글입니다. 검색 증강 생성이 밖에서는 단순해 보이지만 안에서는 여러 분야가 겹친 스택임을 짚고, 누구를 위해 이 책을 썼는지, 그리고 3월 18일부터 28일까지 이어질 열한 편의 포스트 일정을 정리합니다.
2026-03-17제11장 — 모델을 더 작게, 더 영리하게
LLM Primer I 시리즈 제11장입니다. 큰 모델을 어떻게 작고 빠르게 만들어 운영의 결에 맞추는가 — 디스틸레이션, 양자화, MoE — 그리고 2026 에디션의 새 절 §11.6 "추론 모델"의 큰 그림을 함께 풀어 봅니다.
2026-02-28