Introduction to LLM
This page provides an easy-to-understand guide on LLMs (Large Language Models) from basics to applications for AI enthusiasts.
제16장 — 안전한 파인튜닝과 적응
파인튜닝된 모델을 물려받는 것이 아니라 획득해야 할 아티팩트로 다루기. 정렬 침식, 소규모 데이터 오염, CI 평가 게이트, 그리고 롤백 규율.
2026-05-25
제5장 — 입력 검증과 출력 필터링
단계적 위생 처리, 방어로서의 구조화된 출력, Llama Guard와 NeMo Guardrails, 그리고 Garak·PyRIT로 안전을 측정하는 방법.
2026-05-14
제4장 — 프롬프트 인젝션과 탈옥
프롬프트 인젝션에 파라미터화된 쿼리 같은 구조적 해결책이 없는 이유. 직접·간접 인젝션, 탈옥 분류학, 그리고 네 층의 완화 아키텍처.
2026-05-13
LLM Primer VII — 시리즈 소개 및 목차
LLM Primer VII: AI 보안의 챕터별 워크스루 소개. 위협 모델부터 규제 경계까지, 시리즈의 마지막 권에서 엔지니어링 아크가 적대자와 만나는 지점을 다룹니다.
2026-05-09
제12장 — 분리 서빙과 쿠버네티스
프리필과 디코드를 별도 GPU 풀로 나누고, 파드가 인터커넥트의 올바른 쪽에 안착하도록 하는 쿠버네티스 프리미티브를 걷는 장.
2026-05-04
제8장 — 차세대 KV 캐시 관리
운영체제의 페이징 통찰을 추론 엔진으로 옮겨 오는 장 — KV 캐시를 예약된 바이트 슬래브에서 공유·축출·프리픽스 캐시가 가능한 자원으로 바꿉니다.
2026-04-30
제2장 — KV 캐시라는 과제
KV 캐시는 산술을 메모리와 맞바꿉니다 — 그리고 그 메모리는 배치, 시퀀스 길이, 레이어 수, 헤드 수, 헤드 차원에 동시에 비례합니다. 그래서 서빙 클러스터는 다른 어떤 자원보다 VRAM이 먼저 떨어집니다.
2026-04-24제14장 — 벤치마킹, 테스트, 성능
LLM Primer IV 워크스루의 열다섯 번째이자 마지막 글입니다. 실제 서버 위의 MCP-Universe 벤치마크, 그것이 드러낸 두 가지 시스템적 실패 모드, 세션당 요청과 공유 세션 풀 사이의 10배 처리량 격차, 그리고 제5권으로의 다리를 살핍니다.
2026-04-12