Introduction to LLM
This page provides an easy-to-understand guide on LLMs (Large Language Models) from basics to applications for AI enthusiasts.
LLM Primer VII — 시리즈 소개 및 목차
LLM Primer VII: AI 보안의 챕터별 워크스루 소개. 위협 모델부터 규제 경계까지, 시리즈의 마지막 권에서 엔지니어링 아크가 적대자와 만나는 지점을 다룹니다.
2026-05-09
제13장 — 오토스케일링과 콜드 스타트 완화
기본 쿠버네티스 오토스케일러가 LLM 트래픽에서 왜 장애를 만드는지, 그리고 KEDA·Knative·CRIU가 어떻게 그 해법을 구성하는지 설명하는 장.
2026-05-05
제12장 — 분리 서빙과 쿠버네티스
프리필과 디코드를 별도 GPU 풀로 나누고, 파드가 인터커넥트의 올바른 쪽에 안착하도록 하는 쿠버네티스 프리미티브를 걷는 장.
2026-05-04
제8장 — 차세대 KV 캐시 관리
운영체제의 페이징 통찰을 추론 엔진으로 옮겨 오는 장 — KV 캐시를 예약된 바이트 슬래브에서 공유·축출·프리픽스 캐시가 가능한 자원으로 바꿉니다.
2026-04-30
제3장 — 생성 AI를 위한 데이터센터 GPU
서빙용 GPU는 스펙 시트 앞면의 FLOP/s 숫자가 아니라 HBM 대역폭과 VRAM 용량으로 사야 한다는 주장을 하는 장입니다.
2026-04-25
제2장 — KV 캐시라는 과제
KV 캐시는 산술을 메모리와 맞바꿉니다 — 그리고 그 메모리는 배치, 시퀀스 길이, 레이어 수, 헤드 수, 헤드 차원에 동시에 비례합니다. 그래서 서빙 클러스터는 다른 어떤 자원보다 VRAM이 먼저 떨어집니다.
2026-04-24
제1장 — 토큰 생성의 기제
LLM 서빙의 거의 모든 어려운 질문은 한 사실에서 내려옵니다 — 각 토큰을 만드는 루프는 메모리 대역폭에 묶여 있고, 비싼 연산 유닛은 99.7퍼센트의 시간을 놀립니다.
2026-04-23
LLM Primer VI — 시리즈 서문 및 목차
LLM Primer VI — AI 시스템 확장하기의 16개 챕터를 하루 한 편씩 걷는 워크스루의 서문입니다. 메모리 대역폭, 스케줄링, 그리고 청구서가 만나는 지점에서 LLM 추론을 엔지니어링 학문으로 다룹니다.
2026-04-22
제8장 — 성능, 서빙, 비용 최적화
프로덕션 LLM 경제학을 층진 규율로 다루는 장. 가장 저렴한 호출은 결코 이루어지지 않는 호출이고, 아래 각 층은 다음 호출을 저렴하게 만들어 주는 층입니다.
2026-04-21
제7장 — LLM 보안과 가드레일
LLM 애플리케이션이 새로 들여오는 보안 축을 명명하고, 그 위에 네 층의 완화 매트릭스를 세우는 장. 원리는 하나 — 권한은 신뢰 출처와 일치해야 합니다.
2026-04-20
제4장 — AI 에이전트와 도구 호출
언어 모델을 도구를 상대로 루프 도는 행위자로 바꾸는 엔지니어링을 다루는 장. 스키마, 메모리 층, 그리고 다중 에이전트 배선이 데모를 프로덕션 행위자로 만듭니다.
2026-04-17
제1장 — AI 엔지니어링이라는 학문
데모는 잘 돌아가는데 프로덕션 시스템이 무너지는 이유는 모델 문제가 아니라 엔지니어링 문제입니다. 제1장은 확률적 코어 주위를 감싸는 결정적 래퍼를 세우고, 신뢰성·품질·성능·비용·진화라는 다섯 기둥으로 그 학문을 그립니다.
2026-04-14
LLM Primer V — 시리즈 소개 및 목차
LLM Primer V 워크스루 시리즈의 시작. AI 엔지니어링을 프롬프트 트릭이 아니라 하나의 학문 분야로 다루는 제5권을, 8개 장을 따라 하루에 한 편씩 살핍니다.
2026-04-13제14장 — 벤치마킹, 테스트, 성능
LLM Primer IV 워크스루의 열다섯 번째이자 마지막 글입니다. 실제 서버 위의 MCP-Universe 벤치마크, 그것이 드러낸 두 가지 시스템적 실패 모드, 세션당 요청과 공유 세션 풀 사이의 10배 처리량 격차, 그리고 제5권으로의 다리를 살핍니다.
2026-04-12제6장 — RAG 위협 모델과 취약점
LLM Primer III 워크스루의 여섯 번째 글입니다. 순수 LLM은 단 하나의 신뢰 경계를 가졌습니다. RAG 시스템은 여럿을 갖습니다 — 수집, 파서, 청커, 임베더, 인덱스, 리트리버, 리랭커, 생성기, 도구, 출력 — 그리고 각각이 적대자가 빚을 수 있는 입력에 닿아 있습니다.
2026-03-23제3장 — 고급 청킹 프레임워크
LLM Primer III 워크스루의 세 번째 글입니다. 고정 크기에서 구조 인지까지 이어지는 청킹 스펙트럼, 오버랩 미신, 검색을 조용히 무너뜨리는 컨텍스트 클리프, 그리고 최전선의 셈을 다시 짠 컨텍스추얼 리트리벌과 레이트 청킹을 함께 살펴봅니다.
2026-03-20
LLM 입문서 시리즈 — 생성형 AI를 한 권씩 풀어내는 일곱 권의 안내서
LLM Primer 시리즈 — Sho Shimoda의 생성형 AI 필드 가이드, 이제 완결. 기초부터 보안까지 7권 전권. 자매 볼륨 Physical AI도 포함. 7권 모두 Amazon에서 판매 중.
2026-02-15