LLM Primer V — 시리즈 소개 및 목차

LLM Primer V: 실전 LLM 애플리케이션 구축을 챕터별로 따라가는 워크스루입니다. 이 책은 AI 엔지니어링을 프롬프트 트릭이 아니라 하나의 독립된 학문 분야로 다루는 권입니다.

이 시리즈가 존재하는 이유

응용 AI 작업에는 되풀이되는 패턴이 있습니다. 팀이 주말 동안 데모를 만들고, 데모가 감탄을 자아내고, 파일럿이 승인되고, 여섯 달 뒤에는 그 파일럿이 팀이 「하드닝(hardening)」이라 부르고 속으로는 「모델이 우리가 예상하지 못한 일을 계속 하는 단계」라 부르는 국면에 갇혀 있습니다. 모델은 아무것도 변하지 않았습니다. 변한 것은 작업이 위치한 영역입니다. 소수의 정제된 입력이 그럴싸한 출력을 만들어 내던 영역에서, 수천 명의 실제 사용자, 적대적 콘텐츠, 비용 라인, 지연 예산이 조건을 좌우하는 영역으로 넘어간 것입니다. 제5권은 그 두 번째 영역에 사는 학문에 관한 책입니다. 모델을 학습시키는 책이 아니고, 프롬프트 요령집도 아닙니다. 모델을 사업이 운영할 수 있는 시스템으로 바꾸는 엔지니어링에 관한 책입니다.

이 책은 누구를 위한 것인가

동작하는 프로토타입을 이미 출시했고, 이제 그것을 유지하라는 요구를 받고 있는 애플리케이션 엔지니어. 새로운 LLM 기능이 그로 인한 운영 부담을 감당할 가치가 있는지 판단해야 하는 테크 리드. 지연·비용·품질 사이에서 자기 팀이 어떤 트레이드오프를 지고 있는지 이해하고 싶은 AI 팀의 프로덕트 매니저. 이 책은 독자가 LLM API를 써 본 적이 있고 어떤 프레임워크의 문서를 프롬프트 템플릿이 무엇인지 알 정도로 읽어 봤다고 가정합니다. 특정한 ML 연구 배경은 가정하지 않습니다. 프로덕션에서 중요한 것은 엔지니어링 메커니즘이고, 책은 그 언어에 머뭅니다.

읽는 순서

장들은 하나의 스택으로 배치되어 있습니다. 제1장이 틀을 잡습니다 — 확률적 코어 주위를 감싸는 결정적 래퍼 — 그리고 나머지 장은 그 래퍼의 각 층을 채워 갑니다. 제2장부터 제4장까지는 모델, 검색, 에이전트를 차례로 걷고, 제5장과 제6장은 시스템이 안전하게 진화하게 해 주는 평가와 관측성 레일을 얹으며, 제7장과 제8장은 보안과 서빙 경제학으로 마무리합니다. 처음부터 끝까지 읽어도 좋고, 지금 여러분 시스템이 보이는 실패 모드에 해당하는 장으로 곧장 뛰어들어도 좋습니다. 각 장의 워크스루 글은 세 가지 핵심 아이디어를 응축하고 원전을 가리킵니다.

여덟 장의 산책

워크스루는 한 장에 한 편씩, 하루 간격으로 공개됩니다.

• 4월 14일 — 제1장 — AI 엔지니어링이라는 학문. 데모와 프로덕션 사이의 신뢰성 격차, 그리고 그 틈을 메우는 다섯 기둥.
• 4월 15일 — 제2장 — 파운데이션 모델과 프롬프트 엔지니어링. 모델 티어링, 샘플링 파라미터, 방어적 프롬프트, 그리고 엔지니어링 표면으로서의 구조화 출력.
• 4월 16일 — 제3장 — 검색 증강 생성. 청킹, 하이브리드 검색, 쿼리 변환, 멀티모달, 그리고 text-to-SQL까지 RAG 파이프라인을 끝에서 끝까지.
• 4월 17일 — 제4장 — AI 에이전트와 도구 호출. ReAct 루프, 계약으로서의 도구 스키마, 그리고 에이전트가 실제로 필요로 하는 세 층의 메모리.
• 4월 18일 — 제5장 — LLM 애플리케이션 평가하기. LLM-as-judge, RAG 트라이어드, 그리고 에이전트를 위한 궤적 테스트.
• 4월 19일 — 제6장 — AI 관측성과 트레이싱. OpenTelemetry GenAI 규약, 정말로 중요한 메트릭, 그리고 평가로 되돌아가는 루프.
• 4월 20일 — 제7장 — LLM 보안과 가드레일. OWASP Top 10, 직접 대 간접 인젝션, 그리고 네 층의 완화 매트릭스.
• 4월 21일 — 제8장 — 성능, 서빙, 비용 최적화. 의미론적 캐싱, 동적 라우팅, 그리고 추론 서버 안에서 실제로 일어나는 일.

이 책과 시리즈에 대하여

LLM Primer는 언어 모델을 마법이 아니라 엔지니어링으로 다루는 일곱 권짜리 시리즈입니다. 제5권은 다섯 번째 권입니다. 하우스 스타일은 담담하고 메커니즘 중심입니다. 모든 장은 자신이 닫으려는 실패 모드를 명명하고, 그것을 닫는 메커니즘을 걸어가며, 그 메커니즘이 사는 코드를 보여 줍니다. AI를 받아들이라는 권유는 없습니다. 독자는 이미 그 결정을 내렸다고 가정되며, 이 책은 그것을 잘 해내는 일에 관한 책입니다. 이후의 권들은 스케일링(제6권)과, 규제 환경 배포가 마주하는 더 까다로운 보안·거버넌스 질문(제7권)을 더 깊이 파고듭니다.