LLM Primer III — RAG로 강화하는 엔터프라이즈 AI: 시리즈 소개 및 인덱스

「베이스 모델은 똑똑하지만 출처를 댈 수 없다. RAG는 그 모델을 신선하면서 인용 가능하게 만드는 아키텍처다.」 LLM Primer 시리즈의 제3권, 그리고 이 책을 따라가는 워크스루에 오신 것을 환영합니다. 앞으로 열하루 동안, 한 챕터에 한 편씩, 검색 증강 생성 스택을 펼쳐 놓고 — 엔터프라이즈 RAG 시스템이 조용히 잘 동작하느냐 조용히 무너지느냐를 가르는 결정들을 함께 들여다봅니다.

이 책이 존재하는 이유

시리즈의 제1권과 제2권이 모델을 다뤘다면, 제1권은 LLM이 무엇이고 그 주변에 어떤 시스템이 세워지는지를 평이한 언어로 풀었고, 제2권은 그 아래 깔린 수학을 열어 보였습니다. 제3권은 모델을 일하게 만들려고 할 때 그 둘레에 무엇이 둘러서야 하는지를 다룹니다 — 끊임없이 바뀌는 문서, 출처가 따라붙어야 하는 지식, 선택의 여지가 없는 접근 제어가 있는 자리에서 말입니다.

RAG는 밖에서 보면 단순합니다. 슬라이드 위 세 개의 박스 — 임베드, 검색, 생성. 한 번이라도 프로덕션에 실어 본 분이라면, 박스 하나하나가 각자의 분야이고, 동작하는 데모와 법무팀이 신뢰할 수 있는 시스템 사이의 간격은 데모에서는 결코 드러나지 않는 문제들과 마주한 수개월의 엔지니어링으로 측정된다는 사실을 압니다. 파서는 표를 조용히 평평하게 만들어 버립니다. 청커는 정의에서 단서를 잘라 냅니다. 벡터 데이터베이스의 필터 푸시다운은 벤치마크가 시사한 것보다 약합니다. 리트리버는 의미 없는 임베딩의 자신만만한 이웃을 돌려줍니다. 평가 하니스는 환각 위에 초록색 대시보드를 띄웁니다.

이 책은 그 스택을 정직하게, 한 층씩 걷습니다. 각 장은 박스 하나의 뒤에 깔린 분야 — 진지한 팀이 그 층을 프로덕션에 올리기 위해 답해야 하는 질문들 — 입니다. 약속드리는 것은 「하나의 옳은 아키텍처가 있다」가 아닙니다. 약속드리는 것은, 책을 덮을 때쯤이면 여러분의 코퍼스, 여러분의 팀, 여러분의 규제 경계선에 맞는 아키텍처가 무엇인지, 그리고 각 축에서 어떤 비용을 치르고 있는지 알게 된다는 점입니다.

누구를 위한 책인가

RAG 시스템을 만드는 엔지니어, 그 범위를 잡는 기술 PM, 보안 리뷰 자리에서 선택을 변호해야 하는 아키텍트. 책은 LLM이 어떻게 동작하는지에 대해 제1권의 그림이 익숙한 독자를 가정합니다. 제2권의 수학은 가정하지 않습니다. 수학이 필요할 때는 유도로 갈아내야 할 식이 아니라 직관으로 등장합니다. 무게중심은 엔지니어링입니다 — 어디에 실패 모드가 살고 있는지, 어떤 결정이 되돌릴 수 있고 어떤 결정이 팀을 수년간 묶어 두는지.

읽는 법

초기 독자들에게 통했던 세 가지 방식. 처음부터 끝까지, 엔터프라이즈 RAG 시스템을 막 만들기 시작하려 하고 결정이 실제로 도착하는 순서대로 스택을 보고 싶을 때. 레퍼런스로, 이미 돌아가는 시스템이 있고 특정 층이 아플 때 — 파싱 장, 청킹 장, 평가 장은 각각 독립적으로 읽을 수 있습니다. 또는 아키텍처 리뷰의 사이드바로, 장 하나가 벤더를 결정하기 전 팀이 나눠야 할 대화의 프롬프트가 되어 줄 때.

11개 장으로 걷는 길

3월 18일 — 제1장: RAG 아키텍처의 진화. 네 가지 아키텍처 자세 — 나이브, 어드밴스드, 모듈러, 에이전틱 — 그리고 검색보다 파인튜닝이 더 나은 답이 될 때.

3월 19일 — 제2장: 지능형 문서 파싱. PDF를 평평하게 만들면 무엇이 사라지는지, 레이아웃 인지 파서가 그 신호를 어떻게 다시 살리는지, 그리고 모델이 페이지를 직접 읽는 멀티모달 트랙.

3월 20일 — 제3장: 고급 청킹 프레임워크. 청킹 스펙트럼, 오버랩 미신, 컨텍스트 클리프, 그리고 셈을 다시 짠 두 가지 최전선 기법 — 컨텍스추얼 리트리벌과 레이트 청킹.

3월 21일 — 제4장: 올바른 벡터 데이터베이스 선택. 목적별 설계와 확장 아키텍처, 매니지드의 선두 주자들, 오픈소스의 진영, 그리고 실제 선택을 가르는 세 축 — 데이터 거주성, 운영, 비용.

3월 22일 — 제5장: 검색 파이프라인 설계. 하이브리드 검색, RRF, 크로스 인코더 리랭킹, 그리고 사용자가 묻는 방식과 문서가 답하는 방식을 잇는 쿼리 이해 층.

3월 23일 — 제6장: RAG 위협 모델과 취약점. 프롬프트 주입, 검색 콘텐츠를 통한 간접 주입, 데이터 유출 경로, 그리고 실제로 방어해야 할 위협 모델.

3월 24일 — 제7장: 접근 제어 구현. 문서별 권한, 인덱스 수준의 행 수준 보안, 검색 호출을 통한 신원 전파, 그리고 감사에서 살아남는 패턴들.

3월 25일 — 제8장: RAG 파이프라인의 데이터 비식별화. 수집 시점의 PII 탐지, 마스킹할 올바른 지점, 학습 데이터와 검색 코퍼스 간의 비대칭, 그리고 잔여 위험의 그림.

3월 26일 — 제9장: RAG 평가 트라이어드. 컨텍스트 적합도, 답변 충실도, 답변 적합도 — 회귀가 어디에서 왔는지를 위치 특정하는 세 측정.

3월 27일 — 제10장: 주요 평가 프레임워크. RAGAS, TruLens, DeepEval, 그리고 트라이어드를 CI에서 실제로 굴리는 방법이라는 실용적 질문.

3월 28일 — 제11장: 지속적 업데이트와 파이프라인 최적화. 증분 인덱싱, 드리프트 탐지, 재인덱싱 전략, 그리고 출시 후 RAG 시스템이 조용히 퇴화하지 않도록 지켜 주는 운영 규율.

이 책과 시리즈에 관하여

LLM Primer 시리즈는 엔지니어, 창업자, 그리고 가끔은 규제 당국이 제게 거듭 물어 오던 질문에 대한 긴 답입니다 — 「이 시스템들은 실제로 어떻게 동작하며, 부하 아래 견디는 한 대를 만들려면 무엇이 필요합니까?」 제1권은 그 모양을 보였고, 제2권은 그 수학을 열었으며, 제3권은 프로덕션 아키텍처를 다룹니다. 작업 중인 제4권은 MCP와 모델 위에 자리잡는 인지 층으로 옮겨 갑니다.

내일 제1장에서 다시 뵙겠습니다.