제2장 — 지능형 문서 파싱

LLM Primer III: RAG로 강화하는 엔터프라이즈 AI를 챕터별로 소개하는 시리즈의 두 번째 글입니다. 검색 시스템은 입력의 품질을 그대로 물려받습니다 — 그리고 입력 층은, 실망스러운 RAG 품질의 가장 흔한 원인이 조용히 살고 있는 자리입니다.

이 장이 존재하는 이유

RAG 파이프라인의 첫 버전은 거의 늘, 주변에 굴러다니던 PDF-텍스트 유틸리티를 그대로 씁니다. 그럴듯한 텍스트가 나오고, 인덱스가 채워지고, 모델은 그럴듯한 답을 만들어 냅니다. 몇 달 뒤 팀은 표가 산문으로 조용히 평평해졌고, 다단 논문이 줄 단위로 엇갈렸으며, 각주가 단락 사이로 끼어들었고, 그림 캡션은 통째로 사라졌음을 알아차립니다. 검색 품질의 천장은, 검색이 설정되기도 전에 이 결정들에 의해 정해져 있었습니다. 이 장은 입력 층을 진지하게 다루는 일에 관한 글입니다. 파서가 버린 것을 하류에서는 누구도 되살릴 수 없기 때문입니다.

2.1 PDF를 평평하게 만들면 무엇이 사라지는가

PDF는 좌표를 가진 글리프들의 목록이고, 선언된 크기의 페이지 위에 그려집니다. 사람이 보는 시각적 구조 — 단, 표, 캡션, 사이드바 — 는 의미론적 형태로 어디에도 저장되어 있지 않습니다. 그것은 렌더링된 이미지에만 존재합니다. 그래서 「PDF에서 텍스트를 추출하라」는 말은 들리는 것보다 어렵습니다. 단순한 추출기는 글리프 스트림을 표시된 순서로 읽는데, 그 순서는 두 단 페이지에서 양 단을 줄 단위로 엇갈리게 만듭니다. 결과로 나오는 것은 문법적으로 어색하고 의미가 깨진 텍스트인데, 그것이 실제 문서의 실제 단어들로 이루어져 있다는 점에서 — 무작위 점검으로 잡아내기가 가장 어려운 종류의 실패입니다.

표는 더 나쁩니다. 3행 4열의 1,427이 의미하는 바는 2024년 3분기와 북동부 지역의 교차점입니다. 단순한 추출기에게 그것은 어느 문자열과도 관계가 없는 숫자입니다 — 그 문자열들은 페이지의 다른 어딘가에 그려져 있었기 때문입니다. 표는 공백으로 구분된 숫자 목록으로 녹아 버리고, 「3분기 북동부 매출」 같은 쿼리는 아무것도 찾아내지 못합니다 — 1,427을 담은 청크가 북동부를 임베딩에서 연결할 만큼 가깝게 담고 있지 않기 때문입니다. 양식도 같은 실패 모드를 갖습니다: 레이블과 값이 분리된 문자열로 나오고, 인덱스에는 필드 이름 없는 값이 담깁니다. 스캔 문서에 OCR이 더해지면 — 검색이 철자에 가장 민감한 자리인 — 전문 용어와 고유명사에 정확히 문자 단위 오류가 얹힙니다.

2.2 레이아웃 인지 파싱: 신호를 다시 살리기

이에 대한 응답이, 문서를 글리프 스트림이 아니라 2차원의 사물로 다루는 도구군입니다. 페이지를 이미지로 렌더링하고, 레이아웃 검출 모델이 영역(단락, 표, 그림, 헤더)으로 분할하며, 문서 레이아웃 휴리스틱으로 읽기 순서를 복원하고, 표는 전용 모델로 행과 열 구조를 HTML, Markdown, 혹은 JSON으로 회수합니다. 출력은 더 이상 평탄한 문자열이 아니라 — 계층을 보존하고, 그림 캡션을 그림에 묶어 두며, 청커가 분할 기준으로 삼을 메타데이터를 노출하는 — 구조화된 표현입니다.

대가는 계산입니다 — 단순 추출의 밀리초 대신 페이지당 1초에서 수 초이며, 백만 페이지 코퍼스에서는 그 차이가 큽니다. 그리고 실패 모드가 바뀝니다. 표를 망친 단순 추출기는 적어도 텍스트는 내놓습니다. 영역을 잘못 식별한 레이아웃 인지 파서는 자신만만하게 틀린 구조화 출력을 내놓을 수 있습니다 — 표로 오인된 그림, 본문으로 검출된 헤더. 팀은 대표적인 복잡 페이지를 미리 점검한 뒤에 파이프라인을 규모에 맞춰 신뢰해야 합니다.

2.3 현재의 도구 지형

이 분야는 알 만한 도구 대여섯 개로 정리되었습니다. LlamaParse는 LlamaIndex의 호스팅 파서이며 — 표와 양식에 강하고, 이미 LlamaIndex 생태계 안에 있고 매니지드 서비스를 받아들일 수 있다면 옳은 기본값입니다. Docling은 IBM의 오픈소스 레이아웃 인지 파서로, 복잡한 표 구조를 TableFormer 모델이 다루고, 데이터가 인프라를 떠날 수 없는 온프레미스 배치의 자연스러운 선택입니다. Unstructured는 폭에 최적화되어 있고 — 다양한 입력 포맷, 형 지정 요소 분할 모델, 일관된 하류 인터페이스 — 이질적인 엔터프라이즈 코퍼스에 가장 안전한 첫 선택입니다. Marker-PDF는 한 가지를 매우 잘 합니다: PDF에서 깔끔한 Markdown으로, 헤딩, 목록, 코드 블록에 특히 신경 써서. Firecrawl은 웹 측 입력 문제를 다룹니다 — URL을 넣으면 잡티가 빠진 Markdown이 나옵니다. DeepSeek-OCR은 2025년 후반에 공개되어, 페이지를 매우 적은 비전 토큰으로 인코딩해 메모리와 계산을 크게 줄이며, 처리량이 예산을 지배할 때 진지한 후보입니다.

실용적인 평가의 모양은 이렇습니다: 코퍼스의 난이도 범위를 아우르는 대표 문서 50건을 골라, 각 도구로 돌리고, 코퍼스에 중요한 차원 — 표 충실도, 다단 읽기 순서, 스캔의 OCR 정확도, 그림 처리, 처리량 — 에서 직접 비교합니다. 승자가 모든 차원에서 최고인 경우는 드뭅니다. 여러분의 코퍼스에 가장 중요한 차원에서, 예산이 받아들일 수 있는 비용으로 가장 좋은 도구가 승자입니다.

2.4 멀티모달 대안

같은 시기에 흘러온 다른 노선은 그 틀짓기 자체를 거부합니다. 비전-언어 모델이 페이지를 보고 그에 관한 질문에 답할 만큼 잘 읽을 수 있다면, 굳이 텍스트로 변환할 이유가 있겠습니까? ColPali나 ColQwen2 같은 늦은-상호작용 멀티모달 리트리버는 ColBERT 아이디어를 이미지로 확장합니다 — 페이지의 패치당 하나의 임베딩을, 쿼리 토큰과 max-similarity 집계로 점수 매깁니다. 리트리버는 텍스트 콘텐츠만으로는 매치되지 않았을 페이지를 표면화합니다 — 관련 정보가 표, 그림, 혹은 텍스트 추출이 망쳤을 레이아웃 안에 있었기 때문에. 비전-언어 모델이 페이지를 직접 읽습니다.

대가는 만만치 않고 구체적으로 짚어 둘 만합니다. 표준 텍스트 청크는 ~1,024차원의 임베딩 하나를 만듭니다 — 몇 킬로바이트. ColPali로 인코딩한 페이지는 ~128차원의 패치 임베딩 약 천 개를 만듭니다 — 페이지당 반 메가바이트. 백만 페이지 인덱스 크기는 기가바이트에서 수백 기가바이트로 커지고, 채점이 더 비싸지며, 생성에는 비전-언어 모델이 필요합니다. 표와 그림이 빽빽한 코퍼스에는 업그레이드가 실제로 값합니다. 산문이 지배적이고 예산이 빠듯한 코퍼스에는, 잘 파싱된 텍스트 검색이 여전히 비용 효율적인 기본값입니다. 하이브리드 구성 — 검색은 ColPali로, 생성은 텍스트 변환으로, 혹은 그 반대 — 이 향후 한 해 동안 대부분의 프로덕션 멀티모달 RAG가 안착할 자리가 될 것입니다.

제2장이 준비하는 것

깨끗한 레이아웃 인지 파싱은 고품질 RAG에 필요조건이지만, 무엇에 대해서도 충분조건은 되지 않습니다. 파싱된 문서는 여전히 문서입니다 — 임베드할 만큼 작고 의미를 가질 만큼 큰 조각으로 쪼개져야 합니다. 파서의 구조적 단서를 무시한 청커는 파서가 애써 보존한 것을 그대로 버립니다. 두 층은 함께 설계되어야 하며, 제3장은 청킹 스펙트럼과 그 셈을 다시 짠 최전선 기법들을 걷습니다.

다음 → 제3장: 고급 청킹 프레임워크. 고정 크기에서 구조 인지까지의 청킹 스펙트럼, 오버랩 미신, 컨텍스트 클리프, 그리고 셈을 바꾼 컨텍스추얼 리트리벌과 레이트 청킹.