제5장 — LLM 애플리케이션 평가하기

LLM Primer V: 실전 LLM 애플리케이션 구축을 챕터별로 따라가는 워크스루의 다섯 번째 글입니다. LLM 출력에 대해서는 assertEqual이 죽었음을 인정하고, 앵커된 판정자, RAG 트라이어드, 궤적 테스트를 중심으로 테스트 규율을 다시 세우는 장입니다.

이 장이 존재하는 이유

고전적 소프트웨어 테스트는 올바른 출력이 특정한 출력이라는 가정 위에 서 있습니다 — 함수가 42를 반환하고, 문자열이 「Hello, world」와 같고, JSON이 픽스처와 일치한다는 것. LLM 시스템은 의미는 같지만 글자는 다른 재구성된 표현을 만들어 내고, 50년 동안 소프트웨어 테스트를 지탱해 온 정확 일치 단언은 첫 번째 재생성에서 무너집니다. 팀은 이어서 BLEU, ROUGE, 임베딩 코사인 유사도로 손을 뻗고, 이런 지표들이 정말로 중요한 것들 — 답이 맞는가, 근거가 있는가, 질문에 답하고 있는가 — 에 대해 사람 판단과 약하게만 상관된다는 사실을 발견합니다. 제5장은 실제로 통하는 것을 중심으로 테스트 규율을 다시 세웁니다. 앵커된 LLM-as-a-judge 루브릭, RAG 트라이어드, 에이전트 궤적 테스트, 그리고 프로덕션 트레이스가 다음 배포를 게이팅하는 평가 세트로 흘러 들어가는 지속 루프.

5.1 평가 격차와 LLM-as-a-judge

평가 격차란, 고전적 테스트가 측정할 수 있는 것과 LLM 출력이 실제로 측정되어야 하는 것 사이의 거리입니다. 정확 일치 및 참조 문자열 기반 지표는 재구성된 표현이 잦은 과제에서 흥미로운 실패를 하나도 잡지 못합니다. LLM-as-a-judge는 그 격차를 닫는 주력이며, 파티 트릭과 구분해 주는 두 가지 규율이 있습니다. 첫째, 판정자의 루브릭은 앵커됩니다. 각 점수 값에는 서면 정의가, 가능하면 예시와 함께 붙어 있어, 판정자가 숫자를 자유 연상하지 않도록 합니다. 둘째, 판정자는 점수보다 먼저 근거를 만들어 냅니다. 근거를 써 내야 하는 판정자는 더 일관되게 점수를 매기는 판정자이기 때문입니다. 프로그램적 검사는 결정론적으로 검증 가능한 것을 판정자와 상보합니다 — JSON이 파싱되는지, 필수 필드가 있는지, 금지 문자열이 없는지, 응답 길이가 경계 안인지. 판정자는 만능이 아닙니다. 결정론적 검사가 덮지 못하는 영역을 덮는 것입니다.

5.2 RAG 트라이어드 — 컨텍스트, 근거성, 답변 관련도

검색 시스템에는 세 꼭짓점을 독립적으로 채점하는 패턴이 자리 잡았습니다. 컨텍스트 관련도(Context relevance)는 검색된 청크가 질의에 실제로 관련이 있는지를 묻고, 검색 실패를 생성 실패로부터 분리합니다. 근거성(Groundedness)은 생성된 답이 검색된 컨텍스트로부터 따라 나오는지를 묻고, 모양 검증을 통과하는 환각을 잡습니다. 답변 관련도(Answer relevance)는 답이 사용자가 실제로 물은 질문에 답하는지를 묻습니다. 독립적으로 채점되어, 세 꼭짓점은 실패를 국소화합니다. 낮은 컨텍스트 관련도 점수는 검색을, 낮은 근거성 점수는 생성기를, 낮은 답변 관련도 점수는 라우터 또는 인접 질문에 답하고 있는 시스템을 가리킵니다. RAGAS는 이 트라이어드를 배치 파이프라인으로 운영합니다. 점수의 품질은 판정 모델의 품질이 지배하므로, 판정자 자체가 팀이 평가하는 하나의 구성 요소입니다.

5.3 프레임워크 니치와 에이전트 회귀

세 프레임워크가 뚜렷한 니치를 차지하고 있습니다. RAGAS는 질문-답변 쌍의 데이터셋에 대해 RAG 트라이어드를 배치로 돌리며, 주기적인 데이터셋 평가에 알맞은 도구입니다. TruLens는 라이브 프로덕션 트래픽에 피드백 함수를 붙이고 트레이스 자체에서 트라이어드를 계산하며, 프로덕션과 평가 사이의 루프를 닫습니다. DeepEval은 pytest가 단위 테스트를 돌리듯 LLM 테스트를 CI 게이트로 돌리며, 지표별 임곗값을 둡니다. 에이전트는 이 모든 것을 세 방향으로 확장합니다. 궤적 스냅샷 테스트는 고정된 입력에 대해 도구 호출 시퀀스의 모양을 단언하고, 구조적 표류를 잡습니다. 불변 단언은 에이전트가 금지된 도구를 부르지 않았는지, 필수 승인 단계를 건너뛰지 않았는지를 확인합니다. 루브릭 테스트는 궤적 자체가 합리적인 경로였는지 채점합니다. 잘못된 방식으로 옳은 답을 내는 에이전트는, 다음 번 프롬프트 수정 한 번이면 같은 방식으로 잘못된 답을 내는 상태와 프롬프트 하나 거리에 있습니다. 그 회귀를 잡는 규율이 궤적 테스트입니다.

제5장이 준비하는 것

평가에는 표본을 뽑을 프로덕션 트레이스가 필요합니다. CI 게이트는 지킬 실제 회귀가 있어야 합니다. 지속적 개선 루프는, 매 호출의 매 단계 — 모델 호출, 도구 호출, 검색 결과, 하위 에이전트 홉, 비용, 지연, 사용자 피드백 — 를 붙드는 관측성 층이 있을 때에만 굴러갑니다. 제6장이 그 층입니다. OpenTelemetry와 GenAI 시맨틱 규약, 실제로 LLM 시스템에 중요한 지표, 플랫폼 선택, 그리고 — 무엇보다 — 낮은 점수를 받은 트레이스를 다음 배포를 게이팅하는 평가 세트로 되돌려 보내는 익스포트 파이프라인을 걷습니다.

다음 → 제6장: AI 관측성과 트레이싱. 평가와 디버깅 모두를 가능하게 하는 기반 — 호출당 하나의 중첩 트레이스에 비용과 품질을 1급 속성으로 붙인 그것.