제8장 — 모델 한 대로는 부족할 때: 도구 사용과 에이전트

LLM Primer I: How Generative AI Works를 챕터별로 소개하는 시리즈의 여덟 번째 글입니다. LLM이 — 모델 한 대로 — 모든 문제를 풀어내지는 않습니다. 그 한계가 어디에서 시작되고, 어떻게 다른 결의 도움을 받게 되는지로 들어갑니다.

모델 한 대로 풀리지 않는 결들

제5장에서 본 결함 — 환각, 시간 인지의 결손, 계산의 약점, 일관성의 흔들림 — 을 다시 떠올려 봅시다. 이 결함을 모델 자체의 결로만 정면 돌파하는 길은, 만만치 않습니다. 그래서 자연스레 따라오는 길이 — 모델을 모델 바깥의 결로 확장하는 — 도구 사용과 에이전트입니다.

한 줄로 풀면 이렇습니다. 모델이 자기 컨텍스트 안의 결 위에서만 다음 토큰을 길어 올린다면 — 그 컨텍스트에 "검색 결과"가, "계산기의 답"이, "지금 시각"이, "데이터베이스의 한 줄"이 — 흘러들 수 있게 해주면 어떨까. 이 작은 결의 옮김이 LLM이 풀어내는 결의 폭을 크게 넓혀 줍니다.

함수 호출 — 가장 단순하고 강력한 결

도구 사용의 가장 단순한 — 그리고 가장 큰 효과를 낸 — 결은 함수 호출입니다. 모델에게 "이런 함수를 부를 수 있다"라는 명세를 컨텍스트에 깔아 두고, 모델이 그 명세를 보고 "이 함수를 이런 인자로 부르고 싶다"는 결의 출력을 만들어내게 합니다. 그 결을 시스템이 가로채 함수를 실제로 부르고 — 그 결과를 다시 모델의 컨텍스트에 흘려 넣어 주면 — 모델은 그 위에서 자기의 답을 길어 올립니다.

이 결로, 검색이 모델에 흘러들 수 있고, 계산이 모델에 흘러들 수 있고, 사용자의 데이터가 모델에 흘러들 수 있게 됩니다. 모델 자체는 그대로지만, 모델이 풀어내는 결의 폭이 — 그 함수의 수만큼 — 넓어집니다.

"에이전트"는 무엇이 다른가

도구 호출이 한 번의 결로 끝나는 결이라면, "에이전트"는 그 결이 — 여러 단계에 걸쳐 자기 자신의 결을 보면서 — 한 단계씩 다듬어 가는 결입니다. 한 줄로 풀면 이렇습니다. 모델이 한 단계를 결정하고 → 그 결과를 자기 컨텍스트에 받아들이고 → 그 위에서 다음 단계를 결정하는 — 이 작은 루프가, 한 과제의 결이 다 풀릴 때까지 반복됩니다.

이 결로 풀어낼 수 있는 과제는, 한 번의 호출로는 풀리지 않는 결의 큰 폭을 갖습니다. "데이터 분석" 한 줄을 받았을 때, 어디서 데이터를 가져오고, 어떻게 정리하고, 어떻게 그릴지를 — 한 단계씩 자기가 결정해 가며 — 풀어 가는 결이 가능해집니다.

§8.6: 2026 에디션의 새 절 — 에이전트 패턴

2026 에디션에서는 §8.6을 — 에이전트 패턴 — 으로 새로 더해 두었습니다. 단지 "에이전트가 무엇인가"의 결을 넘어, 실무에서 자리를 잡은 결의 패턴들을 한 자리에 풀어내려 한 절입니다.

ReAct 패턴. 모델이 "reason(생각하기)"과 "act(행동하기)"를 번갈아 가며 한 단계씩 풀어 가는 결입니다. 모델이 자기 컨텍스트에 "이런 이유로 이 도구를 부르겠다"는 결을 짧게 적은 뒤 도구를 부르고, 그 결과를 받아 다시 "그래서 다음으로 이걸 하겠다"는 결로 이어 갑니다.

플래너-실행자 패턴. 한 모델은 큰 결의 계획을 한 번에 짜고, 다른 모델(또는 같은 모델의 다른 호출)이 그 계획의 한 단계씩을 실행해 가는 결입니다. 큰 결과 작은 결을 — 분업으로 — 나누어 다듬는 길로, 길게 가는 과제에서 결의 일관성을 잡기에 좋습니다.

리플렉션 패턴. 모델이 한 번 자기의 답을 만들어내고, 그 답을 — 자기가 한 번 더 — 들여다본 뒤, 결을 다듬어 다시 답을 만들어내는 결입니다. 단순해 보이지만, 한 번의 호출로 만들어진 답보다 — 결의 깊이가 — 분명히 한 칸 깊어집니다.

에이전트가 풀어내지 못하는 결

장의 후반부에서는 — 에이전트가 만능이 아니라는 정직한 결도 — 짚어 둡니다. 여러 단계에 걸친 결이 만들어지는 만큼, 한 단계의 작은 비틀거림이 그 뒤의 모든 결에 누적되어 갑니다. 한 단계의 도구가 잘못된 결을 돌려주면, 그 위에서 모델이 만들어내는 그 다음의 모든 결도 흔들리기 시작합니다.

그래서 에이전트의 운영은 — 모델의 결만큼이나 — 도구의 결, 도구 결과의 결의 검증, 그리고 단계 사이의 결의 점검에 의지하게 됩니다. 모델 한 대를 잘 굴어가게 하는 일과는, 결이 사뭇 다른 일입니다.

제8장의 한 줄

이 장이 손에 남기는 한 줄은 이렇습니다 — 모델 한 대로 모든 결을 다 풀려 하지 말 것. 모델은 모델이 잘하는 결의 한 자리를 맡고, 다른 도구는 다른 도구가 잘하는 결의 한 자리를 맡는 — 그 결의 분업이, 시스템 전체로서의 결을 가장 든든하게 잡아주는 길이다.

다음 회 — 제9장: RAG — 모델에 "최신의 결"을 흘려보내는 길. 내일은 도구 사용 중에서도 가장 자주 마주치는 결 — 검색 보강 생성(Retrieval-Augmented Generation) — 으로 들어갑니다. 모델의 시간 인지의 결손을, 외부의 결로 어떻게 뒷받침해 줄 수 있는지를 풀어 봅니다.