Introduction to LLM

This page provides an easy-to-understand guide on LLMs (Large Language Models) from basics to applications for AI enthusiasts.


Total of 24 articles available. | Currently on page 1 of 1.

제15장 — 안전한 AI 조직 구축

기술 통제가 시간과의 접촉을 살아남게 하는 층 — 문화, 레드팀, 벤더 위험 평가, 지속 평가, 그리고 장기적 모델 스튜어드십.

2026-05-24

제7장 — 환각과 신뢰성

환각의 두 메커니즘 — 사실성과 충실성 실패, 신경망의 구조적 과신, 그리고 캘리브레이션·RAG 접지·human-in-the-loop로 이루어지는 신뢰성 엔지니어링.

2026-05-16

제16장 — 프로덕션의 비용 절감 전략

지난달 청구서의 3분의 1이나 절반으로 복리로 쌓이는 서로 독립적인 수의 카탈로그.

2026-05-08

제14장 — 토큰 경제학과 API 가격

제1장의 물리를 청구서의 라인 아이템에 연결하고, 첫 달의 청구서가 왜 팀이 모델링한 것과 닮지 않는 경우가 많은지 설명하는 장.

2026-05-06

제11장 — 플랫폼과 오케스트레이션 계층

플랫폼 선택은 기능이 아니라 어느 운영 모델이 팀의 기존 운영 문화에 맞는가의 문제라고 주장하는 장.

2026-05-03

제9장 — 투기적 디코딩

자기회귀의 순차 병목에 수학적 허점이 있다는 것, 그리고 언제 그 허점이 이득이 되는지의 산수를 보여 주는 장.

2026-05-01

제5장 — 양자화의 정체를 풀다

70B 모델은 4비트 양자화에서도 살아남는데 1B 모델은 그렇지 못한 이유, 그리고 레시피를 고르는 법.

2026-04-27

제2장 — 파운데이션 모델과 프롬프트 엔지니어링

프롬프트 엔지니어링을 예술이 아니라 엔지니어링으로 다루는 장. 모델 선택, 샘플링 파라미터, 방어적 프롬프트 해부학, 그리고 스키마를 강제하는 구조화 출력 — 네 개의 제어 표면.

2026-04-15

제14장 — 벤치마킹, 테스트, 성능

LLM Primer IV 워크스루의 열다섯 번째이자 마지막 글입니다. 실제 서버 위의 MCP-Universe 벤치마크, 그것이 드러낸 두 가지 시스템적 실패 모드, 세션당 요청과 공유 세션 풀 사이의 10배 처리량 격차, 그리고 제5권으로의 다리를 살핍니다.

2026-04-12

제10장 — 장기 호라이즌 작업 메모리

LLM Primer IV 워크스루의 열 번째 글입니다. 윈도와 ReAct 스크래치패드를 통한 단기 메모리, 일화적 벡터와 의미적 저장소를 통한 장기 메모리, 그리고 에이전트가 시간과 일을 가로질러 생산적으로 유지되게 하는 압축 기법을 살핍니다.

2026-04-08

제9장 — 주의력 예산 관리

LLM Primer IV 워크스루의 아홉 번째 글입니다. 컨텍스트 부패, 가운데에서 잃어버린 절벽, 도구 로드아웃 부패, 그리고 모델의 빠진 지식이 실제로 어디에 속하는지에 대한 세 가지 아키텍처적 답 — MCP, RAG, 파인튜닝 — 을 살핍니다.

2026-04-07

제6장 — 기초 오케스트레이션 전략

LLM Primer IV 워크스루의 여섯 번째 글입니다. 두 기초 오케스트레이션 모양 — 순차 파이프라인과 동시 산-수집 — 과 모든 팀이 먼저 물어야 할 선행 질문을 살핍니다. 다중 에이전트 시스템이 정말 알맞은 답인가?

2026-04-04

제4장 — 클라이언트 프리미티브: 에이전트형 행동과 제어

LLM Primer IV 워크스루의 네 번째 글입니다. 샘플링, 루트, 일리시테이션은 MCP가 호스트-서버 벽에 뚫는 세 개의 작고 제어된 구멍입니다 — 각각 호스트가 서버에 빌려주는 능력이며, 각각 사용자를 대신해 받아들이는 위험입니다.

2026-04-02

제11장 — 지속적 업데이트와 파이프라인 최적화

LLM Primer III 워크스루의 열한 번째이자 마지막 글입니다. 파이프라인은 끝나지 않습니다 — 문서가 바뀌고, 쿼리가 옮겨 가며, 모델이 교체됩니다 — 그리고 그것을 소유한 팀은 세 시간 척도를 한꺼번에 생각하는 법을 배웁니다.

2026-03-28

제10장 — 주요 평가 프레임워크

LLM Primer III 워크스루의 열 번째 글입니다. 평가 트라이어드에 도구 모음이 붙은 자리 — 두 진영의 여덟 프레임워크 — 그리고 그중 누구도 아직 풀지 못한 부분에 대한 한 차례 정직한 인정.

2026-03-27

제7장 — 접근 제어 구현

LLM Primer III 워크스루의 일곱 번째 글입니다. 문서 수준 ACL을 토대로, Microsoft Purview 민감도 레이블과 함께 가는 RBAC, Zanzibar와 SpiceDB로 가는 ReBAC, 그리고 그 모두 아래에서 도는 사전 필터와 사후 필터의 규율을 함께 살펴봅니다.

2026-03-24

제3장 — 고급 청킹 프레임워크

LLM Primer III 워크스루의 세 번째 글입니다. 고정 크기에서 구조 인지까지 이어지는 청킹 스펙트럼, 오버랩 미신, 검색을 조용히 무너뜨리는 컨텍스트 클리프, 그리고 최전선의 셈을 다시 짠 컨텍스추얼 리트리벌과 레이트 청킹을 함께 살펴봅니다.

2026-03-20

제1장 — RAG 아키텍처의 진화

LLM Primer III 워크스루의 첫 번째 글입니다. RAG의 네 가지 아키텍처 자세 — 나이브, 어드밴스드, 모듈러, 에이전틱 — 를 한 결정씩 LLM에게 권한을 더 넘겨주는 이야기로 읽고, 검색보다 파인튜닝이 더 나은 도구가 되는 자리를 솔직하게 짚습니다.

2026-03-18

제11장 — 평가, 보정, 추론

LLM Primer II 시리즈 제11장입니다. 무엇이든 말할 수 있는 기계를 도대체 어떻게 잰단 말인가 — 그리고 "확신에 찬 모델은 거의 늘 보정이 나쁜 모델이라는 사실"을 마주하게 되는 자리. 퍼플렉시티, 보정, 벤치마크의 오차 막대, 환각의 수학을 함께 풀어 봅니다.

2026-03-13

제10장 — 멀티모달: 텍스트를 넘어선 입력

LLM Primer I 시리즈 제10장입니다. 같은 트랜스포머가 어떻게 이미지와 오디오까지 받아들이게 되었는지 — 비전 트랜스포머와 오디오 토큰화의 메커니즘을 풀어내고, "한 모델이 모든 입력을 다 본다"는 그림의 한계와 강점을 정직하게 짚어 봅니다.

2026-02-27

제9장 — RAG: 모델에 최신의 결을 흘려보내는 길

LLM Primer I 시리즈 제9장입니다. 검색 보강 생성(RAG)이 정확히 무엇이고, 모델의 시간 인지의 결손과 사실 정확성의 결을 어떻게 뒷받침해 주는지 — 그리고 좋은 RAG와 나쁜 RAG의 갈림은 어디서 시작되는지를 풀어 봅니다.

2026-02-26

제5장 — 그래도 작은 결함이 남아 있다

LLM Primer I 시리즈 제5장입니다. 잘 학습된 LLM도 여전히 갖고 있는 결함 — 환각, 시간 감각의 결손, 계산의 약점, 출력의 일관성 흔들림 — 의 정체를 들여다보고, 그것이 왜 "버그"가 아니라 같은 메커니즘에서 함께 나오는 "특성"인지를 풀어 봅니다.

2026-02-22

제4장 — 모델은 어떻게 학습되는가

LLM Primer I 시리즈 제4장입니다. 사전학습이 학습 결과를 형성하는 큰 무대인 이유, 파인튜닝이 모델 인격을 조각해 가는 정밀 작업인 이유, 그리고 RLHF가 단순한 "다음 토큰 예측기"를 매일 우리가 신뢰하는 그 어시스턴트로 만들어주는 방식을 풀어 봅니다.

2026-02-21

제2장 — 확률, 토큰, 그리고 텍스트

LLM Primer I 시리즈 제2장입니다. 토큰이 단어와 어떻게 다른지, 모델이 매번 만들어내는 "다음 토큰 후보들의 확률 분포"가 정확히 무엇인지, 그리고 같은 모델이 따분한 글과 창의적인 글을 같이 쓸 수 있게 해주는 샘플링 노브 — temperature와 top-p — 의 정체를 풀어냅니다.

2026-02-19