Introduction to LLM

This page provides an easy-to-understand guide on LLMs (Large Language Models) from basics to applications for AI enthusiasts.


Total of 16 articles available. | Currently on page 1 of 1.

제15장 — 안전한 AI 조직 구축

기술 통제가 시간과의 접촉을 살아남게 하는 층 — 문화, 레드팀, 벤더 위험 평가, 지속 평가, 그리고 장기적 모델 스튜어드십.

2026-05-24

제12장 — 접근 제어와 신원

OAuth·mTLS·RBAC·ABAC의 LLM 이식, 멀티테넌트 격리의 세 접근, 그리고 SAML·SCIM·감사 로그가 만드는 엔터프라이즈 거버넌스 오버레이.

2026-05-21

제11장 — 관측 가능성, 로깅, 사건 대응

확률적 시스템에서 로깅해야 할 것, 시그니처·통계·행동 신호를 조합한 탐지, 그리고 재현 가능성을 확보하는 NIST 800-61 형태의 사건 대응.

2026-05-20

제15장 — 서버리스 API 대 전용 인프라

손익분기 산수를 테이블에 올리고, 대부분의 팀에게 답을 뒤집는 플랫폼 엔지니어링 라인 아이템에 이름을 붙이는 장.

2026-05-07

제13장 — 오토스케일링과 콜드 스타트 완화

기본 쿠버네티스 오토스케일러가 LLM 트래픽에서 왜 장애를 만드는지, 그리고 KEDA·Knative·CRIU가 어떻게 그 해법을 구성하는지 설명하는 장.

2026-05-05

제12장 — 분리 서빙과 쿠버네티스

프리필과 디코드를 별도 GPU 풀로 나누고, 파드가 인터커넥트의 올바른 쪽에 안착하도록 하는 쿠버네티스 프리미티브를 걷는 장.

2026-05-04

제9장 — 투기적 디코딩

자기회귀의 순차 병목에 수학적 허점이 있다는 것, 그리고 언제 그 허점이 이득이 되는지의 산수를 보여 주는 장.

2026-05-01

LLM Primer VI — 시리즈 서문 및 목차

LLM Primer VI — AI 시스템 확장하기의 16개 챕터를 하루 한 편씩 걷는 워크스루의 서문입니다. 메모리 대역폭, 스케줄링, 그리고 청구서가 만나는 지점에서 LLM 추론을 엔지니어링 학문으로 다룹니다.

2026-04-22

제8장 — 성능, 서빙, 비용 최적화

프로덕션 LLM 경제학을 층진 규율로 다루는 장. 가장 저렴한 호출은 결코 이루어지지 않는 호출이고, 아래 각 층은 다음 호출을 저렴하게 만들어 주는 층입니다.

2026-04-21

제7장 — LLM 보안과 가드레일

LLM 애플리케이션이 새로 들여오는 보안 축을 명명하고, 그 위에 네 층의 완화 매트릭스를 세우는 장. 원리는 하나 — 권한은 신뢰 출처와 일치해야 합니다.

2026-04-20

제6장 — AI 관측성과 트레이싱

사용자 질의를 요청 로그가 아니라 인과 트리로 다루고, 그 트리가 읽히기 위해 무엇이 트레이스되어야 하는지 보이는 장.

2026-04-19

제8장 — 아키텍처 배포 레이아웃

LLM Primer IV 워크스루의 여덟 번째 글입니다. MCP 생태계에서 떠오른 세 가지 배포 레이아웃 — 재사용 가능한 에이전트, 엄격한 순수성, 하이브리드 — 과 어느 것이 어느 프로젝트에 맞는지 결정하는 네 가지 묶이는 제약을 살핍니다.

2026-04-06

제4장 — 클라이언트 프리미티브: 에이전트형 행동과 제어

LLM Primer IV 워크스루의 네 번째 글입니다. 샘플링, 루트, 일리시테이션은 MCP가 호스트-서버 벽에 뚫는 세 개의 작고 제어된 구멍입니다 — 각각 호스트가 서버에 빌려주는 능력이며, 각각 사용자를 대신해 받아들이는 위험입니다.

2026-04-02

제2장 — Model Context Protocol(MCP)의 베일 벗기

LLM Primer IV 워크스루의 두 번째 글입니다. MCP가 실제로 무엇을 표준화하는지, Host·Client·Server의 세 역할 분할, 중요한 경우에 동적 발견과 양방향 메시징이 REST와 어떻게 다른지, 그리고 능력 협상으로 열리는 세션 라이프사이클을 봅니다.

2026-03-31

제1장 — AI 통합 위기와 에이전트형 아키텍처의 부상

LLM Primer IV 워크스루의 첫 번째 글입니다. 시스템 프롬프트가 자라며 모놀리식 에이전트가 닳아 가는 과정, 그 밑에 숨은 N 곱하기 M 통합 문제, 그리고 MCP가 가능하게 하기 위해 만들어진 프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로의 이행을 살핍니다.

2026-03-30

제2장 — 지능형 문서 파싱

LLM Primer III 워크스루의 두 번째 글입니다. PDF가 텍스트 파일이 아닌 이유, 레이아웃 인지 파서가 실제로 보존하는 것, 현재 도구 지형(LlamaParse, Docling, Unstructured, Marker-PDF, Firecrawl, DeepSeek-OCR), 그리고 페이지 이미지 위에서 직접 검색하는 멀티모달 트랙을 함께 살펴봅니다.

2026-03-19