LLM Primer I ์ฑํฐ๋ณ ์ํฌ์ค๋ฃจ
LLM Primer I: How Generative AI Works๋ฅผ ์ฑํฐ๋ณ๋ก ์๊ฐํ๋ 12ํ ์๋ฆฌ์ฆ, ๊ทธ ์๋ฌธ๊ณผ ์ธ๋ฑ์ค์ ๋๋ค. 2026๋ 2์ 18์ผ๋ถํฐ 3์ 1์ผ๊น์ง, ๋งค์ผ ํ ํธ์ฉ ์ฌ๋ผ๊ฐ๋๋ค.
์ด ์๋ฆฌ์ฆ๋ฅผ ์์ํ ์ด์
ใLLM Primer Iใ์ ์ฐ๋ ์ฆ์, ์์งํ ์ ๋ "์ด๋ฐ ์ฑ ์ด ์์์ผ๋ฉด" ์ถ์ ์ฑ ์ ์ฐพ์ง ๋ชปํด ์ง์ ์ฐ๊ธฐ๋ก ๋ง์๋จน์์ต๋๋ค. ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ด ์ค์ ๋ก ์ด๋ป๊ฒ ์์ง์ด๋์ง๋ฅผ, ๋ฉ์ปค๋์ฆ์ ํ ๋จ๊ณ์ฉ ์ง์ด๊ฐ๋ฉฐ ์ค๋ช ํ๋ฉด์, ์ ๊ณต์๊ฐ ์๋ ๋ ์๋ ๋ฐ๋ผ์ฌ ์ ์๊ณ โ ๋์์ ์์ง๋์ด๊ฐ ์ฝ์ด๋ ๊ฐ๋ณ๊ฒ ํ๋ฆด ์ ์๋ ์ฑ . ๊ทธ๋ฐ ์ฑ ์ด ์ข์ฒ๋ผ ๋ณด์ด์ง ์๋๋ผ๋ ๊ฒ ์์งํ ์ถ๋ฐ์ ์ด์์ต๋๋ค.
LLM ์ ๋ฌธ์๋ ๋์ฒด๋ก ๋ ์ง์ ์ค ํ์ชฝ์ ์ํด ์๋ ๋ฏํฉ๋๋ค. "AI์ ๋ง๋ฒ"์ ์ด์ดํธ๋ ๊ฐ๋ฆฌํค๊ธฐ๋ง ํ ๋ฟ ์์ ์กํ๋ ๋จ์๋ฅผ ๋จ๊ธฐ์ง ์๋ ๋ง์ผํ ํค์ ์ฑ ๋ค, ๊ทธ๋ฆฌ๊ณ ์ฒซ ๋จ๋ฝ๋ถํฐ ํ๋ ฌ ๋์๊ฐ ์์์ ธ ๋ด๋ฆฌ๋ ์ฐ๊ตฌ ๋ ผ๋ฌธ ํค์ ์ฑ ๋ค. ์ ์๋ ์ฝ๊ณ ๋๋ ์์ผ๊ฐ ๊ฑฐ์ ํธ์ด์ง ์๊ณ , ํ์๋ ๊ทธ์ ์์๊ฐ๋ง ๋จ๊ธฐ๊ณ "์ค์ค๋ก ์๊ฐํ๋ ํ"์ ๊ธธ๋ฌ์ฃผ์ง ์์ต๋๋ค.
์ด ์ฑ ์ ๊ทธ ์ฌ์ด์ ๊ธธ์ ๊ฐ๋ ค ํ์ต๋๋ค. ๊ธฐ์ ์ ์ ํ์ฑ์ ์๋ณดํ์ง ์์ผ๋ฉด์๋, ๋๊น์ง ๋ฐ๋ผ ์ฝ์ ์ ์๋ ๋ฌธ์ฅ์ผ๋ก, ์ค์ํ ๊ฐ๋ ์ ํ๋์ฉ ์ ๋ฆฌํด ๋๊ฐ๋ ๊ฒ. 2026๋ ํ์์๋ ๋ณธ๋ฌธ ๊ณณ๊ณณ์ "์ฌ์ด ๋ง๋ก ํ๋ฉด"์ด๋ผ๋ ์งง์ ์นผ๋ผ์ ๋ผ์ ๋ฃ์์ต๋๋ค. ์ํ์ ๋ฐฐ๊ฒฝ์ด ์๋ ์๋ , ๋๊น์ง ์ฝ์ด๋ผ ์ ์๋๋ก ํ๊ธฐ ์ํจ์ ๋๋ค.
์ด 12ํ ์๋ฆฌ์ฆ๋ ๊ทธ ์ฑ ์ ๋งค์ผ ์กฐ๊ธ์ฉ ์๊ฐํด ๋ณด๋ ค๋ ์๋์ ๋๋ค. ๊ฐ ๊ธ์์๋ ํด๋น ์ฑํฐ์ ์ค์ฌ ์์ด๋์ด๋ฅผ ๊บผ๋ด๊ณ , ์ ๊ทธ๋ฐ ๊ตฌ์ฑ์ผ๋ก ์ผ๋์ง๋ฅผ ํจ๊ป ์ ์์ต๋๋ค. ์๋ฆฌ์ฆ๋ง ๋ฐ๋ก ์ฝ์ด๋ "ํ๋์ LLM์ ํ ๋ฐํด ๋๋ ํฌ์ด"๊ฐ ๋๋๋ก ์งฐ๊ณ , ์ฑ ์ ์ฌ์ค์ง ๋ง์ค์ด๋ ๋ถ๊ป๋ ํ๋จ ์ฌ๋ฃ๊ฐ ๋์ด ๋๋ฆฌ๋ฉด ์ข๊ฒ ์ต๋๋ค.
์ด๋ฐ ๋ถ๊ป
์ฑ๋ด์ ๋ง์ง๋ฉด์ "์ด ์์์ ์ ๋ง ๋ฌด์จ ์ผ์ด ์ผ์ด๋๊ณ ์๋ ๊ฑฐ์ง?" ์ถ์๋ ๋ถ. ํ๋กฌํํธ ํ ๋ชจ์์ด ์๋๋ผ LLM ์์ฒด๋ฅผ ์ฐจ๋ถํ ์ดํดํด ๋ณด๊ณ ์ถ์ ์์ง๋์ด. ๋ด๊ฐ ๋ง๋ ๊ฒ ์๋ AI ๋๊ตฌ์ ๋ํด ํ๋จ์ ๋ด๋ ค์ผ ํ๋ ๋งค๋์ ๋ ๊ฒฝ์์ง. ๋ณธ๊ฒฉ์ ์ธ ๊ธฐ์ ๋ถ์ผ์ ์ ๊ตฌ๋ฅผ ์ฐพ๊ณ ์๋ ํ์. ์ด๋ ์๋ฆฌ์์๋ ์์ผ๋ก ๋ค์ด์ฌ ์ ์๋๋ก ์ผ์ต๋๋ค.
ํ์ํ์ง ์์ ๊ฒ๋ค: ์ํ์ ์์, ํ๋ก๊ทธ๋๋ฐ ๊ฒฝํ, ๋จธ์ ๋ฌ๋ ์ฌ์ ์ง์. ๋ณธ๋ฌธ์ ๊ธฐ์ ์ ์ผ๋ก ๋จ๋จํ๊ฒ ์ฐ๋, ๊ทธ ๊ณ์ "์ฌ์ด ๋ง๋ก ํ๋ฉด" ์นผ๋ผ์ด ๋ํํด ์ค๋๋ค. ์ด ์๋ฆฌ์ฆ๋ ๊ทธ์ค์์๋ ๋ ์น๊ทผํ ์ชฝ์ผ๋ก ๋ฌด๊ฒ๋ฅผ ๋ ์๊ฐ์ ๋๋ค.
12๊ฐ์ ์ฑํฐ
์ I๋ถ โ ๊ฐ๋ ๊ณผ ๊ธฐ์ด
์ 1์ฅ โ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ด๋ ๋ฌด์์ธ๊ฐ (2์ 18์ผ) โ "๋๊ท๋ชจ", "์ธ์ด", "๋ชจ๋ธ"์ด ๊ฐ๊ฐ ์ ๋ง๋ก ๊ฐ๋ฆฌํค๋ ๊ฒ. ์ญ์ฌ๋ฅผ ์ง์ผ๋ฉฐ, ํ๋จ์ ํํธ๋ฌ๋จ๋ฆฌ๋ ๋ํ์ ์ธ ์ธ ๊ฐ์ง ์คํด๋ ํจ๊ป ๋ค๋ฃน๋๋ค.
์ 2์ฅ โ ํ๋ฅ , ํ ํฐ, ๊ทธ๋ฆฌ๊ณ ํ ์คํธ (2์ 19์ผ) โ ํ ์คํธ๊ฐ ํ ํฐ์ผ๋ก ๋ฐ๋๋ ๊ณผ์ , ์ธ์ด ๋ชจ๋ธ๋ง์ "ํ๋ฅ ์ ๋ฌธ์ "๋ก ๋ฐ๋ผ๋ณด๋ ๊ด์ , ๊ทธ๋ฆฌ๊ณ ๋ค์ ํ ํฐ ์์ธก ํ๋์์ "๋ชจ๋ ๊ฒ"์ด ์๋ผ๋๋ ์ด์ .
์ 3์ฅ โ ์ธ์ด๋ฅผ ์ํ ๋ด๋ด ๋คํธ์ํฌ (2์ 20์ผ) โ Feedforward๊ฐ ์ธ์ด์ ๋ง์ง ์์๋ ์ด์ , RNN์ด ๋ถ๋ชํ ๋ฒฝ, ๊ทธ๋ฆฌ๊ณ Attention์ด ๊ฒฐ์ ์ ์ผ๋ก ๋ฐ๊ฟ๋์ ๊ฒ.
์ II๋ถ โ LLM์ ์๋ ์๋ฆฌ
์ 4์ฅ โ Transformer ์ํคํ ์ฒ (2์ 21์ผ) โ ํ๋ AI ์์ง์ ๋ด๋ถ. Self-Attention, ์์น ์ธ์ฝ๋ฉ, Encoder/Decoder, ๊ทธ๋ฆฌ๊ณ ์ค์ผ์ผ๋ง ๋ฒ์น.
์ 5์ฅ โ ๋๊ท๋ชจ ๋ชจ๋ธ ํ์ต (2์ 22์ผ) โ ๋ฐ์ดํฐ๋ ์ด๋์์ ์ค๋๊ฐ, ์์ค ํจ์๊ฐ ํ๋ ์ผ, ๋ถ์ฐ ํ์ต์ ์ง์์, ๊ทธ๋ฆฌ๊ณ ํ๋ก ํฐ์ด ๋ชจ๋ธ์ ํ์ต์ด ๋ช ๋ฌ๊ณผ ์์ต ๋ฌ๋ฌ๋ฅผ ์ก์๋จน๋ ์ด์ .
์ 6์ฅ โ ํ์ธํ๋๊ณผ ์ ์ (2์ 23์ผ) โ ํ๋กฌํํธ ์กฐ์ ์์ Instruction Tuning, LoRA๊น์ง. ๊ทธ๋ฆฌ๊ณ RLHF์ ๊ทธ ํ๋์ ํ์ โ ๋ ๊ฒ์ ๋ชจ๋ธ์ "์ธ ๋งํ ์ด์์คํดํธ"๋ก ๋ฐ๊พธ๋ ์ผ๋ผ์ธ๋จผํธ ๊ธฐ๋ฒ๋ค.
์ 7์ฅ โ ๋ค์ ํ ํฐ ์์ธก์ ๋๋จธ (2์ 24์ผ) โ ์๋ฒ ๋ฉ, ์๋งจํฑ ๊ฒ์, RAG, ๊ทธ๋ฆฌ๊ณ ๋ฉํฐ๋ชจ๋ฌ ์ ๋ ฅ์ผ๋ก์ ํ์ฅ.
์ III๋ถ โ ์ค์
์ 8์ฅ โ ์ ํ๋ฆฌ์ผ์ด์ ์์ LLM ์ฐ๊ธฐ (2์ 25์ผ) โ ์ฑ๋ด, ์์ฝ, ์ฝ๋ ์์ฑ, ์ง์ ์ถ์ถ, ํ๊ฐ. ๊ทธ๋ฆฌ๊ณ ๋ชจ๋ธ ์ค์ค๋ก ํด ์ฌ์ฉ ๋ฃจํ๋ฅผ ์ด์ ํ๋ "์์ด์ ํธํ"์ ํ๋ฆ.
์ 9์ฅ โ ์ฑ๋ฅ, ์ค์ผ์ผ, ๋น์ฉ (2์ 26์ผ) โ ๋ชจ๋ธ ํฌ๊ธฐ์ ๋ฅ๋ ฅ, ๋ ์ดํด์์ ์ฒ๋ฆฌ๋์ ํธ๋ ์ด๋์คํ, ์์ํ, ์ฃ์ง ๋ฐฐํฌ, ๊ทธ๋ฆฌ๊ณ "ํ๋ก ํฐ์ด ๋ชจ๋ธ์ด ์์ ๋ฟ๋๋ผ๋ ์ข ์ข ์๋ชป๋ ์ ํ์ด ๋๋" ์ด์ .
์ 10์ฅ โ ์์ ์ฑ, ์ค๋ฆฌ, ์ ๋ขฐ (2์ 27์ผ) โ ํ๊ฐ์ด ๊ตฌ์กฐ์ ์ผ๋ก ์๊ธฐ๋ ์ด์ , ํธํฅ์ด ์ค์ ์ด๋์ ๊น๋ค์ด ์๋์ง, ๋ค์ธต ๊ฐ๋๋ ์ผ์ด ์๋ํ๋ ๋ฐฉ์, ๊ทธ๋ฆฌ๊ณ ๊ธฐ์ ๋ก๋ ๋์ฒดํ ์ ์๋ "๊ฑฐ๋ฒ๋์ค"๋ผ๋ ์ธต์.
์ IV๋ถ โ ์ฒจ๋จ ์ฃผ์
์ 11์ฅ โ ์ต์ฒจ๋จ ์ฐ๊ตฌ (2์ 28์ผ) โ Mixture-of-Experts, ๊ฒ์๊ณผ ๋ฉ๋ชจ๋ฆฌ ๋ฉ์ปค๋์ฆ, ๋ค์ดํฐ๋ธ ๋ฉํฐ๋ชจ๋ฌ, ์ง์ ํ์ต, ๊ทธ๋ฆฌ๊ณ ์ค๋์ ์ถ๋ก ๋ชจ๋ธ์ ๋ณ์ Inference-Time Scaling. 2026๋ ํ์์ ๊ฐ์ฅ ๋ง์ ์ง๋ฉด์ ๋ํ ๋ถ๋ถ์ ๋๋ค.
์ 12์ฅ โ ๋ด LLM ์์คํ ๋ง๋ค๊ธฐ (3์ 1์ผ) โ ๋ง์ง๋ง ์ฅ. ๋ฐ์ดํฐ์ ๊ณผ ๋ผ์ด์ ์ค, ํ์ต ํ์ดํ๋ผ์ธ, ํ๊ฐ ํ๋ ์์ํฌ, ํตํฉ ์คํ, ๊ทธ๋ฆฌ๊ณ ์ฑ๊ณตํ ๋ฐฐํฌ๊ฐ ๊ณต์ ํ๋ ํจํด๋ค.
์ฑ ๊ณผ ์๋ฆฌ์ฆ์ ๊ดํ์ฌ
์ฑ ์ ๋ณด๋ LLM Primer I: How Generative AI Works โ A Clear and Practical Guide to the Foundations of Large Language Models, ์ ์๋ ์๋ชจ๋ค ์ผํค์ด์ ๋๋ค.
LLM Primer ์๋ฆฌ์ฆ์ ์ 1๊ถ์ ํด๋นํฉ๋๋ค. ํ์๊ถ๋ค์ ๊ฐ๊ฐ ๋ค๋ฅธ ์ฃผ์ ๋ฅผ ๊น์ด ํ๊ณ ๋ญ๋๋ค โ Retrieval-Augmented Generation, MCP๋ฅผ ํตํ ์ปจํ ์คํธ ์ค๊ณ, ์ค์ LLM ์ ํ๋ฆฌ์ผ์ด์ ๊ตฌ์ถ, AI ์์คํ ์ ์ค์ผ์ผ, AI ๋ณด์. ๊ฐ ๊ถ์ ๋ ๋ฆฝ์ ์ผ๋ก ์ฝ์ ์ ์์ง๋ง, ํจ๊ป ์ฝ์ผ๋ฉด LLM์ ๋ค๋ฃจ๋ ์์ง๋์ด๋ง์ ์ ์ฒด ๊ทธ๋ฆผ์ด ๋ณด์ ๋๋ค.
ใLLM Primer Iใ์ ์ฝ๊ณ "์ด๋ค ์ฃผ์ ๋ ์ข ๋ ๊น์ด ๋ค์ด๊ฐ ๋ณด๊ณ ์ถ๋ค"๊ณ ๋๋ผ์ จ๋ค๋ฉด, ํ์๊ถ์ด ๊ทธ ๋ค์ ๊ฑธ์์ด ๋์ด ์ค๋๋ค.