LLM 입문서 시리즈 — 생성형 AI를 한 권씩 풀어내는 일곱 권의 안내서

LLM Primer 시리즈 — Sho Shimoda의 생성형 AI 필드 가이드, 이제 완결. 기초부터 보안까지 7권 전권. 자매 볼륨 Physical AI도 포함. 7권 모두 Amazon에서 판매 중.


LLM 입문서 시리즈 — 생성형 AI를 한 권씩 풀어내는 일곱 권의 안내서

LLM ์ž…๋ฌธ์„œ ์‹œ๋ฆฌ์ฆˆ

์‹œ๋ชจ๋‹ค ์‡ผ(Sho Shimoda)๊ฐ€ ์“ด ์ƒ์„ฑํ˜• AI์˜ ์ผ๊ณฑ ๊ถŒ์งœ๋ฆฌ ํ˜„์žฅ ๊ฐ€์ด๋“œ โ€” ์ด์ œ ์™„๊ฒฐ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.


์ด ์‹œ๋ฆฌ์ฆˆ๊ฐ€ ์ง€ํ–ฅํ•˜๋Š” ๊ฒƒ

LLM ์ž…๋ฌธ์„œ ์‹œ๋ฆฌ์ฆˆ๋Š” ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์„ "๋‚ด๋ถ€์˜ ๋ฉ”์ปค๋‹ˆ์ฆ˜์—์„œ๋ถ€ํ„ฐ" ์ดํ•ดํ•˜๊ธฐ ์œ„ํ•œ ์•ˆ๋‚ด์„œ์ž…๋‹ˆ๋‹ค. ์—”์ง€๋‹ˆ์–ด, ๊ธฐ์ˆ  PM, ๊ทธ๋ฆฌ๊ณ  ์ „๊ณต์ž๋Š” ์•„๋‹ˆ์ง€๋งŒ ์ฐจ๊ทผ์ฐจ๊ทผ ๋”ฐ๋ผ ์ฝ๊ณ  ์‹ถ์€ ๋ถ„ โ€” ๊ธฐ์ˆ ์— ์ง„์ง€ํ•˜๊ฒŒ ๋‹ค๊ฐ€์„œ๋ ค๋Š” ๋…์ž๋ฅผ ๋– ์˜ฌ๋ฆฌ๋ฉฐ ์“ฐ์˜€์Šต๋‹ˆ๋‹ค. ๊ฐ ๊ถŒ์€ ๋ถ„์•ผ์˜ ํ•œ ๋‹จ๋ฉด์„ ๊นŠ์ด ํŒŒ๊ณ ๋“ค๋˜, ๊ธฐ์ˆ ์ ์ธ ์ •ํ™•๋„๋ฅผ ์–‘๋ณดํ•˜์ง€ ์•Š์œผ๋ฉด์„œ๋„ ํ˜„์žฅ์—์„œ ์“ธ ์ˆ˜ ์žˆ์„ ๋งŒํผ ๊ณฑ์”น์–ด ํ’€์–ด๋‚ด๋Š” ๊ฒƒ์„ ๋ชฉํ‘œ๋กœ ์‚ผ์Šต๋‹ˆ๋‹ค.

์ผ๊ณฑ ๊ถŒ ์ „๊ถŒ์ด ๋ชจ๋‘ ์ถœ๊ฐ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ๊ธฐ์ดˆ์—์„œ ์‹œ์ž‘ํ•ด โ€” ์ˆ˜ํ•™, ๊ฒ€์ƒ‰ ๋ณด๊ฐ• ์ƒ์„ฑ(RAG), MCP๋ฅผ ํ†ตํ•œ ์ธ์ง€ ์„ค๊ณ„, ์‹ค์ „ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜, ์Šค์ผ€์ผ๊ณผ ์ถ”๋ก  ์ธํ”„๋ผ, ๊ทธ๋ฆฌ๊ณ  ๋ณด์•ˆ๊นŒ์ง€ โ€” ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์„ ์ฑ…์ž„ ์žˆ๊ฒŒ ๋‹ค๋ฃจ๊ธฐ ์œ„ํ•œ ํ† ๋Œ€๋ฅผ ์ธต์ธต์ด ์Œ“์•„ ์˜ฌ๋ฆฝ๋‹ˆ๋‹ค. ์–ธ์–ด ๋ชจ๋ธ์ด ๋ชธ์„ ๊ฐ–๊ฒŒ ๋˜๋Š” ์ˆœ๊ฐ„๊นŒ์ง€ ํ•จ๊ป˜ ๋ณด๊ณ  ์‹ถ๋‹ค๋ฉด, ์ž๋งค ๋ณผ๋ฅจ์ธ ใ€ŒPhysical AIใ€๋ฅผ ๋‚˜๋ž€ํžˆ ๋†“๊ณ  ์ฝ์–ด ์ฃผ์„ธ์š”.

์ผ๊ณฑ ๊ถŒ ๋ชจ๋‘ Amazon์—์„œ ํŒ๋งค ์ค‘์ž…๋‹ˆ๋‹ค. ์ด ํŽ˜์ด์ง€๋Š” ๊ฐ ๊ถŒ์˜ ์š”์•ฝ, ์ฑ•ํ„ฐ๋ณ„ ์›Œํฌ์Šค๋ฃจ ๋งํฌ, ๊ทธ๋ฆฌ๊ณ  ์‹œ๋ฆฌ์ฆˆ ์ „์ฒด์˜ ์ง€๋„๋กœ ์“ฐ์ด๋„๋ก ๋งŒ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค.

์ด๋Ÿฐ ๋ถ„๊ป˜: ์˜ค๋ž˜ ๊ฐ€๋Š” ์ดํ•ด๋ฅผ ์›ํ•˜๋Š” ์—”์ง€๋‹ˆ์–ด์™€ ์•„ํ‚คํ…ํŠธ. AI ๊ด€๋ จ ์˜์‚ฌ๊ฒฐ์ •์„ ๋งก๊ณ  ์žˆ๋Š” PM๊ณผ ๊ฒฝ์˜์ง„. ํ—ค๋“œ๋ผ์ธ ๋’ค์—์„œ ๋ฌด์—‡์ด ์›€์ง์ด๋Š”์ง€ ์งš์–ด๋ณด๊ณ  ์‹ถ์€ ํ•™์ƒ๊ณผ ํ˜ธ๊ธฐ์‹ฌ ๋งŽ์€ ์‹ค๋ฌด์ž. ์ˆ˜ํ•™ ๋ฐฐ๊ฒฝ์€ ์ „์ œํ•˜์ง€ ์•Š์ง€๋งŒ, ๊ฒฝ๋ ฅ ์žˆ๋Š” ์—”์ง€๋‹ˆ์–ด๊ฐ€ ์ฝ์–ด๋„ ์‹œ๊ฐ„์ด ์•„๊น์ง€ ์•Š์„ ์ •๋„์˜ ๊ธฐ์ˆ ์  ์ •๋ฐ€๋„๋Š” ์œ ์ง€ํ•ฉ๋‹ˆ๋‹ค.

์ด ํŽ˜์ด์ง€๋ฅผ ์ฝ๋Š” ๋ฒ•

์•„๋ž˜์— ์ผ๊ณฑ ๊ถŒ ๊ฐ๊ฐ์˜ โ€” ๋ถ€(Part)๋ณ„๋กœ ์ •๋ฆฌ๋œ โ€” ์ „์ฒด ์ฐจ๋ก€๋ฅผ ๊ทธ๋Œ€๋กœ ํŽผ์ณ ๋‘์—ˆ์Šต๋‹ˆ๋‹ค. ๊ฐ ์ฑ•ํ„ฐ ์˜†์— ๊ฑธ๋ฆฐ ๋งํฌ๋Š” ๊ทธ ์ฑ•ํ„ฐ์˜ ์›Œํฌ์Šค๋ฃจ ๊ธ€๋กœ ์ด์–ด์ง‘๋‹ˆ๋‹ค. ๊ฐ ๊ถŒ์˜ ๋งจ ์œ„์—๋Š” Amazon ๋งํฌ๋ฅผ ํ•จ๊ป˜ ๊ฑธ์–ด ๋‘์—ˆ์œผ๋‹ˆ, ์ข…์ด์ฑ…์ด๋‚˜ Kindle๋กœ ๋„˜์–ด๊ฐ€๊ณ  ์‹ถ์€ ๋ถ„์€ ๊ทธ์ชฝ์„ ๋ˆŒ๋Ÿฌ ์ฃผ์„ธ์š”.

๋ถ€๋ก(Appendix)์€ ํˆฌ๋ช…์„ฑ์„ ์œ„ํ•ด ๊ฐ™์ด ์ ์–ด ๋‘์—ˆ์ง€๋งŒ, ์ฑ…์—๋งŒ ์‹ค๋ฆฐ ์ž๋ฃŒ์ž…๋‹ˆ๋‹ค โ€” ์ฐธ๊ณ  ์ž๋ฃŒ, ์น˜ํŠธ์‹œํŠธ, ํ’€์ด๊ฐ€ ๋‹ฌ๋ฆฐ ์—ฐ์Šต๋ฌธ์ œ ๋“ฑ ์ฑ…์˜ ๋’ท์žฅ์— ๋†“์ด๋Š” ๊ฒƒ์ด ์–ด์šธ๋ฆฌ๋Š” ๋‚ด์šฉ์ž…๋‹ˆ๋‹ค. ๋ถ€๋ก์„ ์†์— ์ฅ๊ณ  ์‹ถ๋‹ค๋ฉด ์ฑ…์œผ๋กœ ์ฝ์–ด ์ฃผ์„ธ์š”.


์ œ1๊ถŒ โ€” ์ƒ์„ฑํ˜• AI๋Š” ์–ด๋–ป๊ฒŒ ์ž‘๋™ํ•˜๋Š”๊ฐ€

๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์˜ ํ† ๋Œ€๋ฅผ, ๋ช…ํ™•ํ•˜๊ณ  ์‹ค์šฉ์ ์œผ๋กœ ํ’€์–ด๋‚ด๋Š” ์ž…๋ฌธ์„œ.

์‹œ๋ฆฌ์ฆˆ ์ „์ฒด์˜ ์‹œ์ž‘์ ์ด ๋˜๋Š”, ํ‰์ดํ•œ ์–ธ์–ด๋กœ ์“ฐ์ธ ์ถœ๋ฐœ์ ์ž…๋‹ˆ๋‹ค. 0์—์„œ๋ถ€ํ„ฐ โ€” ํ† ํฐ, ํ•™์Šต, ๊ทธ๋ฆฌ๊ณ  "๋‹ค์Œ ๋‹จ์–ด๋ฅผ ์˜ˆ์ธกํ•œ๋‹ค"๋Š” ๋‹จ์ˆœํ•œ ํ–‰์œ„์—์„œ๋ถ€ํ„ฐ โ€” ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์ด ๋ฌด์—‡์ด๊ณ , ์–ด๋–ป๊ฒŒ ํ•™์Šต๋˜๋ฉฐ, ์™œ ๊ทธ๋ ‡๊ฒŒ ํ–‰๋™ํ•˜๋Š”์ง€๋ฅผ, ์‚ฌ์ „ ์ง€์‹์„ ์ „์ œํ•˜์ง€ ์•Š๊ณ  ์ •์งํ•˜๊ฒŒ ๊ทธ๋ ค๋ƒ…๋‹ˆ๋‹ค. ์ดํ›„์˜ ๋ชจ๋“  ๊ถŒ์ด ๊ทธ ์œ„์— ๋†“์ด๋Š” ํ† ๋Œ€์ž…๋‹ˆ๋‹ค.

LLM Primer I ํ‘œ์ง€
์ง€๊ธˆ Amazon์—์„œ ๊ตฌ๋งค ๊ฐ€๋Šฅ. Amazon์—์„œ LLM Primer I ๋ณด๊ธฐ โ†’

์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ: LLM Primer I ์ฑ•ํ„ฐ๋ณ„ ์›Œํฌ์Šค๋ฃจ โ€” ์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ๊ณผ ์ธ๋ฑ์Šค

๋ถ€๋ก (์ฑ…์—๋งŒ ์ˆ˜๋ก)

๋ถ€๋ก ALLM ์šฉ์–ด์ง‘
๋ถ€๋ก B์–ดํ…์…˜ ๋’ค์˜ ์ˆ˜ํ•™
๋ถ€๋ก Cํ”„๋กฌํ”„ํŠธ ์น˜ํŠธ ์‹œํŠธ
๋ถ€๋ก D๋„๊ตฌ์™€ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ
๋ถ€๋ก E๊ถŒ์žฅ ๋„์„œ

์ œ2๊ถŒ โ€” ์ˆ˜ํ•™์œผ๋กœ ์ฝ๋Š” ์–ธ์–ด ๋ชจ๋ธ

์ˆ˜ํ•™์  ํ†ต์ฐฐ๋กœ AI์˜ ๋‚ด๋ถ€ ์ž‘๋™์„ ๋“ค์—ฌ๋‹ค๋ณด๋‹ค.

AI์˜ ๋‚ด๋ถ€ ์ž‘๋™ โ€” ์–ดํ…์…˜, ์ตœ์ ํ™” ๋™์—ญํ•™, ์†์‹ค ์ง€ํ˜•, ์Šค์ผ€์ผ๋ง ๊ฑฐ๋™ โ€” ์„, ๊ทธ๊ฒƒ์„ ๊ตด๋ฆฌ๋Š” ์ˆ˜ํ•™์˜ ๊ฒฐ๋กœ ํ•จ๊ป˜ ํ’€์–ด๋‚ด๋Š”, ์ˆ˜ํ•™์ ์œผ๋กœ ์—„๋ฐ€ํ•˜๋ฉด์„œ๋„ ๋๊นŒ์ง€ ์ฝํžˆ๋Š” ํ•œ ๊ถŒ์ž…๋‹ˆ๋‹ค. ์˜๋ฏธ ์žˆ๋Š” ๋ชจ๋“  ์ˆ˜์‹์ด ๊ทธ ์ž๋ฆฌ์—์„œ ์™„์ „ํžˆ ์œ ๋„๋˜๊ณ , ์‹ ํ•˜๋‚˜๋งˆ๋‹ค ์ด์•ผ๊ธฐ์™€ ๋น„์œ ์™€ ์†์œผ๋กœ ๊ตด๋ฆฐ ์ˆ˜์น˜ ์˜ˆ์‹œ๊ฐ€ ๋ง๋ถ™์Šต๋‹ˆ๋‹ค. ์ œ1๊ถŒ์ด ์˜† ๋‹จ์œผ๋กœ ๋ฏธ๋ค„ ๋‘์—ˆ๋˜ ์ˆ˜ํ•™์„, ๋ณธ๋ฌธ์œผ๋กœ ๋Œ์–ด์˜ฌ๋ฆฐ ๊ถŒ์ž…๋‹ˆ๋‹ค.

LLM Primer II ํ‘œ์ง€
์ง€๊ธˆ Amazon์—์„œ ๊ตฌ๋งค ๊ฐ€๋Šฅ. Amazon์—์„œ LLM Primer II ๋ณด๊ธฐ โ†’

์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ: LLM Primer II ์ฑ•ํ„ฐ๋ณ„ ์›Œํฌ์Šค๋ฃจ โ€” ์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ๊ณผ ์ธ๋ฑ์Šค

์ œI๋ถ€ โ€” ์–ธ์–ด ๋ชจ๋ธ์„ ์œ„ํ•œ ์ˆ˜ํ•™์  ํ† ๋Œ€

์ œ1์žฅ์–ธ์–ด ๋ชจ๋ธ์„ ์œ„ํ•œ ์ˆ˜ํ•™์  ์ง๊ด€
์ œ2์žฅ๋งฅ๋ฝ ์†์˜ LLM
์ œ3์žฅ์ˆ˜ํ•™์  ๋„๊ตฌ๋“ค

๋ถ€๋ก (์ฑ…์—๋งŒ ์ˆ˜๋ก)

LLM ์ˆ˜ํ•™ ์น˜ํŠธ ์‹œํŠธ
LLM์— ๋Œ€ํ•œ ํ†ต๊ณ„ํ•™์  ๊ด€์ 
์‚ฌ๋žŒ๋“ค์ด ๋ฌป๋Š” ์งˆ๋ฌธ๋“ค
์œ ๋„ ํ’€์ด ๋ชจ์Œ
ํ’€์ด๊ฐ€ ๋‹ฌ๋ฆฐ ์—ฐ์Šต๋ฌธ์ œ
๊ธฐํ˜ธ ์ธ๋ฑ์Šค
์ˆซ์ž๋กœ ๋”ฐ๋ผ๊ฐ€๋Š” ํ•œ ๋ฒˆ์˜ ์ˆœ์ „ํŒŒ
์•„์ด๋””์–ด์˜ ์—ฐํ‘œ

์ œ3๊ถŒ โ€” RAG๋กœ ๊ฐ•ํ™”ํ•˜๋Š” ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ AI

์—”ํ„ฐํ”„๋ผ์ด์ฆˆ๋ฅผ ์œ„ํ•œ ๊ฒ€์ƒ‰ ๋ณด๊ฐ• ์ƒ์„ฑ(RAG) ์‹œ์Šคํ…œ์„ ์ง“๋Š” ์‹ค์ „ ๊ฐ€์ด๋“œ.

์‹ค์ „์˜ ๊ฒ€์ƒ‰ ๋ณด๊ฐ• ์ƒ์„ฑ โ€” ๋ฒกํ„ฐ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค, ์ฒญํ‚น ์ „๋žต, ๊ทธ๋ฆฌ๊ณ  ๋ชจ๋ธ์„ ์ž๊ธฐ ํšŒ์‚ฌ์˜ ๋ฌธ์„œ์— ๋‹จ๋‹จํžˆ ๋ฌถ์–ด ๋‘๋Š” ์•„ํ‚คํ…์ฒ˜๋ฅผ ํ†ตํ•ด, ๋Š˜ ์ตœ์‹ ์ด๋ฉด์„œ๋„ ์ถœ์ฒ˜๊ฐ€ ๊ฐ™์ด ๋”ฐ๋ผ๋ถ™๋Š” ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๋‹ต๋ณ€์„ ๋งŒ๋“ค์–ด ๋‚ด๋Š” ๊ธธ์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค. ๋Š˜ ์ตœ์‹ ์„ ์œ ์ง€ํ•ด์•ผ ํ•˜๊ณ , ์ถœ์ฒ˜๋ฅผ ๊ฐ™์ด ์ธ์šฉํ•ด์•ผ ํ•˜๋Š” AI ๊ธฐ๋Šฅ์„ ์ฑ…์ž„์ง€๊ณ  ์ถœํ•˜ํ•ด์•ผ ํ•˜๋Š” ๋ถ„๊ป˜ ๊ถŒํ•˜๋Š” ํ•œ ๊ถŒ์ž…๋‹ˆ๋‹ค.

LLM Primer III ํ‘œ์ง€
์ง€๊ธˆ Amazon์—์„œ ๊ตฌ๋งค ๊ฐ€๋Šฅ. Amazon์—์„œ LLM Primer III ๋ณด๊ธฐ โ†’

์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ: LLM Primer III ์ฑ•ํ„ฐ๋ณ„ ์›Œํฌ์Šค๋ฃจ โ€” ์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ๊ณผ ๋ชฉ์ฐจ

์ œI๋ถ€ โ€” RAG ์•„ํ‚คํ…์ฒ˜์˜ ํ† ๋Œ€

์ œ1์žฅRAG ์•„ํ‚คํ…์ฒ˜์˜ ์ง„ํ™”

์ œII๋ถ€ โ€” ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘, ํŒŒ์‹ฑ, ์ฒญํ‚น

์ œ2์žฅ์ง€๋Šฅ์  ๋ฌธ์„œ ํŒŒ์‹ฑ
์ œ3์žฅ๊ณ ๊ธ‰ ์ฒญํ‚น ํ”„๋ ˆ์ž„์›Œํฌ

์ œIII๋ถ€ โ€” ๋ฒกํ„ฐ DB์™€ ๊ฒ€์ƒ‰ ์ตœ์ ํ™”

์ œ4์žฅ์•Œ๋งž์€ ๋ฒกํ„ฐ DB ์„ ํƒ
์ œ5์žฅ๊ฒ€์ƒ‰ ํŒŒ์ดํ”„๋ผ์ธ ์„ค๊ณ„

๋ถ€๋ก (์ฑ…์—๋งŒ ์ˆ˜๋ก)

๋ถ€๋ก ARAG ์ตœ์ ํ™”๋ฅผ ์œ„ํ•œ ํ•„์ˆ˜ ์ˆ˜์‹
๋ถ€๋ก B๋ฐ์ดํ„ฐ ์ต๋ช…ํ™”ยทํ‰๊ฐ€์šฉ ์ƒ˜ํ”Œ ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ
๋ถ€๋ก C๋ฒกํ„ฐ DB์™€ ๋„๊ตฌ์˜ ๊ฒฐ์ • ๋งคํŠธ๋ฆญ์Šค
๋ถ€๋ก DRAG ํ‰๊ฐ€์šฉ ๋ฒค์น˜๋งˆํฌ ๋ฐ์ดํ„ฐ์…‹

์ œ4๊ถŒ โ€” MCP๋กœ ์„ค๊ณ„ํ•˜๋Š” AI์˜ ์ธ์ง€

๋ฏฟ์Œ์งํ•œ AI ์—์ด์ „ํŠธ๋ฅผ ์œ„ํ•œ ์ปจํ…์ŠคํŠธยท๋„๊ตฌยท๊ธฐ์–ต์˜ ์—”์ง€๋‹ˆ์–ด๋ง.

๊ตฌ์กฐํ™”๋œ ์ปจํ…์ŠคํŠธ ๋ชจ๋ธ๋ง๊ณผ ์˜ค์ผ€์ŠคํŠธ๋ ˆ์ด์…˜ โ€” ๋ชจ๋ธ ์ž์ฒด๊ฐ€ ์•„๋‹ˆ๋ผ, ๋ชจ๋ธ์ด ๋ณด๊ฒŒ ๋  ์ปจํ…์ŠคํŠธ์™€ ์ƒํ™ฉ์„ ์—”์ง€๋‹ˆ์–ด๋งํ•˜์—ฌ ๋ชจ๋ธ์˜ ์ถ”๋ก ์„ ๋นš์–ด๋‚ด๋Š” ๊ธธ์ž…๋‹ˆ๋‹ค. ์—์ด์ „ํŠธํ˜• ์‹œ์Šคํ…œ์„ ๋งŒ๋“ค๊ณ  ์žˆ๋Š” ๋ถ„๊ป˜ โ€” ๋„๊ตฌ ์ธ๋ฒคํ† ๋ฆฌ, ์žฅ์‹œ๊ฐ„ ๋™์ž‘ํ•˜๋Š” ๋ฃจํ”„, ์„ธ์…˜์„ ๊ฐ€๋กœ์ง€๋ฅด๋Š” ๊ธฐ์–ต, ๊ทธ๋ฆฌ๊ณ  ๋ชจ๋ธ์ด ๋ณด๊ฒŒ ๋˜๋Š” ๊ฒƒ์„ ์„ค๊ณ„ํ•˜๋Š” ๊ทœ์œจ์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค.

LLM Primer IV ํ‘œ์ง€
์ง€๊ธˆ Amazon์—์„œ ๊ตฌ๋งค ๊ฐ€๋Šฅ. Amazon์—์„œ LLM Primer IV ๋ณด๊ธฐ โ†’

์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ: LLM Primer IV ์ฑ•ํ„ฐ๋ณ„ ์›Œํฌ์Šค๋ฃจ โ€” ์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ๊ณผ ๋ชฉ์ฐจ

์ œIV๋ถ€ โ€” AI ์ธ์ง€์˜ ์„ค๊ณ„: ์ปจํ…์ŠคํŠธ์™€ ๊ธฐ์–ต

์ œ9์žฅ์–ดํ…์…˜ ์˜ˆ์‚ฐ์˜ ๊ด€๋ฆฌ
์ œ10์žฅ์žฅ๊ธฐ ๊ณผ์ œ๋ฅผ ์œ„ํ•œ ๊ธฐ์–ต

์ œV๋ถ€ โ€” ์—์ด์ „ํŠธ ์›Œํฌํ”Œ๋กœ์šฐ์˜ ๋ณด์•ˆ

์ œ11์žฅ๊ณต๊ฒฉ๋ฉด๊ณผ ํ”„๋กœํ† ์ฝœ ์ทจ์•ฝ์„ฑ
์ œ12์žฅํ”„๋กœํ† ์ฝœ ํ•˜๋“œ๋‹๊ณผ ๋ฐฉ์–ด

์ œVI๋ถ€ โ€” ํ”„๋กœ๋•์…˜ ์—”์ง€๋‹ˆ์–ด๋ง๊ณผ ๊ทœ๋ชจ

์ œ13์žฅํ”„๋ ˆ์ž„์›Œํฌ์™€ ํด๋ผ์šฐ๋“œ ํ†ตํ•ฉ
์ œ14์žฅ๋ฒค์น˜๋งˆํฌ, ํ…Œ์ŠคํŠธ, ์„ฑ๋Šฅ

๋ถ€๋ก (์ฑ…์—๋งŒ ์ˆ˜๋ก)

๋ถ€๋ก AMCP ํ€ต ๋ ˆํผ๋Ÿฐ์Šค & ์น˜ํŠธ ์‹œํŠธ
๋ถ€๋ก B๊ตฌํ˜„ ์ฒญ์‚ฌ์ง„๊ณผ ์ฝ”๋“œ ์˜ˆ์ œ
๋ถ€๋ก Cํ”„๋กœ๋•์…˜ ์ค€๋น„ยท๋ณด์•ˆ ์ฒดํฌ๋ฆฌ์ŠคํŠธ
๋ถ€๋ก D๊ณ ๊ธ‰ ๋ช…์„ธ์™€ SEP
๋ถ€๋ก E๋ฒค์น˜๋งˆํฌ์™€ ์„ฑ๋Šฅ ๋ฐ์ดํ„ฐ
๋ถ€๋ก F๊ณต์‹ ์ž๋ฃŒ์™€ ์ƒํƒœ๊ณ„ ๋งํฌ

์ œ5๊ถŒ โ€” ์‹ค์ „ LLM ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๋งŒ๋“ค๊ธฐ

์šด์˜ ํ™˜๊ฒฝ์—์„œ LLM ์‹œ์Šคํ…œ์„ ์„ค๊ณ„ยทํ‰๊ฐ€ยท์šด์˜ํ•˜๋‹ค.

ํ”„๋กœํ† ํƒ€์ž…์—์„œ ์šด์˜ ํ™˜๊ฒฝ๊นŒ์ง€ โ€” API ์„ค๊ณ„, ํ‰๊ฐ€ ๋ฃจํ”„, ๋ชจ๋‹ˆํ„ฐ๋ง, ํ†ตํ•ฉ โ€” ๋Šฅ๋ ฅ ์žˆ๋Š” ๋ชจ๋ธ ํ•˜๋‚˜๋ฅผ, ๋ฏฟ๊ณ  ์“ธ ์ˆ˜ ์žˆ๋Š” ์ œํ’ˆ์œผ๋กœ ์˜ฎ๊ฒจ๊ฐ€๋Š” ์‹œ์Šคํ…œ ์ค‘์‹ฌ์˜ ๊ฐ€์ด๋“œ์ž…๋‹ˆ๋‹ค. ์•„ํ‚คํ…์ฒ˜์— ๋Œ€ํ•œ ์ดํ•ด๋ฅผ, ์‹ค์ œ ์‚ฌ์šฉ์ž๊ฐ€ ์“ฐ๋Š” ์„œ๋น„์Šค๋กœ ์˜ฎ๊ฒจ๊ฐ€๋Š” ๋‹จ๊ณ„์˜ ํ•œ ๊ถŒ์ž…๋‹ˆ๋‹ค.

LLM Primer V ํ‘œ์ง€
์ง€๊ธˆ Amazon์—์„œ ๊ตฌ๋งค ๊ฐ€๋Šฅ. Amazon์—์„œ LLM Primer V ๋ณด๊ธฐ โ†’

์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ: LLM Primer V ์ฑ•ํ„ฐ๋ณ„ ์›Œํฌ์Šค๋ฃจ โ€” ์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ๊ณผ ๋ชฉ์ฐจ

์ œI๋ถ€ โ€” AI ์—”์ง€๋‹ˆ์–ด๋ง์˜ ํ† ๋Œ€

์ œ1์žฅAI ์—”์ง€๋‹ˆ์–ด๋ง์ด๋ผ๋Š” ๋ถ„์•ผ
์ œ2์žฅํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ๊ณผ ํ”„๋กฌํ”„ํŠธ ์—”์ง€๋‹ˆ์–ด๋ง

์ œII๋ถ€ โ€” ์—์ด์ „ํŠธํ˜•ยท๊ฒ€์ƒ‰ ๋Šฅ๋ ฅ์˜ ๊ตฌ์ถ•

์ œ3์žฅ๊ฒ€์ƒ‰ ๋ณด๊ฐ• ์ƒ์„ฑ(RAG)
์ œ4์žฅAI ์—์ด์ „ํŠธ์™€ ๋„๊ตฌ ํ˜ธ์ถœ

์ œIII๋ถ€ โ€” ํ’ˆ์งˆ ๋ณด์ฆ๊ณผ ์˜ต์ €๋ฒ„๋นŒ๋ฆฌํ‹ฐ

์ œ5์žฅLLM ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์˜ ํ‰๊ฐ€
์ œ6์žฅAI ์˜ต์ €๋ฒ„๋นŒ๋ฆฌํ‹ฐ์™€ ํŠธ๋ ˆ์ด์‹ฑ

์ œIV๋ถ€ โ€” ๋ณด์•ˆ, ์Šค์ผ€์ผ, ์ตœ์ ํ™”

์ œ7์žฅLLM์˜ ๋ณด์•ˆ๊ณผ ๊ฐ€๋“œ๋ ˆ์ผ
์ œ8์žฅ์„ฑ๋Šฅยท์„œ๋น™ยท๋น„์šฉ์˜ ์ตœ์ ํ™”

๋ถ€๋ก (์ฑ…์—๋งŒ ์ˆ˜๋ก)

๋ถ€๋ก Aํ”„๋กœ๋•์…˜ ์ค€๋น„ยท๋ณด์•ˆ ์ฒดํฌ๋ฆฌ์ŠคํŠธ
๋ถ€๋ก B๋„๊ตฌยทํ”„๋ ˆ์ž„์›Œํฌ ์„ ํƒ ๋งคํŠธ๋ฆญ์Šค
๋ถ€๋ก Cํ”„๋กœํ† ์ฝœ, ์ŠคํŠธ๋ฆฌ๋ฐ, ๊ตฌ์กฐํ™”๋œ ์ถœ๋ ฅ
๋ถ€๋ก D๋ ˆ์ดํŠธ ๋ฆฌ๋ฏธํŒ…๊ณผ ๋น„์šฉ ๊ด€๋ฆฌ ์•„ํ‚คํ…์ฒ˜
๋ถ€๋ก EAI ์—”์ง€๋‹ˆ์–ด๋ง ์ง€ํ‘œ์™€ ์šฉ์–ด์ง‘

์ œ6๊ถŒ โ€” AI ์‹œ์Šคํ…œ์„ ์Šค์ผ€์ผํ•˜๋‹ค

ํ”„๋กœ๋•์…˜ ์Šค์ผ€์ผ์„ ์œ„ํ•œ ์ €์ง€์—ฐ LLM ์ถ”๋ก  ์•„ํ‚คํ…์ฒ˜.

๊ณ ์„ฑ๋Šฅ ์ถ”๋ก ์˜ ์•„ํ‚คํ…์ฒ˜ โ€” ๋ถ„์‚ฐ ์„œ๋น™, ์ง€์—ฐ ์ตœ์ ํ™”, ๊ทธ๋ฆฌ๊ณ  ํ•˜๋ฃจ์— ์ˆ˜๋ฐฑ๋งŒ ๋ฒˆ ๋‹ตํ•ด์•ผ ํ•˜๋Š” ์‹œ์Šคํ…œ์„ ์œ„ํ•œ ๋น„์šฉ ๋ชจ๋ธ๋ง. ์„œ๋ฒ„ ํ•œ ๋Œ€๋กœ๋Š” ๋” ์ด์ƒ ๊ฐ๋‹น์ด ์•ˆ ๋˜๋Š” AI ์‹œ์Šคํ…œ์„, ์ง„์งœ "์ธํ”„๋ผ"๋‹ต๊ฒŒ ๋‹ค์‹œ ์ง“๊ธฐ ์œ„ํ•œ ํ•œ ๊ถŒ์ž…๋‹ˆ๋‹ค.

LLM Primer VI ํ‘œ์ง€
์ง€๊ธˆ Amazon์—์„œ ๊ตฌ๋งค ๊ฐ€๋Šฅ. Amazon์—์„œ LLM Primer VI ๋ณด๊ธฐ โ†’

์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ: LLM Primer VI ์ฑ•ํ„ฐ๋ณ„ ์›Œํฌ์Šค๋ฃจ โ€” ์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ๊ณผ ๋ชฉ์ฐจ

์ œI๋ถ€ โ€” LLM ์ถ”๋ก ์˜ ํ† ๋Œ€

์ œ1์žฅํ† ํฐ ์ƒ์„ฑ์˜ ๋ฉ”์ปค๋‹ˆ์ฆ˜
์ œ2์žฅKV ์บ์‹œ๋ผ๋Š” ๋„์ „

์ œII๋ถ€ โ€” ํ•˜๋“œ์›จ์–ด ๊ธฐ๋ฐ˜

์ œ3์žฅ์ƒ์„ฑํ˜• AI๋ฅผ ์œ„ํ•œ ๋ฐ์ดํ„ฐ์„ผํ„ฐ GPU
์ œ4์žฅ์ „์šฉ AI ์‹ค๋ฆฌ์ฝ˜๊ณผ ASIC

์ œIII๋ถ€ โ€” ๋ชจ๋ธ ๋‹จ์˜ ์ตœ์ ํ™”(์••์ถ•)

์ œ5์žฅ์–‘์žํ™”์˜ ์ •์ฒด
์ œ6์žฅ๊ฐ€์ง€์น˜๊ธฐ์™€ ์ง€์‹ ์ฆ๋ฅ˜

์ œIV๋ถ€ โ€” ์‹œ์Šคํ…œยท์—”์ง„ ๋‹จ์˜ ์ตœ์ ํ™”

์ œ7์žฅ๊ณ ๊ธ‰ ๋ฐฐ์น˜ ์ „๋žต
์ œ8์žฅ์ฐจ์„ธ๋Œ€ KV ์บ์‹œ ๊ด€๋ฆฌ
์ œ9์žฅ์ถ”์ธก ๋””์ฝ”๋”ฉ(Speculative Decoding)

์ œV๋ถ€ โ€” ์„œ๋น™ ํ”„๋ ˆ์ž„์›Œํฌ์™€ ์˜ค์ผ€์ŠคํŠธ๋ ˆ์ด์…˜

์ œ10์žฅLLM ์—”์ง„ ๋ ˆ์ด์–ด
์ œ11์žฅํ”Œ๋žซํผยท์˜ค์ผ€์ŠคํŠธ๋ ˆ์ด์…˜ ๋ ˆ์ด์–ด
์ œ12์žฅ๋ถ„๋ฆฌํ˜• ์„œ๋น™๊ณผ Kubernetes
์ œ13์žฅ์˜คํ† ์Šค์ผ€์ผ๋ง๊ณผ ์ฝœ๋“œ ์Šคํƒ€ํŠธ ์™„ํ™”

์ œVI๋ถ€ โ€” ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๋‹จ์˜ ๊ฒฝ์ œ์™€ TCO

์ œ14์žฅํ† ํฐ ๊ฒฝ์ œํ•™๊ณผ API ๊ฐ€๊ฒฉ
์ œ15์žฅ์„œ๋ฒ„๋ฆฌ์Šค API vs. ์ „์šฉ ์ธํ”„๋ผ
์ œ16์žฅํ”„๋กœ๋•์…˜์˜ ๋น„์šฉ ์ ˆ๊ฐ ์ „๋žต

๋ถ€๋ก (์ฑ…์—๋งŒ ์ˆ˜๋ก)

๋ถ€๋ก A์ˆ˜์‹๊ณผ ๋น„์šฉ ๋ชจ๋ธ๋ง ๋ ˆํผ๋Ÿฐ์Šค
๋ถ€๋ก Bํ•˜๋“œ์›จ์–ดยท๊ฐ€์†๊ธฐ ์‚ฌ์–‘ ๊ฐ€์ด๋“œ
๋ถ€๋ก C๋ฐฐํฌ ๊ตฌ์„ฑ๊ณผ ์ฝ”๋“œ ์Šค๋‹ˆํŽซ
๋ถ€๋ก D๋ฒค์น˜๋งˆํ‚น ๋ฐฉ๋ฒ•๋ก ๊ณผ ์ง€ํ‘œ ์ •์˜

์ œ7๊ถŒ โ€” AI ๋ณด์•ˆ

ํ”„๋กฌํ”„ํŠธ ์ธ์ ์…˜, ํƒˆ์˜ฅ, ์ ๋Œ€์  ์œ„ํ˜‘์— ๋งž์„œ LLM ์‹œ์Šคํ…œ์„ ์ง€ํ‚ค๋‹ค.

์•ˆ์ „ํ•˜๊ณ  ๊ฒฌ๊ณ ํ•œ AI์˜ ์„ค๊ณ„ โ€” ์ ๋Œ€์  ์œ„ํ—˜, ํ”„๋กฌํ”„ํŠธ ์ธ์ ์…˜, ๊ฑฐ๋ฒ„๋„Œ์Šค ํ”„๋ ˆ์ž„์›Œํฌ, ๊ทธ๋ฆฌ๊ณ  ์‹ค์ œ ์šด์˜ ํ™˜๊ฒฝ์— ๋ฐฐํฌ๋˜๋Š” ์‹œ์Šคํ…œ์„ ์œ„ํ•œ ๋ฐฉ์–ด์  ์„ค๊ณ„. AI ์‹œ์Šคํ…œ์„ "๋ณด์•ˆ ๊ด€๋ จ ์ธํ”„๋ผ"๋กœ ์ง„์ง€ํ•˜๊ฒŒ ๋‹ค๋ฃจ์–ด์•ผ ํ•  ๋•Œ ํŽผ์ณ ๋‘˜ ํ•œ ๊ถŒ์ž…๋‹ˆ๋‹ค. ์‹œ๋ฆฌ์ฆˆ์˜ ๋งˆ์ง€๋ง‰ ๊ถŒ์œผ๋กœ, ์•ž์„  ์—ฌ์„ฏ ๊ถŒ์ด ์งš์–ด ์˜จ ์ธต์œ„ ์œ„์— "์ด ์‹œ์Šคํ…œ์ด ๊ณต๊ฒฉ์„ ๊ฒฌ๋””๋Š”๊ฐ€"๋ผ๋Š” ๋ฌผ์Œ์„ ์–น์Šต๋‹ˆ๋‹ค.

LLM Primer VII ํ‘œ์ง€
์ง€๊ธˆ Amazon์—์„œ ๊ตฌ๋งค ๊ฐ€๋Šฅ. Amazon์—์„œ LLM Primer VII ๋ณด๊ธฐ โ†’

์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ: LLM Primer VII ์ฑ•ํ„ฐ๋ณ„ ์›Œํฌ์Šค๋ฃจ โ€” ์‹œ๋ฆฌ์ฆˆ ์„œ๋ฌธ๊ณผ ๋ชฉ์ฐจ

์ œI๋ถ€ โ€” AI ๋ณด์•ˆ์˜ ํ† ๋Œ€

์ œ1์žฅAI ๋ณด์•ˆ์€ ์™œ ๋‹ค๋ฅธ๊ฐ€
์ œ2์žฅLLM ์‹œ์Šคํ…œ์„ ์œ„ํ•œ ์œ„ํ˜‘ ๋ชจ๋ธ๋ง
์ œ3์žฅ๋ฐ์ดํ„ฐ ๋ณด์•ˆ๊ณผ ํ”„๋ผ์ด๋ฒ„์‹œ

์ œII๋ถ€ โ€” ํ”„๋กฌํ”„ํŠธ์™€ ์ƒํ˜ธ์ž‘์šฉ์˜ ๋ณด์•ˆ

์ œ4์žฅํ”„๋กฌํ”„ํŠธ ์ธ์ ์…˜๊ณผ ํƒˆ์˜ฅ
์ œ5์žฅ์ž…๋ ฅ ๊ฒ€์ฆ๊ณผ ์ถœ๋ ฅ ํ•„ํ„ฐ๋ง
์ œ6์žฅRAG์˜ ์œ„ํ—˜

์ œIII๋ถ€ โ€” ๋ชจ๋ธ์˜ ๊ฒฌ๊ณ ํ•จ๊ณผ ์‹ ๋ขฐ์„ฑ

์ œ7์žฅํ™˜๊ฐ๊ณผ ์‹ ๋ขฐ์„ฑ
์ œ8์žฅ๋ชจ๋ธ์„ ํ–ฅํ•œ ์ ๋Œ€์  ๊ณต๊ฒฉ
์ œ9์žฅ๋ชจ๋ธ ๋ฌด๊ฒฐ์„ฑ๊ณผ ๊ณต๊ธ‰๋ง ์œ„ํ—˜

์ œIV๋ถ€ โ€” ์‹œ์Šคํ…œ ๋‹จ์˜ ๋ณด์•ˆ ์•„ํ‚คํ…์ฒ˜

์ œ10์žฅ์•ˆ์ „ํ•œ LLM ์•„ํ‚คํ…์ฒ˜์˜ ์„ค๊ณ„
์ œ11์žฅ์˜ต์ €๋ฒ„๋นŒ๋ฆฌํ‹ฐ, ๋กœ๊น…, ์‚ฌ๊ณ  ๋Œ€์‘
์ œ12์žฅ์ ‘๊ทผ ์ œ์–ด์™€ ID

์ œV๋ถ€ โ€” ๊ฑฐ๋ฒ„๋„Œ์Šค, ์œค๋ฆฌ, ์ปดํ”Œ๋ผ์ด์–ธ์Šค

์ œ13์žฅ๊ทœ์ œ ํ™˜๊ฒฝ
์ œ14์žฅํŽธํ–ฅ, ๊ณต์ •์„ฑ, ์ฑ…์ž„ ์žˆ๋Š” AI
์ œ15์žฅ์•ˆ์ „ํ•œ AI ์กฐ์ง ๋งŒ๋“ค๊ธฐ

์ œVI๋ถ€ โ€” ์‹ฌํ™” ์ฃผ์ œ

์ œ16์žฅ์•ˆ์ „ํ•œ ํŒŒ์ธํŠœ๋‹๊ณผ ์ ์‘
์ œ17์žฅ๋ฏธ๋ž˜์˜ ์œ„ํ˜‘๊ณผ ๋– ์˜ค๋ฅด๋Š” ๋ฐฉ์–ด

๋ถ€๋ก (์ฑ…์—๋งŒ ์ˆ˜๋ก)

๋ถ€๋ก Aํ”„๋กœ๋•์…˜์šฉ AI ๋ณด์•ˆ ์ฒดํฌ๋ฆฌ์ŠคํŠธ
๋ถ€๋ก B์œ„ํ˜‘ ๋ชจ๋ธ ํ…œํ”Œ๋ฆฟ ์ƒ˜ํ”Œ
๋ถ€๋ก C์•ˆ์ „ํ•œ ํ”„๋กฌํ”„ํŠธ ์„ค๊ณ„ ํŒจํ„ด
๋ถ€๋ก DLLM ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ์œ„ํ•œ ์‚ฌ๊ณ  ๋Œ€์‘ ํ…œํ”Œ๋ฆฟ
๋ถ€๋ก E๊ถŒ์žฅ ๋„๊ตฌ์™€ ํ”„๋ ˆ์ž„์›Œํฌ

Physical AI โ€” ์ž๋งค ๋ณผ๋ฅจ

LLM ์ž…๋ฌธ์„œ ์‹œ๋ฆฌ์ฆˆ์™€ ๋‚˜๋ž€ํžˆ ๋†“์ด๋Š” ์งง์€ ์ž๋งค ๋ณผ๋ฅจ ใ€ŒPhysical AIใ€๋Š”, ์–ธ์–ด ๋ชจ๋ธ์ด ํ™”๋ฉด ๋ฐ–์œผ๋กœ ๋‚˜์™€ ๋ชธ์„ ๊ฐ–๊ฒŒ ๋˜๋Š” ์ˆœ๊ฐ„์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค. ๋กœ๋ด‡ ๊ณตํ•™๊ณผ ์„ผ์„œ, ๊ทธ๋ฆฌ๊ณ  ๋ฌผ๋ฆฌ ์„ธ๊ณ„์™€ ๋งˆ์ฃผํ•˜๋Š” AI โ€” ์ธ์ง€๊ฐ€ ํ…์ŠคํŠธ ์•ˆ์—๋งŒ ๋จธ๋ฌด๋ฅด์ง€ ์•Š์„ ๋•Œ ๋ฒŒ์–ด์ง€๋Š” ๋ฌธ์ œ๋ฅผ ์งš์–ด ๋ณด๊ณ  ์‹ถ์€ ๋ถ„๊ป˜ ๊ถŒํ•ฉ๋‹ˆ๋‹ค. LLM ์‹œ๋ฆฌ์ฆˆ์˜ ํ™•์žฅํŽธ์ด์ž, ๊ฐ™์€ ์ €์ž๊ฐ€ ๊ฐ™์€ ์ž์„ธ๋กœ ์“ด ์งง์€ ํ•œ ๊ถŒ์ž…๋‹ˆ๋‹ค.


SHO
SHO
RECEIPTROLLER의 CTO이자 창립자. 데이터 중심, 혁신 지향, 항상 호기심 많은 사람.