LLM 가이드: 생성형 AI의 기초와 대규모 언어 모델 이해

게시일: 2024-09-02 마지막 업데이트 날짜: 2025-09-12 버전: 0

1.0 LLM์ด๋ž€ ๋ฌด์—‡์ธ๊ฐ€?

LLM(๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ, Large Language Model)์€ ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP) ๋ถ„์•ผ์—์„œ ํ˜์‹ ์„ ์ด๋ˆ ํ•ต์‹ฌ ๊ธฐ์ˆ ์ž…๋‹ˆ๋‹ค. ๋ฐฉ๋Œ€ํ•œ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ์…‹์„ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•™์Šต๋œ ์ด ๋ชจ๋ธ์€ ๋ฌธ๋งฅ์„ ์ดํ•ดํ•˜๊ณ , ์‚ฌ๋žŒ์ฒ˜๋Ÿผ ์ž์—ฐ์Šค๋Ÿฝ๊ณ  ์˜๋ฏธ ์žˆ๋Š” ๋ฌธ์žฅ์„ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ณธ ๊ธ€์—์„œ๋Š” LLM์˜ ๊ธฐ๋ณธ ๊ฐœ๋…, ์—ญํ• , ๊ทธ๋ฆฌ๊ณ  ์ „ํ†ต์ ์ธ ๊ธฐ๊ณ„ํ•™์Šต ๋ชจ๋ธ๊ณผ์˜ ์ฐจ์ด๋ฅผ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.

1.1 ์ •์˜์™€ ๊ฐœ์š”

LLM์€ ์ˆ˜์–ต์—์„œ ์ˆ˜์กฐ ๊ฐœ์— ๋‹ฌํ•˜๋Š” ํŒŒ๋ผ๋ฏธํ„ฐ(parameter)๋ฅผ ๊ฐ€์ง„ ๊ณ ๋„ํ™”๋œ ์–ธ์–ด ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. ๋ฐฉ๋Œ€ํ•œ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋ฅผ ํ•™์Šตํ•˜๋ฉด์„œ ๋ฌธ๋งฅ์„ ์ดํ•ดํ•˜๊ณ , ๋ฌธ๋ฒ•์ ์œผ๋กœ ์˜ฌ๋ฐ”๋ฅด๋ฉฐ ์ผ๊ด€์„ฑ ์žˆ๋Š” ๋ฌธ์žฅ์„ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ํŠน์„ฑ ๋•๋ถ„์— ์‚ฌ๋žŒ์˜ ์–ธ์–ด ์ดํ•ด๋ฅผ ํ‰๋‚ด ๋‚ด๋Š” ์ˆ˜์ค€์„ ๋„˜์–ด, ๋‹ค์–‘ํ•œ NLP ์‘์šฉ ๋ถ„์•ผ์—์„œ ํ™œ์šฉ๋ฉ๋‹ˆ๋‹ค.

1.2 ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ์—์„œ์˜ ์—ญํ• 

LLM์€ ๋ฒˆ์—ญ, ์š”์•ฝ, ์งˆ์˜์‘๋‹ต, ํ…์ŠคํŠธ ์ƒ์„ฑ ๋“ฑ ๋‹ค์–‘ํ•œ NLP ์ž‘์—…์—์„œ ๋›ฐ์–ด๋‚œ ์„ฑ๋Šฅ์„ ๋ฐœํœ˜ํ•ฉ๋‹ˆ๋‹ค. ๋ฌธ๋งฅ์„ ๊นŠ์ด ์ดํ•ดํ•  ์ˆ˜ ์žˆ๊ธฐ ๋•Œ๋ฌธ์— ๊ธฐ์กด์˜ ๊ทœ์น™ ๊ธฐ๋ฐ˜ ์‹œ์Šคํ…œ์ด๋‚˜ ๋‹จ์ˆœํ•œ ํ†ต๊ณ„์  ๋ชจ๋ธ๋ณด๋‹ค ํ›จ์”ฌ ๋” ์ •ํ™•ํ•˜๊ณ  ์œ ์—ฐํ•˜๋ฉฐ ํ™•์žฅ ๊ฐ€๋Šฅํ•œ ๊ฒฐ๊ณผ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

1.3 ๊ธฐ์กด ๊ธฐ๊ณ„ํ•™์Šต๊ณผ์˜ ์ฐจ์ด

์ „ํ†ต์ ์ธ ๊ธฐ๊ณ„ํ•™์Šต ๋ชจ๋ธ์€ ๋ณดํ†ต ํ•˜๋‚˜์˜ ์ž‘์—…์— ํŠนํ™”๋˜์–ด ์žˆ์œผ๋ฉฐ, ์ƒˆ๋กœ์šด ๊ณผ์ œ๋ฅผ ์ˆ˜ํ–‰ํ•˜๋ ค๋ฉด ๋‹ค์‹œ ํ•™์Šตํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๋ฐ˜๋ฉด LLM์€ ๋ฒ”์šฉ์ ์œผ๋กœ ์„ค๊ณ„๋˜์–ด ์ดˆ๊ธฐ ํ•™์Šต ํ›„ ์ „์ดํ•™์Šต(Transfer Learning) ๋“ฑ์„ ํ†ตํ•ด ๋‹ค์–‘ํ•œ ์ž‘์—…์— ์ ์‘ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ์œ ์—ฐ์„ฑ์ด LLM์„ ์ฐจ๋ณ„ํ™”ํ•˜๋Š” ์š”์†Œ์ด์ง€๋งŒ, ๋™์‹œ์— ๊ธฐ์กด ๋ชจ๋ธ๋ณด๋‹ค ํ›จ์”ฌ ๋” ๋งŽ์€ ์—ฐ์‚ฐ ์ž์›๊ณผ ๋น„์šฉ์„ ์š”๊ตฌํ•œ๋‹ค๋Š” ์ ์—์„œ ๋„์ „ ๊ณผ์ œ๋„ ์กด์žฌํ•ฉ๋‹ˆ๋‹ค.

๋‹ค์Œ ์„น์…˜์ธ "LLM์˜ ์ •์˜์™€ ๊ฐœ์š”"์—์„œ๋Š” LLM์˜ ๊ตฌ์กฐ์™€ ํ™•์žฅ์„ฑ, ๊ทธ๋ฆฌ๊ณ  ์–ด๋–ป๊ฒŒ ๊ณ ๋„ํ™”๋œ NLP ์ž‘์—…์„ ์ˆ˜ํ–‰ํ•˜๋„๋ก ํ•™์Šต๋˜๋Š”์ง€ ๊ตฌ์ฒด์ ์œผ๋กœ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.



SHO
SHO
RECEIPTROLLER์˜ CTO์ด์ž ์ฐฝ๋ฆฝ์ž. ๋ฐ์ดํ„ฐ ์ค‘์‹ฌ, ํ˜์‹  ์ง€ํ–ฅ, ํ•ญ์ƒ ํ˜ธ๊ธฐ์‹ฌ ๋งŽ์€ ์‚ฌ๋žŒ.