์ 7์ฅ โ ์ ๊ทผ ์ ์ด ๊ตฌํ
LLM Primer III: RAG๋ก ๊ฐํํ๋ ์ํฐํ๋ผ์ด์ฆ AI๋ฅผ ์ฑํฐ๋ณ๋ก ์๊ฐํ๋ ์๋ฆฌ์ฆ์ ์ผ๊ณฑ ๋ฒ์งธ ๊ธ์ ๋๋ค. ๊ด๊ณํ ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ํ์ผ์์คํ ์ ์ํด ์ค๊ณ๋ ๊ถํ ๋ชจ๋ธ์ ๊ฒ์์ ๊ผญ ๋ง์ง ์์ต๋๋ค. ์ ๊ทผ์ ๋จ์๋ ๋ ์ด์ ํ์ด๋ ํ์ผ์ด ์๋๋ผ ์๋ฒ ๋ฉ์ด๊ณ โ ์๋ฒ ๋ฉ์ ๋ฌธ์ ์์ฒด์ ์ ๊ธ์ด ๊ฑธ๋ ค ์์ด๋ ์ ์ฌ๋๋ฅผ ํตํด ์๋ณธ์ ํ๋ฆด ์ ์์ต๋๋ค.
์ด ์ฅ์ด ์กด์ฌํ๋ ์ด์
์ 6์ฅ์ ์ํ ๋ชจ๋ธ์ ๋ง๋ค์ด ๋์ต๋๋ค. ๊ทธ๊ฒ์ด ํจ์ํ๋ ๊ฐ์ฅ ์ค์ํ ํต์ โ ๊ทธ๋ฆฌ๊ณ ์ด๊ธฐ ํ๋ก๋์ ์์คํ ์ ๋๋ถ๋ถ์ด ๊ฐ์ฅ ์์ฃผ ๋์น๋ ํต์ โ ๋ ๊ฒ์ ์ธต์์์ ์ ๊ทผ ์ ์ด์ด๋ฉฐ, ๊ทธ๋ ๊ฒ ํจ์ผ๋ก์จ LLM์ ์ฌ์ฉ์๊ฐ ๋ณผ ์ ์๋ ์ฝํ ์ธ ๋ฅผ ๊ฒฐ์ฝ ๋ณด์ง ์์ต๋๋ค. ์์งํ ๋์์ธ ใ์์ฑ ์์ ์ ํํฐ๋งใ์ ํท๊ฐ๋ฆฐ ๋๋ฆฌ์๋ฅผ ์ง์ต๋๋ค: ๋ชจ๋ธ์ ์ ๊ธ์ด ๊ฑธ๋ฆฐ ๋ฌธ์๋ฅผ ์ด๋ฏธ ์ฝ์๊ณ , ๊ทธ ์์ง๋ฅผ ํจ๋ฌํ๋ ์ด์ฆ๋ก ํ๋ ค ๋ผ ๊ฒ์ ๋๋ค.
์ด ์ฅ์ ๋์ํ๋ ์ ๊ทผ ์ ์ด ์คํ์ผ๋ก ํฉ์ฑ๋๋ ๋ค ๋ฉ์ปค๋์ฆ์ ๊ฑท์ต๋๋ค โ ํ ๋๋ก์์ ๋ฌธ์ ์์ค ACL, ์ํฐํ๋ผ์ด์ฆ์ ๊ธฐ์กด ๋ฏผ๊ฐ๋ ๋ ์ด๋ธ๊ณผ ํตํฉ๋๋ RBAC, ์ํฐํ๋ผ์ด์ฆ ์ง์์ ๊ด๊ณ ์ค์ฌ ํ์ค์ ์ํ ReBAC, ๊ทธ๋ฆฌ๊ณ ๊ทธ ๋ชจ๋ ์๋์์ ๋๋ ์ฌ์ ํํฐ์ ์ฌํ ํํฐ์ ๊ท์จ.
7.1 ๋ฌธ์ ์์ค ACL๊ณผ ๋ฉํ๋ฐ์ดํฐ ํํฐ๋ง
๋ชจ๋ ์ฒญํฌ๋ ๋๊ฐ ๋ณผ ์ ์๋์ง๋ฅผ ์๋๋ค. ์ค๋ช ์ ๊ตฌํ์ ๊ฐ๋จํฉ๋๋ค. ์คํจ ๋ชจ๋๋, ๊ฑฐ์ ๋ชจ๋ ์ด๊ธฐ ํ๋ก๋์ ์์คํ ์ด ์ ์ด๋ ํ ๋ฒ์ ํ๋ฆด ๋งํผ ๋ฏธ๋ฌํฉ๋๋ค. ๊ฐ์ฅ ์ค์ํ ์ธ๋ถ๊ฐ ์ . ๊ทธ๋๋ผ๋๋ฆฌํฐ: ๊ธด ๋ณด๊ณ ์์ ๊ณต๊ฐ ์์ฝ๊ณผ ๊ธฐ๋ฐ ๋ถ๋ก์ด ์๊ณ , ์ฒญํฌ์ ๊ท ์ผํ๊ฒ ๋ณต์ฌ๋ ๋จ์ผ ๋ฌธ์ ์์ค ACL์ ๋ถ๋ก์ ๊ณผ๋ ๊ณต์ ํ๊ฑฐ๋ ์์ฝ์ ๊ณผ์ ๊ณต์ ํฉ๋๋ค. ๊ท๋ชจ์์ ํตํ๋ ํจํด์ ๋ ์ด์์ ์ธ์ง ํ์ฑ์ ๊ฑฐ์ณ ์น์ ์์ค ๊ถํ์ ํจ๊ป ์ฎ๊ธฐ๋ ๊ฒ์ ๋๋ค.
์ ์ ๋: ๊ถํ์ ๋ฐ๋๋๋ค. ์ธ๋ฑ์ฑ ์์ ์ ACL์ ์ฒญํฌ์ ๊ตฝ๊ณ ๊ฒฐ์ฝ ๋ค์ ํ๊ฐํ์ง ์์ผ๋ฉด, ๊ฑฐ์ง๋งํ๋ ์์คํ ์ ์ป๊ฒ ๋ฉ๋๋ค. ์ฒญํฌ ๋ฉํ๋ฐ์ดํฐ์ ์์ ์๋ณ์๋ฅผ ์ ์ฅํ๊ณ , ์ฟผ๋ฆฌ ์์ ์ ์งง์ TTL ์บ์ ๋ค์์ ์์ฒ ์์คํ ์ ๋ํด ์ด์ ์๋ ACL์ ํด์ํ์ญ์์ค. ์์ ๊ณต๊ฐ: ๋ต์ด ์ ๊ธ์ด ๊ฑธ๋ฆฐ ๋ฌธ์ ์์ ์ด๊ณ ์๋ค๋ฉด, ์์คํ ์ ํ๊ฐํ๊ฑฐ๋ ์์ ๋ง๋งํ๊ฒ ใ๋ชจ๋ฆ ๋๋คใ๋ผ๊ณ ๋งํด์๋ ์ ๋ฉ๋๋ค โ ใ์ด ์ฃผ์ ์ ์๋ฃ๊ฐ ์์ง๋ง ๋น์ ์ ๊ทธ๊ฒ์ ๋ณผ ๊ถํ์ด ์์ต๋๋คใ๋ผ๊ณ ๋งํด์ผ ํฉ๋๋ค. ๊ทธ๋ฌ๋ ค๋ฉด ๋ ๋ฒ์งธ ํํฐ๋ง ์๋ ํธ์ถ์ด ํ์ํ๊ฑฐ๋, ๋ฒกํฐ ๋ฐ์ดํฐ๋ฒ ์ด์ค๊ฐ ใ๋งค์น ์์ใ๊ณผ ใ๋งค์น๋์์ง๋ง ํํฐ๋ง๋จใ์ ๊ตฌ๋ถํด์ผ ํ๋ฉฐ, ๋๋ถ๋ถ์ ๊ตฌํ์ ์ด ๋ถ๋ถ์ ๋ฏธ๋ค ๋ก๋๋ค.
7.2 RBAC์ Microsoft Purview ๋ฏผ๊ฐ๋ ๋ ์ด๋ธ
RBAC๋ ๊ถํ ๊ณต๊ฐ์ ์์ถํฉ๋๋ค โ ์ฌ์ฉ์-๋ฌธ์ ๊ฐ์ ์๋ฐฑ๋ง ๊ฐ ๋์ , ์ ์ฑ ์ ์ญํ -๋ถ๋ฅ ๊ฐ์ ์๋ฐฑ ๊ฐ๋ก ์ค์ด๋ค๊ณ , ์ด๋ ๊ฐ์ฌ ๊ฐ๋ฅํ๊ณ ์ ์ง ๊ฐ๋ฅํฉ๋๋ค. ์ํฐํ๋ผ์ด์ฆ๊ฐ ์ด๋ฏธ RBAC ์์ ๊ตด๋ฌ๊ฐ๊ณ ์๋ค๋ฉด RAG์ ๊น๋ํ๊ฒ ๋ค์ด๋ง์ต๋๋ค. Microsoft ํ๊ฒฝ์์๋ ๊ทธ๊ฒ์ด Entra ID ๊ทธ๋ฃน๊ณผ Purview ๋ฏผ๊ฐ๋ ๋ ์ด๋ธ์ ์๋ฏธํฉ๋๋ค: ๊ณต๊ฐ, ์ผ๋ฐ, ๊ธฐ๋ฐ, ๊ทน๋น, ๊ทธ๋ฆฌ๊ณ ์ ํ์ ํ์ ๋ ์ด๋ธ. ๋ ์ด๋ธ์ ๋ฌธ์์ ํจ๊ป ์์ง์ด๊ณ , ํ์๋ ์ธ๋ฑ์ฑ ์์ ์ ๊ทธ๊ฒ์ ์ฝ์ด ์์ ๋ ์ด๋ธ ID๋ฅผ ์ฒญํฌ ๋ฉํ๋ฐ์ดํฐ์ ์๋๋ค.
ํตํฉ์ ๋จ์ํ์ง๋ง, ๋๋ฆฌํํธ๋ ๊ทธ๋ ์ง ์์ต๋๋ค. ์ธ๋ฑ์๊ฐ ๋ฌด์์ด๋ ๋ณตํธํํ ์ ์๋ ์๋น์ค ๊ณ์ ์ผ๋ก ๋๊ณ , ๊ทธ ์์ ๊ฒ์ ์์คํ ์ด ์ญํ ๊ธฐ๋ฐ ํํฐ๋ฅผ ๊ฐ์ ํ๋ค๋ฉด, ์ผ๋ฐ์์ ๊ธฐ๋ฐ๋ก ์ฌ๋ ์ด๋ธ๋ ๋ฌธ์๋ โ ์ธ๋ฑ์๊ฐ ๊ทธ ๋ณ๊ฒฝ์ ์์์ฑ์ง ์๋ ํ โ ์ด๋ฏธ ์ธ๋ฑ์ฑ๋ ์ฒญํฌ๊ฐ ์ฌ๋ ์ด๋ธ๋์ง ์์ต๋๋ค. ์ด๋ฅผ ๋ง๊ฒ ํ๋ ์์คํ ์ ์์ฒ์ ๋ํ ์ง์ ์กฐ์ ์ ๋๋ฆฝ๋๋ค. ํ๋ฆฌ๋ ์์คํ ์ ๊ฐ์ฌ ์ค์ ๋๋ฆฌํํธ๋ฅผ ๋ฐ๊ฒฌํ๊ณ , ๊ทธ ๋ฐ๊ฒฌ์ ๋ฌด๊ฒ์ต๋๋ค.
7.3 Zanzibar์ SpiceDB๋ก ๊ฐ๋ ReBAC
RBAC๋ ใ์ธ์ผ์ฆ ๋ถ์์ ์์ผ๋ฉด์ ๋์์ Acme Corp ๊ฑฐ๋์ ๋ฐฐ์ ๋ ๋๊ตฌ๋ ใ์ ํํํ์ง ๋ชปํฉ๋๋ค. ๊ทธ๊ฒ์ ๋จ์ํ ์ญํ ์ด ์๋๋ผ ์ฌ์ฉ์์ ์์ ์ฌ์ด์ ๊ด๊ณ์ ๋ํ ์ถ๋ก ์ ์๊ตฌํฉ๋๋ค. ๊ตฌ๊ธ์ Zanzibar ๋ ผ๋ฌธ์์ ํ์ํ๋๊ณ SpiceDB์ OpenFGA๋ก ์คํ์์ค์์ ์ฌ์ฉ ๊ฐ๋ฅํ ๊ด๊ณ ๊ธฐ๋ฐ ์ ๊ทผ ์ ์ด๋ ๊ทธ๋ํ๋ฅผ ์ ์ฅํฉ๋๋ค: ใAlice๋ ์์ง๋์ด๋ง์ ๋ฉค๋ฒใ, ใ์์ง๋์ด๋ง์ ํด๋ Specs์ ๋ทฐ์ดใ, ใSpec-101์ Specs์ ์์ใ. ๊ถํ ๊ฒ์ฌ๊ฐ ๊ทธ๋ํ ์ํ๊ฐ ๋ฉ๋๋ค.
RAG์์ ํตํฉ ํจํด์ ๊น๋ํฉ๋๋ค. SpiceDB๋ ์ด ์ฌ์ฉ์๊ฐ ๋ณผ ์ ์๋ ๋ฌธ์๊ฐ ๋ฌด์์ ๋๊น?๋ผ๋ ์ง๋ฌธ์ ๋ฐ์ ๋ฌธ์ ID ๋ชฉ๋ก์ ๋๋ ค์ฃผ๊ณ , ๊ฒ์ ์์คํ ์ ๊ทธ ๋ชฉ๋ก์ ๋ฒกํฐ ๊ฒ์์ ๋ฉํ๋ฐ์ดํฐ ํํฐ๋ก ๋๊น๋๋ค. Zanzibar์ ์ฃผํค(zookie)๋ ๊ฒ์ ํธ์ถ์ด ๋ฐฉ๊ธ ๋ถ์ฌ๋ ์ ๊ทผ๋งํผ์ ์ต์ ์ ์ผ๊ด์ฑ์ ์๊ตฌํ๋๋ก ํฉ๋๋ค โ 10์ ์ ๊ฐ์ ํ๋ก์ ํธ์ ์ถ๊ฐ๋์ด 10์ 1๋ถ์ ์ง๋ฌธ์ ๋์ง๋ ์ฌ์ฉ์๊ฐ ์ ๋ฌธ์๋ฅผ ๋ณด๊ฒ ๋ฉ๋๋ค. ์ด์ ๋น์ฉ์ SpiceDB๊ฐ HA์ ์ฌ์ฉ์๋ณ ๋ฌธ์ ๋ชฉ๋ก์ ๊ณต๊ฒฉ์ ์ธ ์งง์ TTL ์บ์ฑ์ด ํ์ํ ์ฟผ๋ฆฌ ๊ฒฝ๋ก์ ํต์ฌ ์์กด์ฑ์ด ๋๋ค๋ ์ ์ ๋๋ค. ์ฑ์ํ ์์คํ ์ ์ข ์ข RBAC์ ReBAC๋ฅผ ํจ๊ป ์๋๋ค โ ๊ด๋ฒ์ํ ๋ฏผ๊ฐ๋ ์ ์ฑ ์๋ RBAC, ์ธ๋ฐํ ๊ด๊ณ ์ ์ฑ ์๋ ReBAC๋ฅผ, ํ์ฉ๋ ์งํฉ์ ๊ต์งํฉ์ผ๋ก ๊ฒฐํฉํฉ๋๋ค.
7.4 ์ฌ์ ํํฐ, ์ฌํ ํํฐ, ๊ทธ๋ฆฌ๊ณ ๊ทธ ๋ชจ๋ ์๋์ ๊ท์จ
์ฌ์ ํํฐ๋ง์ ๋ฒกํฐ ๊ฒ์ ์ ์ ์ธ๊ฐ ์ ์ด๋ฅผ ์ ์ฉํฉ๋๋ค โ ์ธ๋ฑ์ค๊ฐ ๋จผ์ ํ๋ณด ์งํฉ์ ์ ํํ๊ณ , ๊ทธ ์ ํ ์์์ ์ ์ฌ๋๋ฅผ ๋๋ฆฝ๋๋ค. ๊ฐ๋ ์ ์ผ๋ก ๊น๋ํ๊ณ ์์ ํ ๊ธฐ๋ณธ๊ฐ์ด์ง๋ง, ์ฑ๋ฅ์ ์ธ๋ฑ์ค ๊ตฌ์กฐ์ ๋ฌ๋ ค ์์ต๋๋ค. ๋งค์ฐ ์ ํ์ ์ธ ํํฐ๋ฅผ ๊ฐ์ง HNSW๋ ๊ทธ๋ํ ์ํ๊ฐ ๋งค์น๋์ง ์๋ ๋ ธ๋๋ฅผ ๋ง์ด ์ง๋๋ฉฐ ๊ฐํ๋ฅด๊ฒ ํดํํ ์ ์๊ณ , Weaviate์ Qdrant์ filterable-HNSW ๋ณ์ข , Pinecone๊ณผ Milvus์ ํ ๋ํธ๋ณ ๋ค์์คํ์ด์ค๋ ๋น์ฉ์ ์ํํ์ง๋ง ์์ ์ง๋ ์์ต๋๋ค.
์ฌํ ํํฐ๋ง์ ์์๋ฅผ ๋ค์ง์ต๋๋ค. HNSW์ ์ ์๋ ฅ, ์ฝํด์ง ๋ณด์: top-K ๋์, ํ์ด๋ฐ ๊ธฐ๋ฐ ์ ๋ณด ๋์, ๊ทธ๋ฆฌ๊ณ ์ ์ฒด top-K๊ฐ ํํฐ๋ก ์ฌ๋ผ์ง ๋์ ์ ํ์ฑ ๋์. ์ค์ฉ์ ์ธ ํ๋ก๋์ ๋ต์ ๋์ ์ธต์ธต์ด ์๋ ๊ฒ์ ๋๋ค โ ๊ฐ์ฅ ๊ฑฐ์น ๊ณ ๋น ๋ฅธ ์ ์ด(ํ ๋ํธ, ๊ด๋ฒ์ํ ์ญํ )์๋ ์ฌ์ ํํฐ, ๋น์ธ๊ณ ์ ๋ฐํ ์ ์ด(SpiceDB ๋ชฉ๋ก, Purview ๋ ์ด๋ธ)์๋ ์ฌํ ํํฐ, ๊ทธ๋ฆฌ๊ณ ์ฌํ ํํฐ์๋ ์ถฉ๋ถํ ์์ ์งํฉ์ด ๋จ๋๋ก top-10 ๋์ top-50์ผ๋ก ๊ณผ ํ์ํฉ๋๋ค. ๋์ ์๋ฆฌ๊ฐ ๋ ๊ณณ ๋ ์์ต๋๋ค: ๊ธฐ๋ฐ ๋ฌธ์ ์ ๋ชฉ์ ์ธ์ฉํ๋ ํ๋กฌํํธ ํ ํ๋ฆฟ๊ณผ, ์ฟผ๋ฆฌ ๋ฌธ์์ด๋ง์ผ๋ก ํค๋ฅผ ๋ง๋ ์๋ต ์บ์. ๋ ๋ชจ๋ ์ธ๊ฐ ํ๋ฉด์ ์ผ๋ถ๊ฐ ๋์ด์ผ ํฉ๋๋ค.
์ 7์ฅ์ด ์ค๋นํ๋ ๊ฒ
์ ๊ทผ ์ ์ด๋ ๋๊ฐ ๋ฌด์์ ๋ณผ ์ ์๋์ง์ ๋ตํฉ๋๋ค. ๊ฐ๋ ๋ฌด์์ด ์๋ค๋ ๊ฒ์ ๊ฐ์ ํฉ๋๋ค. ์ฒญํฌ๊ฐ ๊ทธ ํํ๋ก ์๋ฒ ๋๋์์ด์ผ ํ๋์ง๋ ๋ฌป์ง ์์ต๋๋ค โ ๊ณ ๊ฐ ์ด๋ฆ, ์ฌํ๋ณด์ฅ๋ฒํธ, ๋ ์ ์ฝ๋ ๊ฒฝ๋ก๊ฐ ์ฌ๋ฐ๋ฅธ ์ธ๊ฐ๋ง ๋จ์ด์ง๋ฉด ํ๋ฉดํ๋๊ธฐ๋ฅผ ๊ธฐ๋ค๋ฆฌ๋ฉฐ ๋ฒกํฐ ์คํ ์ด์ ์์ ์์ด๋ ๋๋์ง. ๊ทธ๊ฒ์ด ๋น์๋ณํ์ ์ง๋ฌธ์ด๊ณ , ๋ค์ ์ฅ์ ์ฃผ์ ์ ๋๋ค.
๋ค์ โ ์ 8์ฅ: RAG ํ์ดํ๋ผ์ธ์ ๋ฐ์ดํฐ ๋น์๋ณํ. ์์ฑ ์ ๋ ์์ฑ ํ, ๋ง์คํน ๋ ํฉ์ฑ ์นํ ๋ ์ฐจ๋ถ ํ๋ผ์ด๋ฒ์, ๊ทธ๋ฆฌ๊ณ ๋ชจ๋ ์ ํ์ด ํต๊ณผํด์ผ ํ๋ ํจ์ฉ-ํ๋ผ์ด๋ฒ์ ํธ๋ ์ด๋์คํ.