LLM Wiki 실전 가이드: RAG의 한계를 넘는 누적 지식 베이스 구축과 운영 패턴

Mon, 26 Oct 2026 00:00:00 +0900

최근 LLM을 문서와 연동할 때 표준처럼 쓰이던 RAG(Retrieval-Augmented Generation)의 한계를 느끼는 엔지니어들이 늘고 있습니다. 문서를 잘게 쪼개어 벡터 DB에 넣고 질의할 때마다 검색하는 방식은 간단하지만, **“매번 처음부터 새로 읽고 조합해야 하며, 질문을 거듭해도 지식이 스스로 누적되지 않는다”**는 구조적 한계가 있기 때문입니다.

이 문제를 해결하기 위해 Andrej Karpathy가 제안한 아이디어가 바로 LLM Wiki입니다. LLM Wiki는 검색기가 아니라, 사람이 던져 넣은 원본 자료를 바탕으로 LLM이 마크다운 위키를 지속해서 작성·갱신·교차 검증하며 지식을 복리처럼 쌓아가는 패턴입니다.

Llm-Wiki on cdeclog

LLM Wiki 실전 가이드: RAG의 한계를 넘는 누적 지식 베이스 구축과 운영 패턴