대부분의 사람들이 사용하는 AI + 지식 워크플로우에는 더러운 비밀이 있습니다: 실제로는 아무것도 축적되지 않습니다.
문서를 업로드하고, 질문하고, LLM이 원본 청크를 스캔해서 답변을 조립합니다. 생산적인 것처럼 느껴지죠 — 탭을 닫을 때까지는요.
시스템이 파악한 모든 것이 사라집니다. 다음 세션이면 다시 0부터 시작합니다. 영원히.
이것이 RAG입니다. NotebookLM, ChatGPT 파일 업로드, 그리고 거의 모든 “문서와 대화하기” 제품을 구동합니다. 작동은 합니다 — 하지만 단단한 한계가 있습니다: 복리가 없습니다. 시스템은 당신의 지식에 대해 더 똑똑해지지 않습니다. 그저 같은 인사이트를 계속 다시 도출할 뿐입니다.
Andrej Karpathy가 이 한계를 깨는 패턴을 제안합니다: LLM Wiki.
핵심 아이디어
매번 원본 문서에서 검색하는 대신, LLM이 영구적인 위키를 구축하고 유지합니다 — 당신과 소스 사이에 있는 구조화된, 상호 연결된 마크다운 파일 세트입니다.
문서를 추가할 때 LLM은 단순히 인덱싱하지 않습니다. 읽고, 추출하고, 위키에 통합합니다 — 엔티티 페이지 업데이트, 요약 정제, 모순 플래깅, 전체 종합 강화.
핵심 전환: 지식은 매 쿼리마다 재생성되는 것이 아니라, 한 번 컴파일되고 지속적으로 업데이트됩니다.
이것이 위키를 복리 시스템으로 만듭니다.
- 크로스 참조가 이미 존재합니다.
- 모순이 이미 표면화되었습니다.
- 인사이트는 시간이 지나며 진화합니다.
- 당신의 질문조차 새 페이지가 될 수 있습니다 — 그래서 탐색도 복리로 쌓입니다.
아키텍처
| 레이어 | 설명 |
|---|---|
| Raw Sources | 문서, 논문, 전사본은 변경되지 않음. 이것이 진실의 층입니다. |
| The Wiki | LLM이 생성한 마크다운 페이지의 구조화된 컬렉션 — 요약, 엔티티, 개념, 비교, 진행 중인 종합. LLM이 이 층을 유지합니다. |
| The Schema | 구조, 컨벤션, 워크플로우를 정의하는 가이드 설정(CLAUDE.md나 AGENTS.md 같은). 이것이 LLM을 훈련된 지식 유지 관리자로 만듭니다. |
실제 작동 방식
📥 수집(Ingestion)
소스를 추가하면 저장이 아니라 깊은 통합이 트리거됩니다. LLM이 읽고, 인사이트를 추출하고, 요약을 작성하고, 여러 페이지를 업데이트하고, 모든 것을 연결합니다. 하나의 문서가 10~15개 페이지에 영향을 미칠 수 있습니다.
🔍 질의(Querying)
질문은 원본 파일이 아니라 위키에서 답변합니다. LLM이 구조화된 지식을 탐색하고, 응답을 종합하며, 가치 있는 답변을 시스템에 새 페이지로 다시 저장할 수 있습니다.
🧹 린트(Linting)
시스템이 스스로 점검합니다: 모순 탐지, 오래된 주장, 누락된 링크, 미개발 개념. 시간이 지나며 능동적으로 스스로 개선합니다.
왜 이 방식이 실제로 작동하는가
지식 시스템의 진짜 병목은 사고가 아니라 유지보수입니다. 링크 업데이트, 모순 해결, 모든 것을 일관되게 유지하는 것은 지루한 작업입니다. 인간은 유지 관리가 압도적이 되면 시스템을 포기합니다.
LLM은 그렇지 않습니다. 잊지 않고, 지루해하지 않고, 반복적인 작업을 피하지 않습니다. 수십 개 페이지를 즉시이고 일관되게 업데이트할 수 있습니다.
이것은 유지 관리 비용을 거의 0으로 떨어뜨립니다 — 그래서 시스템이 살아있고 신뢰할 수 있게 유지됩니다.
당신의 역할은 명확해집니다: 입력 큐레이션, 사고 가이드, 더 나은 질문하기. 나머지 모든 것은 LLM이 처리합니다.
사용 사례
이 패턴은 연구를 훨씬 뛰어넘어 적용됩니다:
- 개인 개발: 목표, 습관, 인사이트의 구조화된 추적
- 딥 리서치: 논문과 보고서 전반에 걸쳐 구축되는 진화하는 논제
- 독서: 장별 분석이 풍부한 컴패니언 위키를 형성
- 팀 지식: 회의, 채팅, 통화에서 구축된 내부 시스템
- 지식이 시간에 따라 축적되고 구조가 필요한 모든 도메인
Memex의 순간
이 아이디어는 Vannevar Bush의 1945년 Memex 비전을 메아리합니다 — 연결된 아이디어와 연상적 경로를 가진 개인 지식 시스템. 그 비전은 하나의 문제로 실패했습니다: 유지 관리.
이제, 그 문제는 해결되었습니다.
요약
RAG는 유용하지만 제한적입니다. 검색할 뿐 — 학습하거나 진화하지 않습니다.
LLM Wiki는 다릅니다. 복리되는 지식 시스템, 시간이 지나며 개선되고, 스스로 유지됩니다.
이것은 완성된 제품이 아닙니다 — 패턴입니다. LLM과 함께 구조, 스키마, 워크플로우를 설계하세요.
진짜 전환: 검색을 멈추세요. 컴파일을 시작하세요.
Karpathy의 원본 gist와 전체 구현 세부사항은 GitHub에서 확인할 수 있습니다. https://github.com/nashsu/llm_wiki