3줄 요약
- Karpathy의 LLM Wiki는 인간의 지식 누적에는 훌륭하지만, 자율 에이전트의 운영 메모리로는 구조적 한계가 있다.
- 에이전트 메모리는 선택적 주입, 메타데이터 스코어링, 충돌 해소 규칙, 감쇠 메커니즘이 필요하다.
- 마크다운(인간 인터페이스) + 구조화된 메모리(에이전트 기판)의 하이브리드가 실용적 방향이다.
위키 패턴이 작동하는 이유
Karpathy가 공유한 LLM Wiki 워크플로우는 깔끔한 이유가 있다.
- 원시 자료를 폴더에 넣는다
- LLM이 진화하는 마크다운 위키로 변환한다
- Obsidian으로 탐색한다
- 시간이 지나며 지식 베이스가 개선된다
복잡한 스택도, 무거운 인프라도 없다. 로컬 파일, 플레인 텍스트, 그리고 지식을 누적하는 모델. 대부분의 AI 시스템이 아직도 하는 검색 → 응답 → 망각 → 반복 루프를 깨뜨리는 패턴이다.
마크다운 자체의 강점도 한몫한다.
- 이식 가능하다
- 검사 가능하다
- 버전 관리된다
- 로컬 우선이다
- 장기 소유가 쉽다
Obsidian은 여기에 네비게이션, 그래프 뷰, 백링크, 검색을 얹는다. 인간의 지식 작업에 탁월한 조합이다.
에이전트 스케일에서 깨지는 다섯 가지 이유
바이럴 논의에서 빠진 더 어려운 질문이 있다: 사용자가 인간이 아니라 하루 종일 돌아가는 자율 에이전트일 때 무슨 일이 벌어지는가?
1. 에이전트는 페이지가 아니라 팩트를 원한다
인간은 페이지를 읽고 싶을 수 있지만, 에이전트는 보통 하나의 답만 필요하다.
- 선호하는 배포 대상
- 현재 예산 한도
- 미해결 태스크
- 최신 사용자 선호
시스템이 한 문장을 추출하기 위해 문서를 로드해야 한다면, 수천 번의 호출에 걸쳐 구조적 낭비가 된다.
2. 토큰은 실질 예산이다
컨텍스트에 들어오는 무관한 토큰은 비용, 지연, 주의 분산 위험을 동시에 높인다. 장기 실행 에이전트에게 필요한 것은 가장 많은 메모리가 아니라 적확한 메모리다.
3. 메모리 드리프트는 정돈 문제가 아니라 신뢰성 문제다
선호가 바뀌고, 프로젝트가 진화하고, 결정이 번복되고, 가정이 만료된다. 오래된 노트가 새 정보와 같은 순위로 검색되면, 에이전트는 stale state 위에서 추론하게 된다.
4. 저장이 아닌 우선순위 결정이 진짜 과제
메모리가 커질수록 진짜 도전은 무엇이 최신인지, 무엇이 강한지, 무엇이 지금 관련 있는지, 무엇을 무시해야 하는지를 판별하는 것이다. 저장은 쉽고, 우선순위 결정(prioritization)이 어렵다.
5. 연속 쓰기가 모든 것을 바꾼다
인간은 가끔 노트를 업데이트한다. 에이전트는 태스크, 대화, 도구 호출, 결정 후마다 메모리를 갱신할 수 있다. 이 빈도에서는 구조화된 쓰기, 결정론적 갱신, 쿼리 가능한 상태가 필요하다. 메모리가 노트북이 아니라 인프라가 되는 지점이다.
에이전트 메모리가 요구하는 원칙
가장 강력한 메모리 시스템들이 수렴하고 있는 원칙이 있다.
선택적 주입(Selective Injection): 관련 있는 메모리만 컨텍스트에 들어간다. 나머지는 스토리지에 남는다.
구조화된 검색(Structured Retrieval): 에이전트가 쿼리할 수 있어야 한다.
- 최신 유효 선호
- 태스크 상태
- 관련 이전 결정
- 관련 선행 컨텍스트
노트를 읽고 추론하는 것이 아니라 직접 조회하는 것이다.
스코어링(Scoring): 메모리에는 신뢰도(confidence), 신선도(freshness), 중요도(importance), 강화 횟수(reinforcement) 같은 메타데이터가 필요하다. 스코어링 없이는 모든 기억이 동등하게 경쟁한다.
충돌 해소(Conflict Resolution): 두 사실이 충돌할 때 시스템에 규칙이 있어야 한다. 새로운 것이 이긴다. 신뢰도가 높은 것이 이긴다. 또는 사용자에게 묻는다. 조용한 모순(silent contradiction)은 실패다.
감쇠(Decay): 일부 메모리는 약해지거나, 만료되거나, 아카이브되어야 한다. 모든 것을 동등한 강도로 기억하는 에이전트는 결국 기억력이 나빠진다.
하이브리드 아키텍처
이것은 마크다운 대 데이터베이스의 문제가 아니다. 보통 둘 다 사용하는 것이 답이다.
인간을 위한 마크다운: 노트, 보고서, 요약, 일지, 아이덴티티 파일.
에이전트를 위한 구조화된 메모리: 팩트, 엔티티, 관계, 선호, 태스크 상태, 인덱스, 타임스탬프, 스코어링.
인간에게 가독성을, 에이전트에게 효율성을 동시에 제공한다. 마크다운은 인터페이스. 구조화된 메모리는 기판(substrate). 이것이 실용적 방향이다.
가장 흥미로운 지점
Karpathy의 패턴이 가진 진짜 기여는 상태 없는 챗 너머로 사람들을 이동시킨 것이다. 지식을 누적하게 만들고, 소유권을 로컬에 유지하고, AI를 일회성 비서 대신 협력자로 전환한 것.
하지만 인간 대면 지식 시스템과 머신 대면 메모리 시스템은 다른 범주라는 점이 핵심이다. 인간에게 아름답게 작동하는 것이 자동으로 기계가 필요로 하는 것은 아니다.
업계가 더 많은 도구, 더 큰 컨텍스트 윈도우, 더 빠른 모델, 더 많은 통합을 향해 경주하고 있지만, 기판(substrate)이 더 중요하다. 메모리가 약하면 에이전트는 강력하되 불안정해진다. 행동할 수는 있지만 맥락을 안정적으로 누적할 수 없다.
출처
Zaid (@Ctrl_Alt_Zaid), 2026년 4월 원문: https://x.com/ctrl_alt_zaid/status/2049082538686382397