루프 엔지니어링을 ‘기억’ 한 축에서 다시 보는 글. 한 단계에 얼마나 많은 컨텍스트를 모델에 보일지를 두고 토큰이 풍부한 루프와 빈약한 루프가 갈리며, 그 사이의 균형을 잡는 열쇠가 명시적 메모리 계층임을 분명히 밝힌다. 메모리 인프라 기업 Mem0의 관점이 깔린 글이지만, 루프의 기억이라는 차원을 정면으로 다룬다는 점에서 연재를 닫는 좌표로 삼을 만하다.
보험 대행사 TPA KOREA가 위시켓 AIDP와 함께 24시간 접수 챗봇을 도입한 사례. 챗봇 한 대를 더하는 것과 일하는 방식을 바꾸는 것은 다른 작업이며, AX의 갈림은 워크플로우 재설계와 운영 내재화에 있다는 점을 6가지 점검 질문으로 정리한다.
Google이 공식 공개한 생성형 AI 검색 최적화 가이드. AEO/GEO는 결국 SEO이며, llms.txt·청킹·AI 전용 리라이팅 같은 시중의 해킹은 효과가 없다는 입장을 명시한다.
벡터 DB도 청킹도 없이, LLM이 문서의 계층적 트리 인덱스를 추론하며 탐색하는 Vectorless RAG 프레임워크. FinanceBench 98.7% 정확도를 달성했다.
윗분의 지시를 받으면 우선 기억을 회상할 수 있게 돕는 도구를 만들어보려고 했다. 이분 그래프 + PageRank로 장기 기억을 구현했지만, 검색마다 LLM을 두 번 호출하는 구조가 실시간에 맞지 않아 채택을 포기했다.
AGENTS.md, RAG, Skills 어느 것도 에이전트의 도메인 지식 문제를 풀지 못한다. 가시성과 검색성 사이의 딜레마를 벗어나는 길은 도메인 파인튜닝뿐이라는 주장.
VectifyAI의 OpenKB는 문서를 한 번 컴파일하여 살아 있는 위키로 누적하는 오픈소스 지식 베이스 도구다. PageIndex로 긴 문서를 벡터 없이 검색하고, 결과물은 옵시디언 호환 마크다운으로 남긴다.
PoisonedRAG는 RAG 시스템의 지식 DB에 5개의 악성 텍스트만 넣으면 90% 이상의 확률로 LLM이 원하는 오답을 내놓게 만든다. 모델은 멀쩡한데 참고 자료가 오염된 것이다.