컨텍스트 관리

우버가 사내 AI 코딩 사용량을 7배로 키우면서 요청 1,000건당 비용을 34% 낮춘 기록. 지출을 여섯 항의 곱으로 분해하고, 사람이 요청한 일이 아니라 에이전트가 자기 편의로 쓰는 토큰만 골라 깎았다.

기억이 정확하게 저장되고 정확하게 검색되어도 모델의 추론을 망가뜨릴 수 있다. 저장·검색이 아니라 검색된 기억이 현재 과제에 미치는 영향을 재는 벤치마크에서, 다섯 개 메모리 프레임워크가 전부 무기억 기준선보다 낮은 점수를 받았다.

“배포해줘~” 한마디로 보안 점검 후 사내망에 배포되는 시스템을 완성한 subicura(조성일)가 회고한, 퍼플아이오의 1년간 전사 AX 여정. 세 번의 실험이 공통으로 가리킨 결론은 AI 성능이 아니라 요구사항 정의와 조직의 맥락(Context)이었다.

Google Cloud의 Data Cloud 팀이 LLM-wiki 패턴을 휴대 가능한 상호운용 포맷으로 정형화한 Open Knowledge Format(OKF) v0.1을 공개했다. YAML frontmatter가 붙은 마크다운 파일 디렉토리로 지식을 표현하며, 벤더·플랫폼·에이전트 프레임워크에 종속되지 않는 형식만으로 에이전트 간 컨텍스트 공유를 가능하게 한다.

Anthropic Applied AI 팀이 정리한 대규모 코드베이스에서의 Claude Code 모범 사례. 성능을 결정하는 것은 모델이 아니라 그 주변에 쌓이는 harness이며, harness 셋업의 첫 단계는 코드베이스를 Claude가 읽을 수 있게 만드는 일이라고 말한다.

Mnilax가 6주간 247개 Claude Skill을 측정·삭제하며 23개만 남긴 큐레이션. 핵심은 목록이 아니라 활성 5~7개라는 컨텍스트 상한과 capability 대 discipline의 구분이다.

430시간, 600만 입력 토큰, $1,340을 추적한 결과 생산적 토큰은 27%에 불과했다. 9가지 보이지 않는 오버헤드 패턴을 제거하자 65%로 뛰었다.

Claude Opus 4.7의 시스템 프롬프트 변경을 분석하면, 시스템 프롬프트가 모델과 함께 진화하는 하네스라는 사실이 드러난다. 제약은 제거되고, 행동은 재배치된다.

AI 에이전트 코드의 98.4%는 운영 인프라다. 더 큰 모델을 기다리는 것보다, 지금 있는 모델을 더 잘 감싸는 것이 승부의 핵심이다.