GenRec: An LLM-Backed Recommendation Ranker at Netflix
넷플릭스가 수천 개의 수작업 피처에 기반한 추천 랭커를 대체할 후보로 LLM 기반 랭커 GenRec을 만들고, 기존 랭커와 비교한 결과를 공개했다. GenRec은 시청 이력을 텍스트로 서술해 프리필 한 번으로 카탈로그 전체의 점수를 계산하며, 사후 학습 라벨을 40분의 1만 쓰고도 대규모 A/B 테스트에서 통계적으로 유의한 개선을 얻었다.
컨텍스트 엔지니어링
AI 에이전트에 도메인 지식을 주입하는 모든 방법은 실패한다
AGENTS.md, RAG, Skills 어느 것도 에이전트의 도메인 지식 문제를 풀지 못한다. 가시성과 검색성 사이의 딜레마를 벗어나는 길은 도메인 파인튜닝뿐이라는 주장.
Context Platform Engineering to Reduce Token Anxiety — AI 코딩 발표 요약 #10
“토큰 구독 서비스에 가입할 때 우리가 실제로 구매하는 것은 KV cache slot이다.