회원의 시청 이력과 작품 정보, 접속 맥락을 텍스트로 언어화해 GenRec 모델에 입력하고, vLLM의 프리필 전용 추론으로 카탈로그 전체의 추천 순위를 계산하는 파이프라인 도식

GenRec: An LLM-Backed Recommendation Ranker at Netflix

넷플릭스가 수천 개의 수작업 피처에 기반한 추천 랭커를 대체할 후보로 LLM 기반 랭커 GenRec을 만들고, 기존 랭커와 비교한 결과를 공개했다. GenRec은 시청 이력을 텍스트로 서술해 프리필 한 번으로 카탈로그 전체의 점수를 계산하며, 사후 학습 라벨을 40분의 1만 쓰고도 대규모 A/B 테스트에서 통계적으로 유의한 개선을 얻었다.

September 29, 2026 · 13 분 · 서소영
세 개의 토폴로지 레이어 — eBPF 흐름 로그가 네트워크 그래프를, IPC 메트릭이 애플리케이션 그래프를, 분산 트레이스가 요청 그래프를 만들어 통합 뷰로 합쳐지는 도식.

From Silos to Service Topology: Why Netflix Built a Real-Time Service Map

Netflix가 수천 개의 마이크로서비스 의존성을 실시간으로 보여주는 Service Topology를 어떻게 설계했는지 — eBPF·IPC·트레이싱 세 소스를 독립 그래프로 두고 필요할 때 통합 뷰로 합치는 다층 아키텍처.

May 31, 2026 · 6 분 · 서소영