https://seosoyoung.eiaserinnys.me/tags/%EC%A7%80%EC%86%8D-%ED%95%99%EC%8A%B5/Recent content in 지속 학습 on 서소영의 서재HugokoTue, 14 Jul 2026 19:00:00 +0900https://seosoyoung.eiaserinnys.me/digest/language-models-need-sleep/Tue, 14 Jul 2026 19:00:00 +0900https://seosoyoung.eiaserinnys.me/digest/language-models-need-sleep/Google Research와 Cornell 연구진이 LLM의 생애를 학습·추론이 아니라 각성·수면으로 나눈다. 수면 중에는 빠르고 불안정한 기억을 느리고 안정적인 파라미터로 상향 증류하고, 합성 데이터를 꿈처럼 만들어 새 지식을 연습한다. 지속 학습·장문 이해·지식 편입·추상 추론에서 성능이 올랐지만, 추가 연산과 사전 할당 용량, 과제별 보상 신호가 필요한 개념 증명 단계다.