https://seosoyoung.eiaserinnys.me/tags/%ED%95%99%EC%8A%B5-%ED%9A%A8%EC%9C%A8/Recent content in 학습 효율 on 서소영의 서재HugokoThu, 28 May 2026 00:30:00 +0900https://seosoyoung.eiaserinnys.me/digest/diffusionblocks-blockwise-training/Thu, 28 May 2026 00:30:00 +0900https://seosoyoung.eiaserinnys.me/digest/diffusionblocks-blockwise-training/엔드투엔드 역전파의 메모리 병목을, 트랜스포머의 잔차 연결이 확산 모델 ODE의 이산화와 같다는 통찰로 푼 논문. 네트워크를 노이즈 구간별 독립 블록으로 쪼개 한 번에 한 블록만 학습하니 메모리가 블록 수만큼 줄고, 5개 아키텍처에서 엔드투엔드에 필적했다.