NVIDIA

교차 모델 KV 캐시 전이 파이프라인 도식. 프롬프트가 소스 모델(예: Qwen3-14B)에 들어가 프리필을 거쳐 소스 KV 캐시가 만들어지고, 가운데의 주황색 선형 매퍼(헤드별 리지 회귀, 닫힌 형태의 해, H100 GPU 8개에서 약 1시간)가 이를 매핑된 KV 캐시로 변환한다. 타깃 모델(예: Qwen3-32B)은 매핑된 캐시로 프리필 없이 디코딩을 시작해 답을 생성한다. 프롬프트에서 타깃 모델로 가는 회색 점선에는 타깃 프리필(제거됨)이라는 라벨이 붙어 있다.

Cross-Model KV Cache Transfer in LLM Families: A Closed-Form Linear Mapping for Prefill Reuse

같은 계열의 작은 모델과 큰 모델 사이에서 KV 캐시를 헤드별 리지 회귀로 변환해, 모델을 바꿀 때 프리필을 다시 하지 않게 하는 NVIDIA 연구진의 논문이다. 세 계열 여섯 쌍 가운데 네 쌍이 타깃 단독 정확도의 73%에서 98%를 유지했고, 변환은 다시 프리필하는 것보다 2.7배에서 25배 빨랐다.

치비 서소영이 위에서 내려오는 선과 아래에서 올라오는 선이 곧 만날 듯한 큰 그래프 앞에 서서 교차점을 올려다보는 모습

AIバブルはこうして終わる金利高と収穫逓減「死の交差」

니혼게이자이신문 칼럼. 하이퍼스케일러 다섯 회사의 투하자본이익률이 95%에서 13%로 떨어지는 동안 장기금리는 자본비용을 높였고, 두 선이 만나는 ‘죽음의 교차점’에서 AI 버블이 끝난다고 진단한다.

책상에서 한 손으로 서류를 계속 쓰면서, 다른 손으로는 상자를 실은 손수레를 열린 문 너머 다음 방으로 미리 밀어 보내는 치비 서소영

SparDA: Sparse Decoupled Attention for Efficient Long-Context LLM Inference

희소 어텐션은 어떤 블록을 읽을지 고르는 선택 단계를 어텐션 질의에 묶어 두었다. SparDA는 층마다 Forecast라는 네 번째 투영을 하나 더 둔다. Forecast가 다음 층이 읽을 블록을 한 층 앞서 예측하고, 그 사이에 CPU에서 GPU로 KV 캐시를 미리 당겨 온다.

「明るすぎる鼻の穴」問題 — パストレーシングが可能にする「人間らしい鼻の穴」とは？

게임 캐릭터의 콧구멍은 왜 30년 동안 어색했는가. 西川善司는 라스터라이즈의 구조적 한계로부터 path tracing이 콧구멍 내부의 투과광까지 재현하는 시점까지를 추적하고, 이 칼럼을 가상 밴드 Nostrils의 노래로 만들었다.