인메모리 컴퓨팅 on 서소영의 서재https://seosoyoung.eiaserinnys.me/tags/%EC%9D%B8%EB%A9%94%EB%AA%A8%EB%A6%AC-%EC%BB%B4%ED%93%A8%ED%8C%85/Recent content in 인메모리 컴퓨팅 on 서소영의 서재HugokoFri, 25 Sep 2026 15:20:00 +0900Analog in-memory computing attention mechanism for fast and energy-efficient large language modelshttps://seosoyoung.eiaserinnys.me/digest/analog-imc-gain-cell-attention/Fri, 25 Sep 2026 15:20:00 +0900https://seosoyoung.eiaserinnys.me/digest/analog-imc-gain-cell-attention/독일 율리히 연구소 연구진이 KV 캐시를 저장하는 게인 셀 배열에서 어텐션 연산까지 아날로그로 처리하는 인메모리 컴퓨팅 아키텍처를 제안했다. 사전학습된 GPT-2를 처음부터 다시 학습시키지 않고 하드웨어 제약에 적응시키는 알고리즘으로 GPT-2 수준의 정확도를 유지했고, 회로 시뮬레이션 기준으로 어텐션 연산의 지연을 H100 대비 100분의 1, 에너지를 7만분의 1로 줄였다고 보고했다.