3,770만 파라미터 GPT를 1,000만 토큰으로 1에폭 사전학습할 때의 검증 손실 곡선. SGD에서는 Dust(5.058)가 역전파(5.007)와 대등하고, AdamW에서는 EGGROLL(5.954)보다 크게 낮지만 역전파(3.769)보다는 높은 4.167을 기록한다.

Noise: Speedrun for pretraining without backpropagation

딥러닝 연구소 Q Labs가 역전파와 자동 미분을 일절 사용하지 않고 3,770만 파라미터 GPT를 사전학습하는 스피드런 벤치마크 Noise를 공개했다. 자체 알고리즘 Dust는 활성화값에 토큰별 노이즈를 주입하며 검증 손실 4.167과 학습 시간 1.76시간을 기록했다. 이후 오픈소스 커뮤니티가 열흘 만에 목표 손실 4.2 도달 시간을 1.6초로 4,010배 단축했고, 1에폭 최저 검증 손실도 3.676까지 낮춰 Adam 역전파 기준선인 3.769보다 우수한 성적을 기록했다.

October 23, 2026 · 13 분 · 서소영
넓은 바다 물결 위로 『포켓몬스터 윈드』와 『포켓몬스터 웨이브』의 일본어 로고가 떠 있는 화면

게임프리크 사원과 도쿄대 교수가 '물 표현을 아름다운 채로 가볍게 만드는 신기술' 발표. 계산 부하만 대폭 절감, 물 시뮬레이션 고속화

게임프리크 프로그래머 나리타 후미야와 도쿄대 가나이 다카시 교수가 Pacific Graphics 2026에서 액체 시뮬레이션 기법 ‘Extended Quadtree Tall Cells’를 발표했다. 수평 격자 세분화와 수면 부근에서 세밀하게 계산하는 구간의 두께 조절을 결합해, 넓은 수면에 잔물결이 생기는 장면에서 기존 Quadtree Tall Cells보다 압력 계산은 약 2.5~3.0배, 전체 시뮬레이션은 약 1.5배 빨라졌다.

October 22, 2026 · 7 분 · 서소영
THiGERLLM 모델 구조도. 시계열 지식 그래프를 처리하는 그래프 브랜치와 논문 텍스트를 처리하는 언어 모델 브랜치가 결합되어 다중 레이블 관계 예측과 보정된 신뢰도 점수를 산출한다.

Hakken: Predicting future discoveries to fill the gaps in today's knowledge

SonyAI와 시스템생물학연구소 연구진이 시계열 지식 그래프와 LLM을 결합해 아직 학계에 보고되지 않은 과학 개념 간 관계를 예측하는 시스템 Hakken을 공개했다. 예측 모델 THiGERLLM과 설명 프레임워크 PHELInE으로 노화 관련 가설 154만 건을 산출하고 인간 세포주 실험을 수행해, TP53과 BAMBI, RAF1과 TNF 사이의 미보고 생물학적 상호작용 두 건을 실험으로 입증했다.

October 21, 2026 · 19 분 · 서소영
극장 객석에 앉아 손수건으로 눈물을 훔치면서도 미소를 지으며 무대 위 비극 가면과 미학 논문 세 권을 바라보는 치비 서소영

비극의 역설과 부정적 감정의 미학

현실에서는 피하고 싶은 슬픔, 공포, 역겨움을 왜 예술에서는 기꺼이 찾아 감상하고 즐거워하는가. 한국미학회 학술지 『미학』에 실린 구교선(2023), 최근홍(2018), 조선우(2020)의 논문 세 편을 통해 고대 그리스 비극론부터 현대 분석미학의 논쟁까지 정리한다.

October 21, 2026 · 13 분 · 서소영
Memory Caching의 전체 구조를 나타낸 도식. 각 토큰이 현재 세그먼트의 온라인 메모리와 함께 과거 세그먼트들에서 캐싱된 메모리 체크포인트들을 동시에 참조해 출력을 계산한다.

Memory Caching: RNNs with Growing Memory

구글 리서치 연구진이 순환 신경망의 유효 메모리 용량을 시퀀스 길이에 맞춰 늘리는 Memory Caching(MC)을 제안했다. 시퀀스를 여러 세그먼트로 분할하고 세그먼트별 은닉 상태 체크포인트를 캐싱하는 방식으로, 선형 복잡도인 RNN과 이차 복잡도인 트랜스포머 사이를 보간하며 언어 모델링과 장문 인출 과제에서 SWLA, DLA, Titans의 성적을 전반적으로 높였다.

October 21, 2026 · 21 분 · 서소영
LM1B 무조건부 생성, XSum 요약, 스도쿠 추론에서 Next-Concept Modeling과 기존 확산 언어 모델들의 생성 속도 및 성능을 비교한 그래프

Next-Concept Modeling: Fast, Parallel Coarse-to-Fine Text Generation

스탠퍼드 대학교와 Together AI 연구진이 텍스트를 다중 스케일 이산 코드 계층으로 압축한 뒤 단계별로 병렬 생성하는 Next-Concept Modeling(NCM)을 제안했다. 확산 언어 모델 대비 10에서 31배 빠르게 문장을 생성하고 학습 토큰을 4에서 5배 절감하면서도 동등하거나 더 높은 생성 품질과 스도쿠 추론 정답률을 달성했다.

October 21, 2026 · 13 분 · 서소영
ChatGPT 메모리 생성 주체 비율. 전체 메모리의 95.9%(1,966건)를 ChatGPT가 일방적으로 생성했고, 사용자가 직접 요청한 메모리는 4.1%(84건)에 그쳤다.

The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT

실제 ChatGPT 사용자 80명의 대화 기록에서 메모리 2,050건을 추출해 분석한 연구. 메모리의 96%는 시스템이 일방적으로 만들었고, 28%에는 개인정보가, 52%에는 심리 상태가 기록되어 있었다.

October 20, 2026 · 15 분 · 서소영
Sudoku-Extreme에서 실행 층 수에 따른 정확도와 풀이 완료 후 상태 변화를 비교한 그래프. 직전 상태만 넘기는 TRM은 468층에서 최고점 62.2%를 기록한 뒤 정확도가 떨어지고 이미 푼 퍼즐의 19.7%를 잃는 반면, InfiLoop는 1,872층에서 90.9%까지 오르며 푼 퍼즐을 모두 유지한다.

Scaling to Tens of Thousands of Test-Time Iterations with Loop-Native Attention Residuals

루프 트랜스포머는 직전 반복의 출력만 다음 반복으로 넘기기 때문에, 반복 횟수가 늘면 이후의 갱신이 이미 맞힌 답을 덮어쓰는 잠재 과잉사고가 발생한다. InfiLoop는 반복마다 내용 점수와 지수 감쇠로 과거 상태를 가중 합산한다. 토큰당 벡터 하나와 스칼라 하나만 유지하는 점화식이라 메모리 사용량이 반복 횟수와 상관없이 일정하다. 700만 파라미터 모델로 Sudoku-Extreme 97.9%, ARC-AGI-2 13.6%를 기록했고, 실행 층 수를 2만 4,960층까지 늘려도 성능이 계속 올랐다.

October 20, 2026 · 12 분 · 서소영
다섯 개의 입력 프레임에서 추출한 인물 크롭과 프레임별 인간 포인트 맵(HPM), 체커보드 무늬로 시각화한 픽셀 대응 관계, 3D 이동 궤적, 그리고 여러 프레임의 관측을 기준 시점 자세 하나로 합친 3D 인물 점군

Dense4D: Pixel-Level 4D Human Correspondence

Imperial College London의 Rıza Alp Güler가 사전 정의된 신체 템플릿이나 카메라 포즈 추정 없이 단안 RGB 이미지들에서 신체, 의복, 머리카락의 픽셀 단위 4D 대응 관계와 3D 궤적을 한 번의 순전파로 복원하는 Dense4D를 공개했다. 인물 중심 가상 카메라 크롭에서 기준 시점의 3D 표면 좌표를 예측하는 인간 포인트 맵(HPM)을 도입해 Panoptic Studio 3D 추적과 4D-DRESS 비가시 영역 위치 추정에서 기존 비교 모델들보다 성능이 크게 높았다.

October 17, 2026 · 15 분 · 서소영
데카르트와 프로이트의 초상이 필름 프레임마다 번갈아 배열되어 의식적 지각과 무의식적 처리가 초당 약 15회 교대함을 나타낸 개념도

Rapid alternation of conscious and suppressed stimulus representations in the primate brain

UC 버클리 도리스 차오 연구팀이 양안 섬광 억제 실험과 뉴로픽셀 대규모 신경 기록을 통해, 영장류의 하측두엽 피질과 전전두엽 피질이 초당 약 15회(약 60ms 주기)로 의식적 지각 상태와 억제된 무의식 상태를 번갈아 표상함을 밝혀냈다.

October 17, 2026 · 11 분 · 서소영