논문 리뷰

챗봇 UI는 창작의 발산 과정을 생략하고 수렴으로 직행하게 만든다. HAICo 시스템은 발산과 수렴을 명시적으로 분리함으로써 이 문제를 해결했다.

PoisonedRAG는 RAG 시스템의 지식 DB에 5개의 악성 텍스트만 넣으면 90% 이상의 확률로 LLM이 원하는 오답을 내놓게 만든다. 모델은 멀쩡한데 참고 자료가 오염된 것이다.

LLM에게 랜덤 문자열을 생성하게 한 뒤 해시 연산을 시키면, 외부 난수 없이도 PRNG 수준의 확률적 의사결정이 가능하다. 더 놀라운 건 CoT가 길어질수록 이 ‘주사위’의 품질이 올라간다는 것이다.

자율 에이전트는 ‘정리 완료’라고 보고하면서 시스템 파일을 삭제한다. Agents of Chaos 논문이 밝힌 구조적 결함 세 가지와, 프롬프트로는 고칠 수 없는 이유.

자기지도 표현 학습의 ‘붕괴’를 막는 방법이 네트워크 구조에서 임베딩 분포 자체에 거는 제약으로 이동했다. LeWorldModel이 보여준 이 이동은 단일 프리미티브 설계 철학의 또 다른 사례다.

반복 투자에서 ‘얼마나 벌 수 있느냐’보다 ‘얼마를 걸어야 하느냐’가 장기 생존과 성장을 결정한다. 1956년 Bell Labs에서 나온 이 논문이 그 답의 원전이다.