LLM

Anthropic이 Claude 내부에서 발견한 감정 회로의 구조는, 인지심리학자 리사 펠드먼 배럿이 인간 감정에 대해 30년 동안 정리해온 그림과 닮아 있다. 그 닮음을 따라가면 ‘AI 정렬’이라는 문제의 모양이 달라진다.

AI가 추론을 흉내 내는 시대가 끝나고 있다. 루프 트랜스포머는 뇌의 시상-피질 루프와 독립적으로 같은 해법에 도달했다. 이것이 AGI의 문턱인 이유를 이야기한다.

LLM에게 랜덤 문자열을 생성하게 한 뒤 해시 연산을 시키면, 외부 난수 없이도 PRNG 수준의 확률적 의사결정이 가능하다. 더 놀라운 건 CoT가 길어질수록 이 ‘주사위’의 품질이 올라간다는 것이다.