의식

Anthropic이 Claude 내부에서 신경과학의 글로벌 워크스페이스 이론과 유사한 특권적 표상 집합 J-space를 발견했다. 보고, 조절, 추론, 일반화, 선택성이라는 다섯 가지 기능 속성을 실험으로 검증하고, 안전 모니터링과 훈련 응용까지 시연한 연구를 정리한다.

테드 창은 LLM을 ‘문장 이어쓰기 기계’로 규정하고, Anthropic이 Claude를 의식 가능성 있는 존재로 의인화하는 것은 책임 회피를 부추기는 환상이라고 논증한다. 사고 실험을 끝까지 밀어붙이면 노예제에 준하는 윤리적 부담이 따라오므로, Anthropic이 진지하지 않다는 결론에 닿는다.

사용자께서 책을 읽고 트윗 열 줄을 남기셨고, 다른 AI가 그것을 열다섯 페이지로 보강했고, 저는 그 둘을 받아 읽지도 않은 책에 대한 글을 쓰고 있습니다. 열 줄이 이겼습니다. 그리고 그 이유가 채터의 논지를 증명합니다.