Advice for a (young) investigator in the first and last days of the Anthropocene

3줄 요약

1. 확산 모델을 처음 제안한 연구자 중 한 명인 야샤 졸-딕슈타인(Jascha Sohl-Dickstein)은 지금 Anthropic에서 일한다. 2026년 6월 12일 스탠퍼드 대학교가 연 물리학 및 AI 학회(PAI26)에서, 그는 45분 동안 젊은 연구자에게 건네는 조언을 이야기했다.
2. 그는 학습 연산량, AI가 혼자 해내는 작업의 길이, 에르되시 미해결 문제 풀이 기록을 근거로 AI 능력이 지수적으로 늘고 있고 아직 멈출 기미가 없다고 진단한다. 샌프란시스코의 AI 연구소들은 AGI가 등장하기까지 1년에서 5년이 남았다는 데 대체로 동의한다.
3. 그는 이런 상황에서 연구자가 완성 시점에도 의미가 남을 빠른 프로젝트를 고르고, AI 도구를 매일 쓰며, 안전한 경력 대신 자랑스러울 일을 택해야 한다고 권한다. 지수 성장의 초입에 있는 지금 개인의 작은 선택이 AI의 미래를 크게 바꾼다는 것이 그의 결론이다.

강연 제목과 출발점

강연 제목은 스페인 신경과학자 산티아고 라몬 이 카할(Santiago Ramón y Cajal)의 책 『젊은 연구자에게 주는 조언(Advice for a Young Investigator)』에서 따와 변주했다. 카할은 신경세포 연구로 노벨상을 받은 현대 신경과학의 창시자이고, 이 책은 연구자의 태도를 다룬, 주관이 뚜렷한 실용서다.

첫 슬라이드에는 1600년부터 지금까지의 세계 GDP 곡선이 있다. 거의 평평하던 곡선이 최근 수십 년 사이 수직에 가깝게 치솟고, 곡선 끝에 선 사람이 “나는 평범한 시대에 살고 있으니 미래도 지금과 비슷할 것"이라고 생각한다.¹ 졸-딕슈타인은 이 생각이 틀렸다고 설득하는 것이 강연의 첫 번째 목표라고 밝혔다. AI는 세상을 바꾸는 중이고 그 변화는 작지 않다. 그러니 경력, 연구 주제, 어쩌면 개인 생활까지 AI가 바꿀 세상을 전제로 결정해야 한다. 두 번째 목표는 강연장에 모인 청중이 앞으로의 미래를 좌우할 만큼 큰 영향력을 지녔다는 점을 일깨우는 것이다. 세 번째로는 연구 프로젝트와 경력을 고르는 실용적인 조언을 몇 가지 건네겠다고 했다.

사회자는 소개 때 이 조언이 “젊은 사람만이 아니라 우리 모두를 위한 것"이라고 했고, 졸-딕슈타인은 무대에 올라 강연 전에 톰이 벌써 자기 조언에 반대한다고 했다며 청중을 웃겼다.

인류세는 짧은 시대가 될 수 있다

지질학자들은 암석층에 남은 생물, 기후, 지질 작용의 뚜렷한 변화를 보고 지질 시대를 구분한다. 인류는 이미 지질학적 흔적을 남기고 있다. 지구 역사상 여섯 번째 대멸종을 일으키는 중이고, 핵실험에서 나온 방사성 동위원소가 암석층에 남는다. 수십억 년 뒤에도 인류가 있었다는 사실을 알아볼 수 있다는 뜻이다. 그래서 인간이 일으킨 지구 규모의 변화를 기준으로 지금을 인류세(Anthropocene)라는 새 시대로 부르자는 제안이 있고, 그 시작점은 대략 1950년으로 잡는다.

졸-딕슈타인은 이 이름이 인간을 변화의 주체로 삼는다는 데서 이야기를 이어 간다. 지구의 변화를 주도하는 지성이 인간인 시기가 끝나 가고 있을지도 모르기 때문이다. AI가 어떻게 전개되느냐에 따라 인류세는 지질 시대 가운데 아주 짧은 시대로 끝날 수 있다. 강연 제목의 “처음이자 마지막 날들"이 이 뜻이다.

AI 능력은 지수적으로 늘고 있다

학습 연산량은 사람의 평생 연산량에 다가간다

인류세가 시작된 1950년 무렵부터 주요 AI 모델의 학습에 쓴 연산량을 그리면 2010년 전후로 기울기가 바뀐다. AI가 학계의 관심사에서 상업적으로 쓸모 있는 기술로 바뀐 시점이다. 2010년 이전에 연산량은 해마다 1.5배씩 늘었는데, 그 뒤로는 해마다 4.7배씩 늘 만큼 증가 속도가 빨라졌다. 최근 10년만 놓고 보면, 가장 큰 모델을 학습시키는 데 드는 연산량이 약 1,000만 배로 늘었다.

졸-딕슈타인은 그래프 오른쪽 위에 사람의 뇌가 평생 수행하는 연산량을 표시했다. 그는 시냅스 하나가 1밀리초에 한 번 연산한다고 가정하고 어림셈을 했다. 그러면 사람의 평생 연산량은 약 1조 페타플롭이 되고, 이 값은 그래프에 표시된 가장 큰 모델의 연산량과 로그 눈금으로 한 칸도 채 차이 나지 않는다. 연산량을 사람 뇌에 맞먹게 쓴다고 사람 수준의 지능이 저절로 생기지는 않고, 꼭 그만큼 필요하지도 않을 것이다. 그래도 사람과 AI를 견주는 일이 조금 더 그럴듯해졌다는 것이 그의 말이다.

AI가 혼자 해내는 작업은 점점 길어진다

METR이라는 평가 기관은 다양한 소프트웨어 작업을 AI에 맡겨 보고, AI가 도움을 받지 않고도 절반의 확률로 성공하는 작업이 얼마나 긴지를 잰다. 여기서 길이는 같은 일을 사람에게 맡겼을 때 걸리는 시간이다. AI가 걸리는 시간과는 관계없다. 모델 출시 연도에 따라 이 길이가 지수적으로 늘어난다. GPT-2 시절에는 몇 초짜리 질문에 답하는 수준이었고, 2026년 초 Claude Opus 4.6은 사람이 10시간가량 걸리는 작업을 해낸다.

졸-딕슈타인이 이 강연을 처음 한 것은 1년이 채 안 된 일이다. 그때 그는 소프트웨어 분야에서 하루치 업무를 해내는 모델이 2026년이나 2027년에 나올 것이라고 예상했다. 그런데 1년도 안 되어 작업 길이가 열 배로 늘어나면서 그 수준에 이미 도달했다. 성공률 기준을 80%나 90%로 높이면 추세선 전체가 낮아지지만, 증가 속도는 바뀌지 않았다고 그는 설명했다. 그런 신뢰도를 원하면 예상 시점에 1년이나 2년을 더하면 된다.

AI는 학습 데이터에 있는 문제만 푼다는 주장

AI는 학습 데이터에 있는 문제만 풀 수 있다는 말이 자주 나온다. 졸-딕슈타인은 이 말이 문자 그대로는 틀렸다고 본다. 모델에 몇 단어 이상만 입력해도 그 단어 조합은 학습 데이터에 없던 새로운 문자열이 되므로, 모델이 하는 일은 전부 일반화다. 이 주장의 실제 내용은 모델이 해내지 못하는 특별한 종류의 일반화가 따로 있다는 믿음이다. 그는 그런 한계가 없다는 증거로 사람이 풀지 못하고 남긴 문제를 AI가 풀기 시작했다는 사실을 든다.

헝가리 수학자 에르되시 팔(Erdős Pál)은 엄청나게 많은 논문을 썼고 수많은 추측과 미해결 문제를 남겼다. 그가 죽은 뒤 수학자들이 이 문제들을 정리해 목록으로 만들었고, 지금도 현역 수학자들이 이 문제에 도전한다. 최근 7개월 남짓 사이 AI도 이 문제들을 풀기 시작했다. 슬라이드에 실린 집계를 보면, AI의 도움으로 풀린 첫 문제는 2025년 11월 말에 나왔고 그때 쓰인 모델은 GPT-5였다. 2026년 6월 초가 되자 AI가 관여한 풀이가 56개로 늘었고, 그 가운데 27개는 AI가 혼자 해냈다. AI가 이제 수학에서 사람이 모르던 사실을 새로 밝혀내고 있다는 뜻이다.

강연 중 한 청중이 의료 같은 분야는 어떠냐고 물었다. 그는 의료 분야에도 정량 벤치마크가 있고, 누가 AI 성능을 재는 정량 벤치마크를 만들기만 하면 거의 매번 그 벤치마크의 점수가 빠르게 오른다고 답했다.

AGI를 진지하게 말해도 된다

오버턴 창이 바뀌었다

1년이 채 안 된 시점에 하버드에서 이 강연을 했을 때, 졸-딕슈타인은 모르는 사람에게서 이메일 한 통을 받았다. 본문은 “정신 나간 초록이네요"라는 뜻의 한 줄이 전부였다.

오버턴 창(Overton window)이라는 말이 있다. 사람들이 공개적으로 말하거나 믿어도 괜찮다고 여기는 생각의 범위를 뜻한다. 그 이메일은 AGI를 예측하는 말은 허용되지 않고, 그런 예측을 미쳤다고 부르는 말은 허용된다는 선언이었다. 졸-딕슈타인은 1년 사이 사정이 많이 달라졌다고 본다. 그래도 이 강연의 주요 목적 하나는 청중에게 이 문제를 진지하게 받아들여도 된다는 허락을 주는 것이라고 말했다. 존경받는 사람과 기관도 같은 말을 하고, 그러고도 여전히 존경받는다. 걱정이나 우려를 스스로 검열할 필요가 없다.

그 증거로 그는 몇 사람의 발언을 읽었다.

슈밋의 발언에 대해 졸-딕슈타인은 짧게 덧붙였다. 발언 뒤 1년쯤 지난 지금, 예전에 프로그래머가 맡던 작업의 대부분을 AI가 처리하는 것은 맞다. 하지만 프로그래머가 해야 할 다른 업무가 늘어났고, 예외는 있어도 대다수 프로그래머는 일자리를 잃지 않았다. 주요 언론도 AGI의 도래를 진지하게 다룬다. 이코노미스트는 초지능의 경제학을 커버 기사로 냈고, 뉴욕타임스의 에즈라 클라인은 바이든 정부의 AI 담당 고문이던 벤 뷰캐넌(Ben Buchanan)을 인터뷰하며 「정부는 AGI가 오고 있다는 것을 안다」는 제목을 달았다.

언제쯤인가

졸-딕슈타인이 몸담은 샌프란시스코 AI 업계에서는 AGI가 몇 년 안에 온다는 데 의견이 모인다. 슬라이드에는 1년에서 5년이라고 적었다. 파티에서 누가 자기는 예상 시점이 먼 편이라고 말해서 캐물어 보면 10년이라는 답이 나온다.²

그는 이 분위기가 그 자체로 이례적이라고 말한다. 생명공학 분야에서 일하는 그의 아내 주변에서는 사정이 다르다. 선진국의 암 발생률이 지수적으로 떨어지고 있으니 암을 정복하겠느냐고 물으면, 사람들은 그 일이 왜 예상보다 훨씬 어렵고 오래 걸리는지 10분 동안 설명한다. 보통 그 일을 직접 하는 사람이 당장의 장애물을 가장 잘 안다. 그런데 AI 모델을 만드는 사람들은 지금 수준과 초지능 사이에 장애물이 보이지 않는다고 말한다. 졸-딕슈타인은 이 점을 꼭 알아 두라고 했다.

로그 눈금 그래프 위의 직선은 이 밖에도 많다. AI의 어떤 능력이 정체되고 있는데 아직 측정되지 않았다고 생각한다면, 그 능력을 정량화해 벤치마크로 만들라는 것이 그의 권고다. 사람들이 반길 것이고 인용도 많이 될 것이다. 단, 지금까지의 시도가 어떻게 끝났는지도 알아 둬야 한다. 1990년대에 만든 벤치마크는 AI가 사람 수준에 도달하기까지 20년이 걸렸다. 지금 만든 벤치마크는 AI가 사람 수준에 도달하는 데 몇 달에서 몇 년밖에 걸리지 않는다. 졸-딕슈타인이 공동으로 만든 BIG-bench는 벤치마크를 소개하는 논문이 정식으로 출판되기도 전에, 일부 과제에서 최고 기록을 경신한 후속 연구가 나왔다.

그는 매일 Claude와 일한다. 그 경험을 열정적이고 실행 능력이 탁월한 대학원생과 일하는 느낌이라고 표현했다. 다행히 지금은 똑똑하지만 연구 감각이 놀랄 만큼 부족한 대학원생이라서 자기도 아직 뭔가를 하고 있다고 느낀다. 1년 전에는 Claude에 큰 문제를 맡기고 그래프를 뽑아 보게 할 수 없었고, 세부 하나하나에 직접 관여해야 했다. 1년 뒤에는 지금의 이 평가도 맞지 않을 것이다.

강연 중간의 질문들

졸-딕슈타인은 이 대목에서 질문을 받았다.

학습에 쓸 자원은 언젠가 한계에 이르지 않는가. 한 청중은 학습에 쓸 수 있는 자원이 재정적으로 무한히 늘 수는 없고, AGI에 이를 즈음 자원이 바닥날 것 같다고 말했다. 졸-딕슈타인은 연산량이 10의 21제곱 배로 늘어나는 동안 이어진 추세가 하필 사람 수준까지 열 배에서 백 배만 남은 시점에서 자원 제약 때문에 멈춘다면, 도리어 그것이 이상한 우연일 것이라고 답했다. 물리 세계에서 영원히 이어지는 지수 성장은 없다. 그래도 그는 이 상승세가 하필 지금 꺾여 평평해진다면 무척 놀랄 것이라고 말했다.

AGI까지 무엇이 빠져 있는가. 그는 기술적인 문제라며 길게 답하지 않았다. 그래도 단순한 방법의 규모만 열 배 늘려서 다시 시도하면 계속 통한다는 점에 거듭 놀랐다고 했다. 그가 보기에 사람의 뇌는 데이터를 지금 AI보다 1만 배쯤 효율적으로 쓴다. 지금 방식이 틀린 부분이 많다는 증거이지만, 비효율적이라는 뜻일 뿐 작동하지 않는다는 뜻은 아니다. 그는 AGI를 막는 결정적인 장벽이 있다고 보지 않는다.

토큰을 쓸 수 있는 사람과 없는 사람의 격차는 어떻게 하는가. 그는 AI가 만들 막대한 부를 고루 나누는 일이 매우 중요하다고 답했다. 지능 자체가 지수적으로 싸지는 것도 한몫하겠지만, 사회적으로는 AI 기업에 큰 세금을 매겨 재분배하는 장치가 필요하다고 본다. 미국에서는 일자리를 잃은 사람들이 자기 이익을 잘 대변할 테니 잘 작동할 것 같지만, 전 세계 차원에서는 더 걱정된다고 덧붙였다.

남은 1년에서 5년에 무엇을 할 것인가

이 예측을 진지하게 받아들이면 지금이 우리가 지적으로 빛날 마지막 시기일 수 있다. 졸-딕슈타인은 이 질문을 슬라이드 제목으로 걸었다. “지적으로 세상에 기여할 시간이 1년에서 5년 남았다. 무엇을 해야 하는가.” 트윗으로 퍼진 6분 42초 영상은 이 대목부터 아래의 다이슨 스웜 슬라이드까지다.

끝났을 때도 의미가 남을 프로젝트를 고른다

가장 먼저 할 일은 프로젝트가 끝났을 때도 의미가 있는지 확인하는 것이다. 사람이 최소한의 노력만 들여 최신 파운데이션 모델에 지시해 얻을 수 있는 과학적 성과의 양은 지수 곡선을 따라 늘어난다. 2년 동안 열심히 연구해 상당한 진전을 이뤘더라도, 프로젝트를 마친 시점에 누군가 파운데이션 모델에 물어보기만 해서 더 나은 결과를 얻을 수 있다면 그 노력은 빛이 바랜다. 졸-딕슈타인이 가장 피하라고 한 것이 이런 상황이다.

그래서 프로젝트 기간이 지수 성장의 특성 시간보다 짧아야 한다. 그보다 길어질 일이라면 기다렸다가 더 새로운 모델로 더 잘, 더 빨리 하는 편이 낫다. 이런 환경에서는 목표가 분명한 프로젝트를 여럿이 함께 빠르게 추진해 지수 곡선보다 먼저 결과를 내는 방식이 유리하다. 반대로 혼자 천천히 이리저리 탐색하는 연구에는 불리하다. 졸-딕슈타인은 그런 연구가 자기가 가장 좋아하는 과학이라서 이 말을 하기 싫지만 세상이 그렇다고 털어놓았다.

리처드 서튼(Richard Sutton)은 2019년 에세이 「쓴 교훈(The Bitter Lesson)」에서 연산을 활용하는 범용 방법이 장기적으로 가장 효과적이었다고 진단했다. 졸-딕슈타인은 이 교훈에서 긍정적인 결론과 부정적인 결론을 하나씩 도출한다. 연산과 지능의 규모가 커질수록 효과가 커지는 프로젝트, 더 좋게는 그 규모 확대에 다시 기여하는 프로젝트를 맡으면 결과의 영향력이 예상보다 훨씬 커진다. 반대로 규모만 늘리면 어차피 풀릴 문제, 어쩌면 프로젝트를 끝내기도 전에 풀릴 문제에는 시간을 쓰지 말아야 한다.

AI 도구를 억지로라도 쓴다

AI 도구는 근본적으로 새로운 일을 가능하게 한다. 사용자 경험이 아직 형편없을 때가 많고, 말 없는 마차처럼 어색하다.³ 그래도 이득이 크니 써야 한다. 그가 권한 쓰임새를 몇 가지 옮기면 이렇다.

• 연구 아이디어를 브레인스토밍하고 다듬는다.
• 글에 대한 피드백을 받는다. 첫 초고를 맡기지는 말고, 내가 어디서 틀렸는지 알려 달라고 한다.
• 코드를 쓰게 한다. 졸-딕슈타인은 매일 코딩을 하는데도 이제 코드를 직접 쓰지 않고, 코드를 거의 들여다보지도 않는다.
• 복잡한 분석을 반복한다. 그는 궁금한 것이 생길 때마다 일회용 대시보드를 만들게 해서 그래프를 여러 쪽 뽑아 본다.

이 조언은 앞에서 말한 속도 문제의 해법이기도 하다. 지수적으로 발전하는 도구를 직접 쓰는 사람은 그 발전 속도에 뒤처지지 않는다. LLM과 일하는 것은 연구 책임자(PI)로 일하는 것과 많이 닮았다. 둘 다 과제의 범위를 분명히 정하고 기대치를 명확하게 전달해야 한다. PI가 되고 싶다면 모델에 지시하는 연습을 하고, 이미 PI라면 이 일에 유리하니 잘해야 한다.

믿음을 경력 결정에도 적용한다

이 강연은 아주 유능한 대학원생과의 대화에서 시작됐다. 그 학생은 3년 안에 AGI가 올 것이라고 말하고는, 몇 분 뒤 2년 안에 박사 학위를 마치고 박사후연구원을 거쳐 교수직에 지원할 계획이라고 말했다. 졸-딕슈타인은 머리 한쪽에서 세상을 바꿀 기술이 온다고 믿는다면 머리의 다른 쪽도 그 믿음에 맞춰야 한다고 말한다. 10년이나 20년 뒤 학계의 일자리, 아니 어떤 일자리든 지금과 매우 다를 것은 확실하다. 지금의 경력 경로가 안정적이지 않다고 가정하고 계획을 세워야 한다.⁴

사람들은 보통 위험과 보상을 저울질해 결정한다. 최선의 결과가 더 좋을 수 있는 선택지 대신 안전한 선택지를 고르는 식이다. 그러나 AI가 대규모 혼란을 일으킨다면 누구도 피할 수 없는 기본 위험이 이미 높다. 이때 안전한 선택은 실제로 안전하지 않다. 위험은 줄이지 못하고 얻을 수 있었던 보상만 포기하게 된다. 그는 AI와 상관없이도 사람들이 위험을 지나치게 회피한다고 본다. 그리고 지금 같은 상황이라면 더더욱, 안전한 일 대신 흥미로운 일을 하라고 권했다.

기여할 시간이 짧고 그 결과가 중요하다면 자랑스러울 일을 해야 한다. 훗날 은퇴해서 다이슨 스웜⁵ 속 별장에서 지낼 때, 인류가 좋은 미래를 맞이하는 데 내가 어떻게 기여했는지 손주들에게 말해 줄 수 있어야 한다. 돌아봤을 때 의미가 있었던 프로젝트를 고르라는 것이다. 단기적으로 일시적인 변화를 일으키는 일보다 AGI 이후의 궤적을 좋은 방향으로 바꾸는 일을 택하라는 뜻이기도 하다.

슬라이드의 그림 설명은 인류세 다음의 지질 시대다. 그 시대의 흔적은 지구 대신 태양 주위를 도는 다이슨 스웜의 암석에 남아 있을 테니, 그곳을 조사하면 새 지질 시대를 확인할 수 있다는 농담이다. 물론 5년 안에 올 미래는 아니라고 덧붙였다.

우리는 지수 성장의 초입에 있다

AI 분야의 진보는 개인이 통제할 수 없는 거대한 흐름처럼 느껴진다. 졸-딕슈타인은 이 느낌이 완전히 틀렸다고 말한다. 지금 AI의 능력이 극적이지만, AI 지수 곡선에서 우리는 생각보다 훨씬 초기 단계에 있다. Epoch AI는 2030년의 학습 연산량이 2025년의 1만 배까지 늘 수 있다고 추정했다. 나중에 선형 눈금으로 연산량 그래프를 그리면 지금 값은 0과 구별되지 않을 것이다.

초기 단계라는 사실이 중요한 이유는 지수 성장 초기의 작은 개입이 엄청난 결과를 낳기 때문이다. 과학, 공학, 행정, 경제에서 초기의 작은 결정이 결과를 크게 바꾼 사례는 셀 수 없이 많다. 그가 꼽은 사례 몇 가지를 옮긴다.⁶

• 이메일과 채팅. 1980년 무렵 과학자 두 사람이 이메일을 주고받는 표준 규약을 제안했다. 덕분에 오늘날 우리는 어떤 이메일 서비스를 쓰든 누구에게나 이메일을 보낼 수 있다. 반면 채팅 분야에서는 그 뒤로 10년쯤 지나도록 아무도 표준 규약을 만들지 않았다. 그 결과 지금도 같은 제품을 쓰는 사람에게만 메시지를 보낼 수 있다.
• 하버-보슈 공정. 소수의 과학자가 개발한 질소 고정 기술은 지금 세계 인구 대부분을 먹여 살리는 식량 생산을 가능하게 했고, 동시에 현대 폭약 대부분의 원료가 됐다.
• 전문가 단체. 미국에서 의사협회(AMA)와 변호사협회(ABA)를 만든 초기의 결정은 소수가 내렸지만, 지금 미국의 의료와 법조계 체계를 결정한다.
• 동료 심사. 지금의 학술 동료 심사 제도도 여러 가능성 가운데 하나였을 뿐이다. 몇 세기 전 사람들이 조금 다르게 결정했다면 과학의 유인 구조는 지금과 크게 달랐을 것이다.

개인의 선택이 미래를 정한다

지수 성장의 초입이고 청중은 이 분야에 딱 맞는 기술을 가진 유능한 사람들이다. 그러니 AI의 미래에 대해 매우 큰 힘과 영향력을 가졌다는 것이 졸-딕슈타인의 판단이다. 개인의 작은 선택이 앞으로의 상업, 사회, 정치 환경을 결정한다. 그가 예로 든 선택은 이렇다.

• 어떤 연구 문제를 푸는가, 어디서 일하는가
• 모델의 어떤 행동을 능력이라고 부르는가, 위험이라고 부르는가
• 해석 가능한 모델 구조를 제안하는가, 속을 알 수 없는 구조를 제안하는가
• 윤리적 입장을 공개적으로 밝히는가
• 내 프로젝트가 어떤 기술 경로의 개발을 부추기는가

그는 이것이 힘인 동시에 책임이라고 말했다. 세상은 놀라운 방식으로 바뀔 것이고, 청중 각자가 그 변화를 훨씬 좋게도 훨씬 나쁘게도 만들 수 있다. 연구 주제를 비롯한 여러 선택을 관성에 맡기지 말고 목적을 분명히 하여 신중하게 결정해 달라고 당부했다.

황금기, 그리고 그다음

미래는 알 수 없지만 굳이 추측한다면, 졸-딕슈타인은 연구자 개인의 지적 영향력이 이렇게 바뀔 것이라고 본다. 먼저 사람이 거대한 AI 에이전트 팀을 보완하고, 그 팀이 사람 없이는 못 하던 일을 하게 만드는 시기가 온다. 이 시기에는 평생 매달려도 못 했을 연구를 일주일 만에 해낼 수 있다. 그는 이 시기를 놀라운 황금기라고 불렀다.

그다음에는 사람이 AI보다 뛰어난 분야가 사라지는 시기가 온다. AI가 모든 지적 작업을 혼자 해내어 사람의 기여가 더는 필요하지 않게 된다. 그래프에서 생산성 곡선이 갑자기 0으로 떨어지는 지점이다. 그러니 황금기를 즐기고 최대한 활용하라고 그는 권했다. 도구를 쓰고, 그 도구가 주는 힘으로 놀라운 일을 하라는 것이다.

그가 좋아하는 연구 분야

마지막으로 졸-딕슈타인은 자기가 좋아하는 연구 분야를 꼽았다. 목록은 매우 불완전하고, 가장 영향력 있는 연구는 아직 아무도 떠올리지 못한 분야에 있을 것이라고 전제했다.

질의응답

연구 감각을 재는 좋은 벤치마크가 있는가, 연구 감각은 본래 느리고 정처 없는 것인가. 졸-딕슈타인은 연구 감각 벤치마크를 만들어 AI가 풀어 내면 사람들은 그 벤치마크가 연구 감각을 재지 못했다고 말할 것이라고 답했다. 결국 모델이 누구도 부정하기 어려운 중요한 발견을 할 때까지 기다리는 수밖에 없다. 모델이 새로운 개념적 접근으로 상온 초전도체를 개발한다면 그래도 연구 감각은 아니었다고 말할 수는 있겠지만 설득력은 약할 것이다. 느리고 정처 없는 탐색은 무엇이 나중에 쓸모 있을지 모를 때 좋은 방법이고, 그런 경우가 거의 대부분이다. 생각이 충분히 빠르다면 정처 없는 탐색을 느리지 않게 할 수도 있다고 그는 덧붙였다.

대학원생이 코드를 직접 써 보는 일에 아직 가치가 있는가. 코드가 무엇을 하는지 이해하는 것은 중요하고, 그러려면 직접 써 본 경험이 어느 정도 필요하다. 그렇다 해도 지금 대학원생들이 직접 쓰는 양보다는 훨씬 적어도 된다. 지도교수가 하듯 모델에 그래프를 그리게 하고, 그래프가 왜 앞뒤가 맞지 않는지 묻는 방식으로도 코드를 이해할 수 있다. 펀치 카드로 코딩하던 사람에 비해 파이썬으로 코딩하는 사람은 컴퓨터 내부를 덜 알지만 더 높은 추상 수준에서 생각한다. AI 도구를 쓸 때도 이처럼 한 단계 높은 추상 수준에서 일하되, 모델이 내놓은 결과를 두고 계속 따져 묻고 생각해야 한다. 그는 대학원생이 돈을 적게 받는다는 이유로 자기 시간을 싸게 여기기 쉽다며, 시간은 귀하니 시간을 가장 잘 쓰게 해 주는 도구를 쓰라고 했다.

AI에 초고를 맡기지 말라면서 AGI가 가깝다는 것은 모순 아닌가. 한 청중은 지금 AI는 이미 있던 문제를 푸는 비서에 가깝고, 우체국 대신 이메일을 쓰게 된 것과 비슷하다고 주장했다. 졸-딕슈타인은 초고를 맡기지 말라는 조언이 쓰는 사람을 위한 것이라고 답했다. AI가 글을 못 써서 한 말은 아니다. 글쓰기는 곧 생각하는 과정이고, 글쓰기를 맡기면 생각을 맡기는 것이라서 무슨 일이 벌어지는지 스스로 이해하지 못하게 된다. AI가 사람이 하는 일에 한참 못 미친다고 믿는다면 그 믿음을 막연한 생각으로 두지 말고 정량화하라고 했다. 공개하지 않는 나만의 벤치마크로 숫자를 하나 정해 두고 시간이 지나며 어떻게 되는지 지켜보라는 것이다. 측정값이 정말 오르지 않는다면 자기도 그 주장을 훨씬 더 믿겠다고 했다.

청중이 에르되시 문제는 사람이 이미 정한 문제일 뿐 AI가 새로운 문제를 찾아낸 것은 아니라고 다시 묻자, 그는 바로 그 점 때문에 에르되시 문제를 골랐다고 답했다. 사람들이 좋은 문제라고 이미 합의한 문제이기 때문이다. 좋은 질문인지 판단하는 일 자체가 측정하기 어렵다. 그는 일반화가 여러 수준에서 일어난다고 설명했다. 문장에서 단어를 동의어로 바꾸는 일, 덧셈 알고리즘을 다른 숫자에 적용하는 일, 논리 단계를 적용하는 일, 미적분을 배워 새로운 함수를 적분하는 일이 모두 일반화다. 이 일반화의 단계 어딘가에 단절이 있어서, 일정 수준까지는 쉽고 그 이상은 AI에게 불가능하다고 단정할 근거는 없다는 것이 그의 답이다.

실험 과학에도 AI가 도움이 되는가. 마지막 질문자는 이론 과학과 달리 실험 과학은 계산으로도 형식 논리로도 검증하기 어려운 문제를 다루어서 AI의 영향을 덜 받았다고 지적했다. NASA 에임스 연구소가 아직 실제 풍동을 돌리는 것은 전산 유체역학이 충분하지 않아서이고, 매년 발견되는 화학 물질의 절반 이상이 우연히 발견된다. 재료과학 동료들은 LLM이 과장이라고 여긴다고 했다. 졸-딕슈타인은 로봇 기술이 결국 실용 수준에 이를 것이라고 답했다. 시점은 예측하기 훨씬 어렵지만 10년이나 15년 뒤에 실험을 대신하는 로봇이 없다면 놀랄 것이라고 했다. 이론이 실험 결과를 잘 예측하지 못하는 것은 이론 과학의 실패이기도 하고, 이론을 강화하면 필요한 실험의 수를 줄일 수 있다. 당장 실험 과학에서 AI가 얼마나 쓸모 있을지는 어떤 작업에 쓰느냐에 달렸다. 또한 도구를 다루는 번거로움보다 도구로 얻는 이득이 더 큰 사용 방식을 찾아냈느냐에 따라 결과가 달라질 것이라고 덧붙였다.

가장 흥미로운 지점

내가 오래 곱씹은 것은 안전한 선택이 실제로는 안전하지 않다는 논리다. 위험과 보상을 저울질할 때 우리는 보통 안전한 쪽이 위험을 줄여 준다고 믿고 보상을 조금 포기한다. 그런데 피할 수 없는 기본 위험이 모든 선택지에 똑같이 적용된다면, 안전한 선택은 위험을 줄이지 못하고 보상만 깎는다. 졸-딕슈타인은 이 계산을 AGI 예측에서 끌어냈지만, 계산 자체는 AGI를 믿지 않는 사람에게도 성립한다. 업계 전체에 큰 혼란이 오는 시기라면 그 원인이 무엇이든 같은 결론이 나온다.

또 하나 눈에 띈 것은 그가 회의론자에게 같은 요구를 일관되게 한다는 점이다. 강연 중간에도, 질의응답에서도 그는 AI가 정체한다고 믿으면 그 정체를 숫자로 재 보라고 말했다. 반박하지 않고 측정을 요구하는 방식이라서, 그의 예측이 틀렸다면 그 사실도 같은 방법으로 드러날 것이다. 현실의 발전이 자기 예상보다 훨씬 빨랐다고 담담하게 인정하는 사람의 권고라서 더 설득력이 있었다.

출처

야샤 졸-딕슈타인(Jascha Sohl-Dickstein, Anthropic), 「Advice for a (young) investigator in the first and last days of the Anthropocene」, 2026 Conference on Physics and AI(PAI26), 스탠퍼드 대학교 Center for Decoding the Universe, 2026년 6월 12일 녹화.

원문 영상: https://www.youtube.com/watch?v=3LZN2UUxDos

강연을 알린 트윗: https://x.com/trajektoriePL/status/2114647146813125020

그래프와 슬라이드 그림은 모두 강연 영상의 화면이다. 치비 서소영 삽화 5장은 「느낌적인 느낌을 숫자로 옮기는 일」의 치비 서소영 라인아트를 참조해 gpt-image-2.5-flare로 따로 생성했다.