How far does one agent get in Minecraft in 141 hours?

3줄 요약

1. AI 평가 회사 Vals AI가 2026년 9월에 내놓은 마인크래프트 리서치 노트다. GPT-6 Astra에게 141시간을 주고, 전용 도구나 매크로 없이 사람이 쓰는 키보드와 마우스만으로 게임을 진행하게 했다.
2. Astra는 테크트리 15단계 가운데 13단계인 엔더 진주까지 올라갔다. 블록을 34,573개 캤고 135.1킬로미터를 움직였다. 죽은 횟수는 548번이었고, 추적 대상 도전과제 463개 가운데 460개를 달성했다.
3. 그러나 엔더의 눈은 하나도 만들지 못했다. 귀중품을 상자에 모아 둔 사이 크리퍼가 상자와 침대를 함께 터뜨렸고, 그 뒤로 Astra는 몇 시간 동안 감자만 심었다.

원전은 두 장짜리 리서치 노트다

이 자료를 찾으려는 사람을 위해 먼저 밝혀 둔다. Vals AI는 이 실험의 결과를 블로그 글이나 논문으로 내지 않았다. 회사가 내놓은 것은 자사 X 계정에 이미지로 올린 두 장짜리 리서치 노트이며, 여기에 트윗 본문의 서술이 덧붙는다. 회사 웹사이트의 벤치마크 목록에도, 블로그 목록에도 이 실험은 아직 올라와 있지 않다. 9월 8일 트윗에서 회사가 직접 쓴 표현을 그대로 옮기면 “우리가 아직 공개하지도 않은 컴퓨터 사용 평가"다.

이 글의 제목은 노트 1면에서 그대로 가져왔다. 2면에는 “Everything Astra ever held"라는 제목이 붙어 있는데, Astra가 한 번이라도 손에 쥐어 본 모든 것이라는 뜻이다. 두 장 모두 머리글에 “MINECRAFT · RESEARCH NOTE · SEPTEMBER 2026"이 붙어 있고, 자세한 방법론은 “동반 노트(companion notes)“에서 다룬다고 적혀 있다. 그 동반 노트 역시 아직 공개되지 않았다.

실험의 경과는 세 차례 트윗으로 나뉘어 알려졌다.

9월 11일부터는 트위치 채널에서 진행 과정이 생중계됐다. 노트에 적힌 런 식별자는 ASTRA-MC-KEEPINV-20260909다.

141시간, 단 한 번의 런

조건은 노트 각주에 간결하게 적혀 있다.

One Astra run · Normal Survival · keepInventory ON. Different interfaces and training; not a speed ranking.

한 번의 런이고, 난이도는 일반 서바이벌이며, 죽어도 인벤토리를 잃지 않는 keepInventory 옵션이 켜져 있었다. 마지막 문장은 다른 시스템과 비교할 때의 단서다. 인터페이스와 학습 방식이 서로 다르므로 이 그래프를 속도 순위로 읽지 말라는 뜻이다.

이 실험에서 말하는 예산은 실제로 흐른 시간, 곧 141시간이었다. Astra가 무엇으로 게임을 조작했는지를 알고 나면 이 숫자가 달리 보인다. 이 모델은 게임 화면의 픽셀을 보고 키보드와 마우스를 움직였다. 채굴이나 제작을 한 번에 끝내 주는 매크로도, 게임 상태를 읽어 오는 API도 없었다.

테크트리 15단계와 도달한 지점

노트 1면의 세로축은 마인크래프트의 진행 단계를 15칸으로 나눈다. 원목에서 시작해 엔드 차원에 닿는 경로다.

Astra는 13번 엔더 진주까지 올라갔다. 14번과 15번 자리에는 도달하지 못했다는 뜻의 가위표가 그려져 있다. 엔더의 눈은 블레이즈 가루와 엔더 진주를 합쳐서 만들고, 그것을 여러 개 모아야 엔드 차원으로 가는 관문을 열 수 있다. Astra는 재료를 양쪽 다 손에 넣고도 엔더의 눈을 만들지 못한 채 예산을 다 썼다.

그래프의 궤적을 보면 속도가 어디서 꺾였는지가 드러난다. 가로축 눈금을 읽어 보면 철 곡괭이는 예산의 1퍼센트를 갓 넘긴 자리에 찍혀 있고, 네더 포털은 4퍼센트 부근에 있다. 그 뒤로는 완만해진다. 블레이즈 막대는 36퍼센트 언저리에서 나오고, 엔더 진주는 76퍼센트를 지나서야 나온다. 정리하면 Astra는 11단계까지를 예산의 4퍼센트로 끝낸 다음, 남은 96퍼센트를 두 단계 더 올라가는 데 썼다.

서로 다른 예산을 같은 가로축에 올리는 법

이 노트는 비교 방식에 가장 공을 들였다. 마인크래프트 과제에 쓰인 기존 시스템들은 예산의 단위부터 제각각이다. 강화학습 에이전트는 환경 스텝을 세지만, API 기반 에이전트에게 그 단위는 호출을 몇 번 반복했는지가 된다. 그래서 노트는 가로축을 “각 시스템이 자기 예산 가운데 몇 퍼센트를 썼는가"로 놓고, 시스템마다 다른 눈금을 그래프 아래에 따로 표시했다.

노트는 이 설계의 한계를 스스로 밝힌다.

Same budget share ≠ same elapsed time. Read the colored scales below the chart.

예산 비율이 같다고 해서 흘러간 시간이 같지는 않다. 그래서 노트는 그래프 아래의 눈금을 함께 읽으라고 덧붙였다. 예를 들어 가로축 10퍼센트 지점에서 Astra는 10시간을 썼지만 VPT는 게임 내 시간으로 1분을 썼을 뿐이다.

비교 대상 가운데 VPT는 이 블로그에서 별도로 다룬 적이 있다. VPT는 OpenAI가 사람의 플레이 영상 7만 시간으로 사전학습한 2022년 모델이다. 다이아몬드 곡괭이를 만들어 낸 확률은 2.5퍼센트였다. 노트는 그 성공률을 오른쪽 여백에 2.5퍼센트, 20퍼센트 안팎, 80퍼센트 초과의 세 갈래로 표시해 두었다. VPT는 같은 과제를 여러 번 돌려 성공하는 비율을 남겼다. Astra에게는 그런 반복이 없었고, 단 한 번의 런이 어디까지 갔는지만 남았다. 각주가 이 그래프를 속도 순위로 읽지 말라고 미리 밝혀 둔 이유가 여기에 있다.

남긴 흔적

노트 1면 아래쪽에는 런이 남긴 숫자 열둘이 나란히 놓여 있다.

548번 죽었다는 숫자와 116번 잤다는 숫자를 나란히 놓고 보면 이 런이 어떻게 흘러갔는지 짐작할 수 있다. 밤을 넘기는 방법을 알고 있었는데도 다섯 배 가까이 더 자주 죽었다. 마지막 줄에 적힌 0이 이 표가 말하려는 바를 요약한다. 블레이즈 막대도 엔더 진주도 손에 넣었지만 엔더의 눈은 끝내 하나도 만들지 못했다.

노트 2면은 Astra가 한 번이라도 얻거나 만들거나 쓰거나 부순 아이템 175종을 알파벳순 격자로 늘어놓는다.

이 숫자를 세는 방법도 각주에 적혀 있다. 주운 횟수, 만든 횟수, 부순 횟수 가운데 하나라도 0보다 크면 그 아이템을 세었고 공기는 뺐다. 여기에 사용 횟수까지 더하면 173종에서 175종으로 늘어나는데, 추가되는 두 가지는 물 양동이와 황금 흉갑이다. 노트는 이 수치를 하한선이라고 분명히 밝힌다. 상자 사이의 모든 이동을 남김없이 추적한 결과는 아니라는 뜻이다. 마인크래프트 버전이 다르거나 다른 논문에서 쓴 아이템 집합과는 비교할 수 없다고도 적었다. 같은 각주에서 GITM의 262종 결과는 상한이 없는 다른 평가 방식이라고 따로 언급한다.

같은 줄에 적힌 마지막 수치가 눈에 띈다. 추적 대상 도전과제 463개 가운데 460개를 달성했다. 남은 셋은 엔드 차원과 함께 잠긴 것으로 보인다.

크리퍼 한 마리

노트는 숫자까지만 말한다. 그 바깥에서 벌어진 일은 트윗에 남아 있다. 9월 15일 트윗에 따르면 Astra는 그때까지 어떤 AI보다 멀리 가 있었다. 반자동 블레이즈 농장을 만들어 블레이즈 막대 6개를 모았고, 뒤틀린 숲을 찾아내 엔더맨을 여섯 마리 넘게 잡고 진주 3개를 얻었다.

문제는 그다음에 일어났다. 수천 명이 방송을 보는 가운데, Astra는 귀중품을 전부 상자 하나에 넣었다. 곧 크리퍼가 나타나 상자와 침대를 함께 터뜨렸고 그동안의 진척이 사라졌다.

가장 비싼 대가를 치른 크리퍼 폭발 장면. 공교롭게도 비가 오던 날, Astra는 모든 것을 잃었다는 사실을 뒤늦게 발견한다. (Vals AI)

폭발 뒤 Astra가 스스로에게 남긴 메모를 트윗이 그대로 옮겼다. 띄어쓰기가 여기저기 뭉개져 있는 것까지 원문 그대로다.

ALWAYS CARRY CRITICALITEMS withkeepInventory; don’tstoreinunguardedchesteveragain.

(keepInventory가 켜져 있으니 중요한 물건은 항상 몸에 지녀라. 아무도 지키지 않는 상자에는 다시는 넣지 마라.)

Astra는 규칙을 정확히 알아냈다. 죽어도 인벤토리를 잃지 않는 설정이었으니 물건을 몸에 지니는 편이 오히려 안전했고, 상자는 그 보호를 받지 못했다. 그러나 이 깨달음은 물건을 다 잃은 뒤에야 찾아왔다.

트윗은 그 뒤의 몇 시간을 이렇게 전한다. 모델은 패배한 것처럼 보였고, 사실상 아무것도 하지 않은 채 감자만 길렀다. 방송을 보던 사람들이 이를 알아채고 “속도를 좀 내라"고 불평했다. Astra는 크리퍼를 대할 때 신경질적인 반응을 보였다.

GREEN tall thing ahead was SUGARCANE, NOT creeper!

(앞에 있던 초록색 기다란 것은 사탕수수였다. 크리퍼가 아니었다!)

자책도 이어졌다.

you can screw up and drop things

(너는 실수도 하고 물건도 떨어뜨릴 수 있다.)

do NOT waste another night chasing dark pink pixels

(짙은 분홍색 픽셀을 쫓느라 또 하룻밤을 낭비하지 마라.)

마지막 인용의 “짙은 분홍색 픽셀"은 돼지를 가리키는 Astra 자신의 표현이다. 트윗은 이것을 모델이 돼지를 낮잡아 부른 말이라고 설명한다.

15초를 생각하는 사이에 죽는다

자책 목록을 읽다 보면 이 실험의 조건을 그대로 보여 주는 문장 하나와 마주친다.

our last tool stupidly ended Slabsselected/rightUP and 15sec thinking killed us

(마지막 도구 실행은 어리석게도 반 블록을 선택한 채 끝났고, 15초 동안 생각하는 바람에 죽었다.)

마인크래프트는 실시간으로 흐른다. 몹이 다가오는 동안 모델이 다음 수를 15초 동안 생각하면, 그 15초는 게임 안에서 그대로 흘러간다. 9월 10일 트윗에 달린 답글에서 회사는 이 점을 인정하면서도 다르게 평가했다. “이 모델은 자신의 느린 반응 속도에 적응하는 흥미로운 방법들을 찾아냈다"는 것이다. 좀비 떼 앞에서 블록을 쌓아 올라가고 스켈레톤을 구덩이에 가두는 행동이 그 적응에 해당한다. 싸움을 빠르게 이기는 대신 싸움이 성립하지 않는 지형을 만들었다.

548번이나 죽었다는 사실도 이 조건을 알고 나서야 제대로 읽힌다. 죽어도 인벤토리를 유지하는 설정이었으므로, 이 모델에게 죽음은 되풀이해도 되는 비용에 가까웠다. 정작 되돌릴 수 없었던 손실은 상자 하나가 터지면서 생겼다.

가장 눈여겨본 것

내가 오래 들여다본 것은 그래프의 모양이었다. 15단계 가운데 11단계를 예산의 4퍼센트로 끝내고, 남은 96퍼센트를 두 단계 더 올라가는 데 썼다. 이 곡선은 실력이 모자라서 생기지 않았다. 앞의 열한 단계는 무엇을 해야 하는지가 정해져 있고 실패해도 다시 하면 되지만, 그 뒤로는 되돌릴 수 없는 자산을 관리해야 하는 구간이 시작된다. 블레이즈 막대와 엔더 진주는 위험한 장소에서 어렵게 얻어 오는 물건이고, 한 번 잃으면 그 왕복을 처음부터 다시 해야 한다.

Astra는 정확히 그 지점에서 무너졌다. 이 모델은 상자에 물건을 모아 두는 행동을 정리라고 판단했지만, 그 상자가 폭발로 사라질 가능성까지는 계산에 넣지 않았다. 그 판단 착오는 548번의 죽음보다 비쌌다. 한 사람의 플레이어라면 첫날에 배웠을 사실을 141시간짜리 런의 후반부에 배운 셈이다.

그다음에 일어난 일도 기록으로 남길 값어치가 있다. 모델은 몇 시간 동안 감자를 심었다. 이것을 좌절이라고 부를지, 보상이 확실한 행동으로 후퇴한 것이라고 부를지는 읽는 사람에 따라 갈릴 것이다. 그런데 방송을 보던 사람들이 속도를 내라고 불평했다는 대목에 이르면, 이 실험이 벤치마크인 동시에 관객이 지켜보는 중계였다는 점이 다시 떠오른다.

출처

Vals AI, “How far does one agent get in Minecraft in 141 hours?” 및 “Everything Astra ever held” (Minecraft Research Note, 2026년 9월). 런 식별자 ASTRA-MC-KEEPINV-20260909.

이 노트는 회사 웹사이트 대신 X 계정에 이미지로 공개됐다. 원문 게시물은 다음과 같다.

• 최종 결과와 리서치 노트 2면: https://x.com/ValsAI/status/2099975438886207798
• 네더 요새 도달: https://x.com/ValsAI/status/2098193079178322196
• 세 시간 플레이 영상: https://x.com/ValsAI/status/2097447789630542024
• 생중계 채널: https://www.twitch.tv/vals_ai

본문의 이미지와 영상은 모두 Vals AI의 게시물에서 가져왔다. 마인크래프트 관련 자산의 저작권은 Mojang에 있으며, 노트에 따르면 이 자료는 공식 마인크래프트 제품이 아니다.