The Human-in-the-Loop is Tired

3줄 요약

1. Pydantic의 디자이너 겸 개발자 Laura Summers가 2026년 2월 쓴 에세이다. LLM 코딩이 “진짜 유용한 동시에 진짜 불안정하다"는 두 감각이 공존하며, 후자를 외면하면 다 같이 번아웃에 이른다고 말한다.
2. 코드는 (얼추) 스스로 써지지만, 그것을 검토하고 방향을 잡고 교정하는 인간은 오히려 더 힘들어졌다. 저자는 이를 감독의 피로와 인간 보상 함수 문제로 이름 붙인다. 만족스럽던 부분은 쪼그라들고 지치는 부분만 커졌으며, 그 빈자리를 채울 새 보상은 없다.
3. 병목은 애초에 코드가 아니라 인간의 주의력과 공학적 판단이었다. 코딩이 자동화되자 그 희소 자원이 드러났을 뿐이다. 소프트웨어 공학이라는 직업은 끝나지 않지만, 심각하게 수축하고 근본적으로 재편된다.

자료의 정체

The Human-in-the-Loop is Tired는 데이터 검증 라이브러리 Pydantic, 에이전트 프레임워크 Pydantic AI, 관측 도구 Logfire를 만드는 Pydantic 팀의 Laura Summers가 쓴 글이다. 저자는 자신을 정식으로 훈련받은 디자이너이자 독학한 프로그래머로 소개한다. AI가 프로그래머를 대체할지 논하는 글도, 파멸론도, 하이프도 아니라고 선을 긋는다. 지금 개발자로 산다는 것이 어떤 느낌인지를 내부자의 시선으로 정직하게 적고, 무엇이 실제로 도움이 될지 몇 가지 생각을 덧붙인 글이다.

핵심 명제는 서두에 나온다.

LLM으로 프로그래밍하는 일은 진짜로 유용하고 진짜로 불안정하다. 이 둘은 공존한다. 두 번째가 벌어지고 있지 않은 척하면, 우리는 다 같이 번아웃에 빠질 것이다.

“코드가 스스로 써진다"는 게 실제로 주는 느낌

저자의 동료이자 Pydantic AI 메인테이너인 Douwe는 매일 아침 눈을 뜨면 밤새 누군가의 AI가 열어 둔 서른 개의 PR을 마주하고, 그 하나하나에 즉석 판단을 내려야 한다고 토로했다. 검토 자체를 AI에 맡기고 싶은 유혹이 컸지만 그는 이렇게 말했다.

그 지점까지 가면, 나는 여기서 대체 뭘 하고 있는 거지?

저자 본인의 경험도 비슷하다. 최근 몇 달 사이, LLM이 실행할 계획 하나를 쓰는 데 꼬박 이틀에 가까운 시간을 쓴 날들이 있었다. 강박적으로 명료화하고, 명세하고, 다시 명세했는데도 모델은 여전히 설명 불가능하게 멍청한 짓을 저질렀다. React 훅을 Storybook 스토리 파일로 옮겨 넣거나, 엉뚱한 계획을 읽거나, 존재하지도 않는 컴포넌트를 지어냈다. 저자는 이것이 능력의 오류가 아니라 일관성(coherence)의 오류라고 짚는다. 모델은 그럴싸한 코드를 뽑아낼 만큼 똑똑하지만, 복잡한 변경 전반에 걸쳐 일관된 의도를 유지할 만큼 똑똑하지는 않다는 것이다.

여기서 새로운 종류의 피로가 생겨난다. 저자가 감독의 피로(the fatigue of supervision)라 부르는 것이다. 기계가 대체로 맞지만 여전히 사람의 눈과 판단과 취향을 요구하는 산출물을 대량으로 쏟아내는 동안, 그 의도를 머릿속에 붙들고 있어야 하는 피로다. Douwe는 예전엔 오픈소스에서 실제 사람과 멋진 기능을 함께 만들며 도파민을 얻었다고 했다. 지금은 이렇게 말한다.

내가 쓰는 모든 게 어떤 AI 블랙홀로 빨려 들어간다. 반대편에서 뭔가를 실제로 배우는 사람이 아무도 없다.

강도의 덫

저자는 Simon Willison이 소개한 Berkeley Haas 연구를 인용한다. AI 사용이 일의 양을 줄이는 게 아니라 강도를 높인다는 내용이다. “하루 끝에 프롬프트 하나만 더, 이걸 완벽하게 만들어 줄 기능 하나만 더"라는 끌림. 저자는 이 계획 하나를 제대로 맞추기 직전이라 여겨 새벽 2시 가까이 프롬프트를 붙들고 있던 밤을 고백한다. 적어도 그렇게 생각했었다고.

또 다른 동료 Marcelo는 Claude Code 세션이 멈췄다는 질문에 이렇게 답했다.

그냥 Claude 세션 5개를 열어. 나머지한테 피드백 주느라 바빠서 멈춘 걸 눈치도 못 챌 거야.

농담이었다. 아마도. 하지만 지금 이 순간의 진실을 담고 있다. 병렬성은 짜릿하고 어딘가 야생적이다. 시작할 수 있는 일의 수는 극적으로 늘었지만, 사려 깊게 끝낼 수 있는 일의 수는 조금도 늘지 않았다. 그 부분은 여전히 병렬화할 수 없는 단 하나의 자원, 곧 인간의 뇌를 요구하기 때문이다.

저자는 지금 벌어지는 일에 이름을 붙인다. 인간 보상 함수 문제(the human reward function problem)다. 기계학습에서 보상 함수는 에이전트에게 무엇이 좋은지를 알려준다. 손으로 코드를 짜는 일은 결코 쉽지 않았지만 작은 보상들로 가득했다. 머릿속에서 문제를 풀고, 까다로운 로직을 이해하고, 코드가 컴파일되는 걸 지켜보고, 통제감을 느끼는 것. LLM 보조 프로그래밍은 그 도파민을 만들던 작업 상당 부분을 자동화했고, 그 자리를 검토와 감독이라는 인지 부하로 채웠다. 만족스러운 부분은 쪼그라들고 지치는 부분은 커졌으며, 그 빈틈을 메울 새 보상은 없다.

당신의 일이 동시에 더 생산적이면서 덜 만족스럽게 느껴진다면, 당신이 고장 난 게 아니다. 피드백 루프가 고장 난 것이다.

저자는 이것을 개인의 실패가 아니라 그 자체로 하나의 공학 문제로 다뤄야 한다고 주장한다. 덧붙여 LLM 프로그래밍은 지독하게 고독한 활동이라고 말한다. 동료에게 질문을 던지고, 문제를 함께 되짚고, 뭔가 딱 맞아떨어진 작은 승리를 나누던 자연스러운 순간들이 조용히 또 다른 프롬프트로 대체된다. 그리고 그것은 스키너 상자처럼 중독적이다. 어떤 때는 훌륭한 결과가, 어떤 때는 쓰레기가 나오는데 어느 쪽일지 결코 알 수 없다.

브레이크포인트 — 반응형 디자인의 기시감

저자는 지금의 불안을 2009년 무렵 반응형 디자인이 불러온 공포와 겹쳐 본다. 고정 너비의 픽셀 완벽한 잡지식 레이아웃에서 유동적이고 반응하는 레이아웃으로 넘어가던 문화적 순간, 디자이너들은 그것을 혐오했다. 정밀한 레이아웃과 완벽한 그리드에 정체성을 걸었던 이들에게 통제력의 상실은 실존적 위협이었다.

그 전환을 뚫고 번성한 디자이너들은 자기 기술을 재정의한 사람들이었다. 비례 감각도, 위계에 대한 이해도 여전히 중요했다. 장인정신은 죽은 게 아니라 진화했다. 덜 중요해진 것은 픽셀 단위 통제에 대한 집착이었고, 더 중요해진 것은 시스템과 적응성, 그리고 불확실성을 위한 설계였다.

다만 저자는 이 비유를 과하게 팔지 않으려 조심한다. 반응형 디자인은 수년에 걸쳐 진행됐지만 지금의 전환은 개월 단위로 측정된다. 판돈의 크기가 다르고, 속도가 주는 소진은 그때와 비교할 수 없이 크다. 그럼에도 장인정신이 죽는 게 아니라 진화하고, 핵심 기술이 덜 중요해지는 게 아니라 더 중요해진다는 근저의 패턴은 유효하다고 본다.

당신이 모든 줄을 손으로 쓰지 않았다고 해서 덜한 엔지니어가 되는 건 아니다. 하지만 무엇이 좋은 것인지는 여전히, 아니 어느 때보다 더 알아야 한다. 이제 당신은 훨씬 더 많은 산출물에 대한 품질 게이트이기 때문이다.

무엇이 살아남는가

누구나 그럴듯한 UI와 컴파일되는 코드를 뽑아내는 시대에, 사람을 구분 짓는 표지는 취향, 뉘앙스, 성숙한 아키텍처적 소신, 그리고 패턴 매칭이 아니라 진짜 전문성에서 나오는 역발상적 판단이 된다.

저자는 우리가 코드와 결정과 트레이드오프를 가장 깊이 이해하는 영역에서 LLM을 가장 잘 이끈다고 관찰한다. 반대로 자기 실력의 얕은 쪽으로 들어갈수록 산출물은 눈에 띄게 인상주의적으로 변한다. 프로덕션에서 멀어지고, 더 그럴싸해 보이되 실제로는 덜 정확해진다. 모델은 자기가 무엇을 모르는지 모르기 때문에 그 빈틈을 자신감으로 채운다. 저자는 이것이 아주 인간적인 실패 방식이기도 하다고 덧붙인다.

새 기술도 등장하고 있다. 저자는 복잡한 계획에 대해 사전 부검(pre-mortem)을 돌린다. 새 LLM 세션에게 “이 계획이 파국적으로 실패했다고 가정하고 그 이유를 진단하라"고 시키는 것이다. 이는 이틀 동안 세부에 너무 깊이 빠진 나머지 저자가 놓친 명세의 빈틈을 잡아낸다. 또 한 엔지니어는 자신의 지난 코드 리뷰 코멘트 수천 개에서 규칙을 추출해 AGENTS.md 파일의 씨앗으로 삼는 도구를 만들었다. 수년간 쌓인 암묵적 공학 판단을 LLM이 따를 수 있는 지침으로 인코딩한 것이다. 저자는 이를 전문성의 죽음이 아니라 전문성의 증류라 부른다.

지금 발판을 찾은 사람들은 몇 가지 특징을 공유한다. 실천으로 얻은 강한 소신이 있고, 여전히 적용되는 원칙과 그저 대역폭 제약에서 나온 습관을 구별할 줄 알며, 기준을 버리지 않으면서 워크플로우를 기꺼이 진화시킨다.

가장 눈여겨본 대목

가장 곱씹은 것은 마지막의 진단이다.

하지만 병목은 결코 코드가 아니었다. 그것은 언제나 인간의 주의력, 공학적 판단, 시스템에 대한 일관된 비전을 붙들 수 있는 능력이었다. 우리는 코드를 쓰는 일이 어려운 부분처럼 느껴졌기 때문에 그 사실을 알아채지 못했을 뿐이다.

이 문장은 앞선 모든 피로의 정체를 뒤집어 보여준다. 코딩이 자동화되자 힘들어진 게 아니라, 원래 힘들었던 것이 무엇인지가 드러난 것이다. 만족스러운 도파민을 주던 작업이 사실은 진짜 병목을 가리는 장막이었고, 장막이 걷히자 남은 것은 병렬화할 수 없는 인간의 주의력이라는 희소 자원이다. 그리고 희소한 자원은 가치가 있다.

저자는 소프트웨어 공학이 직업으로서 끝난다고 보지 않는다. 다만 심각한 수축과, 일이 무엇인지에 대한 근본적 재편이 온다고 본다. 도구를 만드는 팀조차 같은 것을 겪고 있으며, 자기네도 실시간으로 보상 함수를 디버깅하는 중이라고 고백하는 대목이 인상적이다. 글은 이렇게 닫힌다.

하지만 인간은 여전히 루프 안에 있다. 우리는 그저 지쳐 있을 뿐이다. 그리고 그건 이야기할 가치가 있다.

출처

Laura Summers, “The Human-in-the-Loop is Tired”, Pydantic, 2026-02-18. 원문: https://pydantic.dev/articles/the-human-in-the-loop-is-tired