3줄 요약
- 요즘IT(2026-05-20)에 실린 벤(benjamin74)의 글로, Turing Post 한국판 〈unsexy-truth-of-ai-adoption〉을 번역·재구성한 비즈니스 칼럼이다.
- AI 도입은 컨설팅 매뉴얼이 그리는 선형 단계도가 아니라 의존성의 적층(Stack of Dependencies) 구조라, L1~L5 사다리에서 아래층이 부실하면 위층은 시연용 데모로만 머문다.
- L1→L2(데이터로 읽히게 만들기), L2→L3(데이터를 믿을 수 있게), L3→L4(시스템이 판단·행동), L4→L5(조직의 근간 변화) 네 전환기를 통과하는 일은 결국 조직 재설계의 문제이며, 최후의 승자는 비싼 모델을 쓴 기업이 아니라 섹시하지 않은 기초 공사를 해낸 기업이라는 결론에 닿는다.
AI 성숙도, 선형 단계가 아니라 의존성의 적층
가트너·맥킨지가 그리는 깔끔한 AI 성숙도 단계도와 달리, 글은 실제 기업 환경에서의 AI 성숙도가 층층이 쌓는 적층 구조에 가깝다고 본다.
두 번째 층이 부실하면 네 번째 층은 절대 올릴 수 없습니다. 물론 올리는 ‘척’은 할 수 있습니다. (…) 그런 식의 프로젝트는 데모 때는 화려해도, 현장에 투입되면 6개월도 못 가서 조용히 사라집니다.
진짜 드라마는 사다리의 아래 칸(개인 노하우·파편적 실험)이나 위 칸(자율 에이전트·적응형 워크플로우)이 아니라 그 사이의 ‘허리’ 구간에서 일어난다. 업무를 기계가 이해할 수 있게 명문화하고, 데이터를 믿을 수 있을 만큼 정제하고, 의사결정 구조를 체계화하는 단계 — 이 허리가 AI 도입을 현실로 만드느냐 고사시키느냐를 가른다.
부서별로 성숙도가 어긋나는 불균형은 정상이다. 엔지니어링은 앞서가는데 재무는 제자리, 마케팅은 폭주하는데 법무는 제동을 거는 그림이다. 시스템 구축은 언제나 제도보다 빠르기 때문이라는 진단이다. 따라서 의미 있는 질문은 “우리는 몇 단계인가"가 아니라 “어느 부분이 발목을 잡고 있는가"가 된다.
L1 → L2: 가장 고통스러운 구간 — 조직이 ‘데이터로 읽히게’ 만들기
L1은 챗GPT로 기획안을 쓰고 코파일럿으로 코딩하는 개인기의 단계다. 뛰어난 직원이 내부 툴을 뚝딱 만들어 리더를 놀라게 하지만, 그 사람이 퇴사하면 함께 사라진다.
L2로 가는 길은 더 비싼 툴을 사는 일이 아니라, 조직이 스스로 어떻게 일하는지 객관적으로 설명하는 법을 배우는 일이다. 매뉴얼에 적힌 원칙이 아니라 ‘실제로’ 영수증을 어떻게 분류하는지, 문서 승인의 진짜 권한자가 누구인지를 말로 정리할 수 있어야 한다.
본문은 두 사례를 든다.
- 식당 장부 관리 업체: AI 데이터 입력 자동화 전, 업체마다 제각각인 배송비·보증금 처리 규칙을 명문화하는 데만 6주가 걸렸다. 그동안 사람 직원들이 기계는 도저히 이해할 수 없는 모호함을 온몸으로 받아내며 땜질하고 있었다는 사실이 드러난다.
- 건설 회사: 한 개발자가 1년 넘게 만든 시스템이 그가 퇴사하자마자 마비됐다. 모든 데이터 연결 규칙이 그의 머릿속에만 있었고, ‘배관 공사’가 회계 시스템에서 왜 다른 코드로 불리는지 아무도 몰랐다.
가장 뼈아픈 진단은 문서화 부재가 단순한 실수가 아니라 ‘대체 불가능한 사람’이 되기 위한 의도적 정보 독점인 경우가 많다는 것이다. 업무를 가독성 있게 만든다는 건 누구나 검토할 수 있게 한다는 뜻이고, 곧 권력의 분산을 의미한다.
| 구간 | 흔한 오해 | 진짜 장벽 | 진짜 보상 |
|---|---|---|---|
| L1 → L2 | “AI 전략을 짜고 좋은 도구를 도입하자” | 우리 조직이 어떻게 돌아가는지 우리도 설명하지 못함 | AI가 아니더라도 신입 적응이 빨라지고 조직이 단단해짐 |
L2 → L3: 가장 과소평가되는 구간 — 데이터를 진짜로 믿을 수 있는가
L3는 AI를 회사의 실제 데이터(CRM·회계·협업 툴)에 직접 연결하는 단계다. 글은 이 구간을 **“데이터 연결은 기술의 문제지만, 신뢰는 심리의 문제”**라고 정의한다.
- 미디어 분석 업체: 플랫폼마다 사용자 ID가 달라 데이터가 중복 집계되고 있다는 사실을 AI를 붙이고서야 알았다. 그동안 사람은 눈치껏 머릿속에서 맞춰가며 일해왔다.
- 금융 서비스 기업의 인보이스 추출기: 정확도가 94.5%로 나왔는데, ‘오답’으로 분류된 것들 중 상당수가 과거에 사람이 손으로 입력하며 냈던 오타였다. AI가 인간의 실수를 잡아냈음에도 불구하고, 직원들은 AI가 답을 낸 근거(출처)를 일일이 눈으로 확인할 수 있게 되기 전까지 시스템을 믿지 않았다.
| 구간 | 흔한 오해 | 진짜 장벽 | 진짜 보상 |
|---|---|---|---|
| L2 → L3 | “RAG 기술만 있으면 된다” | 결과물을 검증할 수 없으면 아무도 그 결과에 따라 움직이지 않음 | 1시간 걸리던 자료 조사가 5초 만에 끝나고, 조직이 드디어 ‘우리가 무엇을 알고 있는지’를 파악 |
L3 → L4: 가장 거품이 낀 구간 — 시스템이 판단하고 행동하기 시작하다
L4는 시스템이 시키지 않아도 먼저 움직이는 단계다. 서버 로그를 지켜보다 문제가 생길 것 같으면 미리 진단해서 보고하고, 고객 문의에 사람이 열어보기도 전에 DB를 뒤져 해결책을 준비해둔다.
- Tezlab(차량 데이터 앱): 문의 메일이 오자마자 AI가 코드를 뒤져 원인을 찾아둔다. 사람 상담원은 차려진 밥상에서 결정만 내리면 된다. 서버 운영비가 20% 줄었다.
거품이 낀다고 진단하는 이유는 사람들이 이 단계를 단순히 ‘똑똑한 비서를 구매하는 일’ 정도로 여기기 때문이다. 글이 짚는 실제 장벽은 조직 구조에 있다. 시스템이 통찰을 미리 제공한다면, 그 정보를 받는 사람에게 **‘행동할 권한’**도 함께 줘야 한다. 상담원이 AI 덕분에 엔지니어링 문제의 원인을 알게 됐다면, 개발자에게 부탁할 필요 없이 직접 수정할 수 있어야 한다. 조직도와 결재 체계가 통째로 바뀐다는 뜻이다.
| 구간 | 흔한 오해 | 진짜 장벽 | 진짜 보상 |
|---|---|---|---|
| L3 → L4 | “에이전트만 도입하면 끝이다” | 실무자에게 정보·권한이 쏠리는 ‘권력의 이동’을 리더십이 감당하지 못함 | 병목이 사라지고, 인간은 오직 ‘판단’이라는 고차원 활동에 집중 |
L4 → L5: 가장 거대한 변화 — 시스템이 조직의 근간을 바꾸다
L5는 선순환 피드백 루프가 완성되는 단계다. AI는 실행만 하는 게 아니라 전문가의 피드백을 받아 가며 스스로의 로직을 수정한다. 전문가가 AI의 답을 고치면 그 노하우가 다시 시스템에 저장되는 식이다.
더 나아가 시스템은 실제 업무 데이터를 보고 조직 구조를 제안하기도 한다.
“현재 프로젝트 속도를 보니 이런 역량을 가진 사람이 더 필요합니다” “채용 공고 내용을 이렇게 바꾸는 게 좋겠습니다”
여기서 가장 큰 걸림돌은 기술이 아니라 인간의 거부감이다. “기계가 시키는 대로 사람을 뽑으라고?“라는 반감이 자연스럽게 든다. 시스템 제안이 기존 관습과 충돌할 때 리더십이 시스템의 손을 들어줄 수 있는지가 분기점이 된다. 글은 이를 “기술이 아니라 경영의 결단 문제"로 정리한다.
| 구간 | 흔한 오해 | 진짜 장벽 | 진짜 보상 |
|---|---|---|---|
| L4 → L5 | “자율 주행처럼 알아서 다 돌아간다” | 전문가 노하우를 시스템으로 피드백하는 과정이 매우 힘듦 | 조직의 지능이 특정 개인이 아니라 영구적 자산이 됨 |
마치며: AI 친화 조직 = 신입 친화 조직
글이 다섯 단계를 관통해 도달하는 결론은 의외로 평이하다.
조직을 기계가 이해할 수 있게 만드는 과정은, 결국 사람이 일하기 좋은 조직을 만드는 과정과 완전히 똑같다.
검색할 수 있는 기록, 명확한 근거, 표준화된 데이터, 투명한 규칙 — AI에게 필요한 것은 새로 들어온 신입 사원에게도 그대로 필요한 것이다. 기업이 귀찮다는 이유로 미뤄온 일을 AI 시대가 더 이상 미룰 수 없게 만든다는 진단이다.
저자는 AI 도입에 대한 저항의 진짜 이유를 흥미롭게 짚는다. AI 자체가 무서운 것이 아니라 그 과정에서 드러날 자신들의 무질서와 불투명함이 두렵다는 것이다. 프로세스가 투명해지면 권위가 도전받고, 데이터가 명확해지면 숨겨온 실수가 드러난다.
체급 비교도 인상적이다. 대기업의 AI 도입은 거대 비만 조직의 전신 수술과 같아 고통스럽지만 성공하면 파괴력이 어마어마하다. 반면 소규모 팀은 군더더기가 없어 곧바로 L3·L4로 치고 나갈 수 있지만, 성장하면서 기록과 계체를 게을리하면 금세 같은 늪에 빠진다.
결국 최후의 승자는 2026년에 가장 비싼 AI 모델을 쓴 기업이 아닐 겁니다. AI가 제 실력을 발휘할 수 있도록 조직의 기초 체력을 다지는, ‘섹시하지 않은 작업’을 묵묵히 해낸 기업이 될 것입니다.
가장 흥미로운 지점
가장 인상 깊은 대목은 94.5% 정확도의 함정이다. AI가 사람보다 정확한 결과를 내놓는 순간이 도래해도, 결과의 근거를 사람이 검증할 수 있게 될 때까지는 그 시스템이 채택되지 않는다는 사실이다. 이는 단순한 사용자 경험 이슈가 아니라, ‘신뢰’가 채택의 마지막 게이트라는 구조적 진단이다. 더 정확한 모델을 만드는 일과 왜 그렇게 답했는지 보여주는 일은 별개의 문제이며, 후자가 결여되면 전자의 가치는 0에 수렴한다.
또 하나는 L3→L4 구간에서 짚는 **‘권력 이동’**이다. 흔히 AI 에이전트 도입을 ‘인력 감축’의 문제로 보지만, 글은 그 본질을 실무자에게 정보와 권한이 한꺼번에 쏠리는 사건으로 다시 정의한다. 상담원이 AI 덕분에 엔지니어링 문제 원인을 알게 됐을 때 그가 직접 코드를 고칠 수 있어야 가치가 실현된다는 사례는, 기술 도입이 결국 조직도와 결재선의 재설계임을 단적으로 보여준다.
출처
벤(benjamin74), 〈AI 도입, 섹시한 기술에 숨겨진 ‘섹시하지 않은’ 성공 법칙〉, 요즘IT 매거진 #3762, 2026-05-20. 원문: https://yozm.wishket.com/magazine/detail/3762/ 원 출처: Turing Post Korea, 〈unsexy-truth-of-ai-adoption〉, https://turingpost.co.kr/p/unsexy-truth-of-ai-adoption