3줄 요약

  1. 데이터 컨설팅 회사 Hermit Tech의 니킬 수레시(Nikhil Suresh)가 2026년 7월 18일에 올린 에세이다. 지난 1년간 회사의 영업을 총괄하고 300여 명의 각국 전문가와 나눈 대화를 바탕으로, 민간과 공공을 가리지 않고 조직들이 겪고 있는 “집단 정신착란"을 기록했다.
  2. 핵심 진단은 이렇다. 관찰한 모든 AI 프로젝트가 1년 반 동안 성공률 0%였고, 그럼에도 AI를 향한 신앙 고백이 승진과 고용의 조건이 되면서, 리더들이 자기 판단을 정직하게 말할 수 없는 환경이 만들어졌다.
  3. 그 결과 조직은 합당한 소프트웨어를 사지도, 유능한 사람을 뽑지도, 프로젝트 상태를 솔직히 공유하지도 못한다. 저자는 이 국면을 버텨내는 실무적 요령들을 마지막에 정리한다.

AI 투자는 대체로 완전한 실패다

기업들이 AI 도입으로 실제 생산성 향상을 보고 있는가. 쉬운 질문 같지만 정직한 답을 얻기가 놀랄 만큼 어렵다. 회사가 미쳐 돌아간다고 언론에 말한 임원은 곧 자리에서 밀려나고, 솔직한 직원은 해고되거나 정리해고 명단에 “무작위로” 오른다. 이사회, 임원, 직원, 벤더, 컨설턴트 거의 모든 이해당사자에게 AI 프로젝트의 성공률을 흐리고 왜곡하는 편이 이득이다.

저자의 진단은 단호하다. 팀이 관찰한 AI 프로젝트는 전부 실패하고 있다. 참여를 요청받은 프로젝트뿐 아니라, 전혀 무관한 일을 하다 곁눈으로 지켜본 프로젝트까지 1년 반 동안 성공 사례가 하나도 없었다.

설령 AI 도구가 특정 작업을 가속한다 해도, 지금 투자의 방식과 규모는 무분별하다.

실패의 상당수는 AI 자체 문제가 아니라 회사가 소프트웨어 프로젝트를 제대로 굴리지 못하는 데서 온다. 저자의 표현으로, AI 프로젝트는 일반 프로젝트의 모든 실패 요인에 더해 “모든 걸 제대로 해도 방법론이 새롭다는 이유만으로 실패할 수 있는” 위험이 얹힌다.

가장 흔한 실패는 사내용 챗봇, 조금 더 대담한 회사라면 고객용 챗봇이다. 사내 챗봇은 직원들이 쓰지 않는다. 회사 문서가 부실하고, LLM은 초능력자가 아니라 적혀 있고 접근 가능한 것만 알기 때문이다. 프로젝트 책임자들은 도구가 실제로 쓰이는지 같은 기본 지표를 조심스럽게 추적하지 않거나, 조작하기 쉬운 지표만 잰다.

저자가 든 사례가 인상적이다. 여섯 달 전 그는 자동차 고장으로 미쓰비시에 도움을 청했는데, 아주 정중한 로봇이 문제를 설명해 달라고 하고는 곧 담당자가 연락하겠다고 안내했다. 목소리는 자연스러웠고 응답도 빨랐다. 그가 실제로 본 것 중 가장 잘 만든 구현이었다.

그리고 여섯 달이 지나도록, 연락은 오지 않았다.

그건 오류로 잡히지 않았을 것이다. 아마 그 문의는 봇이 사람 개입 없이 잘 해결한 건으로 보였겠지. 모든 면에서 근사해 보였을 것이다. 정작 중요한 딱 한 가지, 내가 차를 새로 사려다 그 회사 차는 사지 않기로 했다는 사실만 빼고.

이 때문에 팀은 고객사에서 진행 중인 AI 프로젝트에 대해서는 어떤 질문도 하지 않는 법을 빨리 배웠다. 성공률이 워낙 낮아서, “어떻게 돼가나요”, “목표가 뭔가요”, “누가 쓰나요” 같은 멀쩡한 질문조차 답이 없는 지휘 계통에 대한 뜻하지 않은 공격이 되기 때문이다.

이단자는 총살당한다

AI가 문제의 해법이 아닐 수도 있다는 가능성을 꺼내는 것 자체가 위험해졌다. 저자가 관찰한 직원 500명 이상 규모의 회사에서는, 승진과 갈수록 고용까지도 AI의 변혁적 힘에 대한 반복된 신앙 고백을 요구한다. 아이디어 제시가 아니라 신앙 선언이다.

아무 맥락 없이 “AI가 모든 것을 바꾸고 있다"고 내뱉고는, 곧이어 자기 조직은 LLM을 아무 데도 쓰지 않으며 ChatGPT 무료 버전 말고는 바뀐 게 하나도 없다고 인정하는 사람을 저자는 여러 번 봤다. 극단적으로는, ChatGPT를 평생 한 번도 써본 적 없다고 고백한 임원이 그 직후 연 매출 20억 달러 넘는 조직의 기술 전략을 통째로 AI 중심으로 내놓은 경우도 있었다.

처음엔 사고 리더 지위를 노린 냉소적 술책이라 여겼지만, 진실은 더 나빴다. 기술 배경이 전혀 없는 사람들이 자기가 하는 말을 실제로 믿는다는 것이다. 저자의 표현으로, 거짓말쟁이는 사익으로라도 설득할 수 있지만 진짜 신자는 그 유인조차 통하지 않아 훨씬 위협적이다.

저자의 생각을 바꾼 결정적 장면은, 막대한 돈이 걸린 자리에서 누군가가 자기 회사 최고 성과자들을 해고하는 것을 지켜본 일이었다. 그들이 LLM 없이 그 성과를 냈다는 이유로.

이 대목에서 저자는 대체로 견해가 대립하는 토마스 프타첵(Thomas Ptacek)조차 같은 결론에 닿는다는 점을 짚는다.

기술 임원들이 LLM 도입을 강제하고 있다. 그건 나쁜 전략이다.

LLM의 정확한 효용을 두고 다툴 필요도 없이, 조직들이 전문 인력에게 기괴한 업무 제약을 강요하고 있다는 점만은 정반대 입장의 두 사람에게 똑같이 자명하다는 것이다.

강제의 결과는 기이한 곳으로 향한다. 몇몇 동료는 자기 일을 완벽히 해내고도 AI를 안 썼다고 관리자가 불만스러워하자, 이제 LLM을 쓰지 않은 작업에도 “클로드가 했다"고 거짓말한다. 다른 이들은 “토큰 리더보드"로 평가받는데, AI 비용이 높을수록 좋은 점수를 받는다. 그래서 시스템 최적화의 귀재로 뽑힌 사람들이 뻔한 짓을 한다. LLM이 그럴듯하게 자기 자신에게 프롬프트를 던지는 루프를 돌려놓고, 누가 토큰 소비량을 들여다볼 때를 대비한 뒤, 넷플릭스를 본다.

내 일자리를 지키려고, 다른 일을 하는 동안 우리 Go 저장소 사본을 하나 띄워 놓고 AI한테 전체를 Zig로 다시 쓰라고 시켜 둔다. 이 짓이 정말 싫다. 내 업무엔 사용량 추적과 할당량이 있다. 실제 작업엔 안 쓰고, 그냥 돌려놓고 결과물은 무시한다.

어느 소프트웨어 엔지니어

저자가 아는 한, 이 사태로 해고된 사람은 조직 전략에 눈에 보이는 의심을 표한 이들뿐이다. 프타첵조차 대놓고 멍청하다고 보는 그 전략에 말이다.

AI 데모는 정신을 죽인다

저자의 회사는 고객사에 Snowflake라는 분석용 데이터베이스를 배포한다. 그 안에는 쓰지 않는 기능이 하나 있는데, 자연어로 데이터베이스에 질의하는 AI 챗봇 계층 Cortex다. 이론상 “지난주 매출이 얼마였지?“라고 물으면 답이 나온다.

Snowflake 직원의 발표에 따르면 이상적 구성에서도 정확도는 ~92% 수준이다. 대기업 데이터의 복잡성 때문이다. 저자의 비유로, 최고 수준이라 해도 CFO가 보는 숫자 열 개 중 하나가 대놓고 틀린다는 뜻이다. 운영에 쓰기엔 적합하지 않지만, 아주 화려한 시연을 만들기엔 충분하다.

AI 데모 화면을 보고 홀린 듯 신용카드를 내미는 인물과 곤란해하는 서소영

주력 상품엔 미지근하면서 자연어 데이터 질의만은 꼭 보고 싶어 하는 고객들이 있었다. 팀은 적절히 단서를 달아 보여주기로 했다. 이것이 끔찍한 실수였다.

냉담하던 잠재 고객마다, 우리가 원하는 걸 이뤄주지 못한다고 말했는데도, 챗봇이 돌아가는 걸 보자마자 당장 사겠다고 했다. AI가 아닌 방식으로 우리가 도와줄 수 있는 수백만 달러를 포함해 다른 모든 고려사항이 쓸려나갔다.

얼음처럼 차갑던 태도가 순식간에 뜨거운 구매 광풍으로 바뀌는 180도 전환을 지켜본 것은 깊이 불안한 경험이었다고 저자는 적는다. 그 짧은 순간 그는 전 세계 영업 미팅에서 무슨 일이 벌어지는지 이해하게 됐다. 어떤 경고도 그들의 구매를 막지 못했을 것이다. 팀은 이 반응을 이용하는 것이 너무 무책임하다고 판단해 결국 거래를 접고 Cortex를 시연 목록에서 뺐다.

의사는 자기가 처방하지 않을 멋진 알약을 들고 다니며 자랑하지 않는다.

그 뒤로 팀은 리드가 자기 사업에서 AI에 스치는 호기심 이상을 보이는 모든 거래에서 발을 뺄 수밖에 없었다. 도덕적 이유로 계약을 접었다는 뜻이 아니다. 그런 사람들이 평판과 법적 위험 없이는 거래하기 어려운 행동 패턴을 보였고, 저자의 표현으로 “제발 링크드인에서처럼 현실에서도 그러지는 말길” 바라게 되는 컬트적 관리 환경을 만들고 있었기 때문이다.

임원, 게임 이론, 벌거벗은 임금님

진짜 신자가 많은 것과 별개로, 대규모 AI 이니셔티브를 이끄는 사람 상당수는 자기가 하는 말을 믿지 않는다. 연 반복 매출 10억 달러가 넘는 회사의 “AI 총괄"들이 저자에게, 자기 직무가 완전히 사기라고 생각하지만 조직에 남은 유일한 승진 경로였다고 편지를 보내왔다.

해외 출장에서 만난 한 포춘 500대 기업 임원은 대단히 유능하고 기술을 잘 아는 사람이었는데, 그 회사 역시 “생산성을 100배로 끌어올렸다"는 부류의 과장된 주장을 늘어놓고 있었다. 마이크가 없는 자리에서 저자가 왜 아무 반대 없이 이런 말이 반복되냐고 묻자, 답이 흥미로웠다.

고객사 임원들이 100배 생산성 같은 터무니없는 말을 하고 있어서, 벤더 쪽 임원이 그 이득이 그럴듯하지 않다고 말하는 순간 고객 임원의 신뢰를 깎는 셈이 되고, 이는 공격이자 이단으로 받아들여져 대형 계약 해지로 이어질 수 있다는 것이다. 그런데 이 회사 역시 다른 회사에 거대한 계약을 파는 큰손이라, 그쪽 CEO도 제정신인 말을 했다가 자기 고객 임원과 충돌할까 걱정한다.

아주 빠르게, 전 세계 임원들이 서로에게 불안하게 총구를 겨눈 채, 먼저 총 맞기는 싫지만 모든 게 서서히 통제를 벗어나는 것을 지켜보는 그림이 그려진다.

원형으로 둘러선 정장 차림 인물들이 서로 눈치만 보며 침묵하고, 서소영이 바깥에서 지켜보는 모습

즉 임원들이 자기가 목격한 AI 이득을 정직하게 말하는 문제를 둘러싼 조율 실패다. 협조하면(입을 맞추면) 자리를 지킨다. 이탈하면(진실을 말하면) 거짓말쟁이나 겁쟁이, 무능력자로 몰린 동료들 손에 해고되고, 어차피 노선을 따를 사람으로 교체된다. 모두가 동시에 진실을 인정하면 희망이 있겠지만, 그 순간을 조율할 방법이 없다.

저자는 이 관점이 나름의 위안이라고 덧붙인다. 헛소리를 내뱉는 임원 일부는 보기만큼 아둔한 게 아니라, 자리를 노리는 이들에게 둘러싸이고 비슷한 압력을 받는 이사회의 변덕에 매인 험한 정치 환경에 놓여 있다는 것이다. 저자가 S&P 500 이사회 구성원들에게 AI 과열 대응을 강연했을 때도, 그들은 회의적이면서도 자기 자리가 AI 투자 요구에 달려 있다는 불안을 토로했다. “이렇게 일찍 투자하는 건 별 상승 여지 없이 위험만 지는 것 같다"던 이사가 있던 그 조직은, 2년 뒤 “AI 네이티브"를 표방하는 회사가 되어 있었다.

‘AI 네이티브’라야 탈 수 있다

이 모든 것이 수렴한 지점이 지금이다. 효과적인 의사결정이 멈춰 섰다. 리더들이 조직을 어떻게 이끄는 게 최선인지 자기 믿음을 정직하게 말하지 못하는, 저자의 표현으로 “암살로 통치되는” 분산된 환경이 만들어졌다. 가장 분별없는 권고가 아무 도전 없이 통과되고, 직원들은 “AI에 쓴 돈” 같은 조작 가능한 지표로 평가받으며 살아남으려 장단을 맞춰야 한다.

그래서 이념에 사로잡힌 조직에서 내부 정치를 통과해야 하는 모든 제안은, 가치 제안이 아무리 모호해도 AI 요소를 끼워야 한다. 저자의 진단으로, AI 프로젝트 급증의 상당 부분은 실은 비-AI 프로젝트에 순수성 검사를 통과하려고 사후에 AI를 갖다 붙인 것이다.

한 사례로, 오라클에서 Snowflake로 데이터베이스를 옮기던 조직은 마이그레이션을 직접 하는 대신, LLM으로 오라클식 SQL을 Snowflake식 SQL로 자동 번역하는 예비 단계를 얹었다. 프로젝트가 실패하자(LLM이 그 쉬운 걸 못해서가 아니라 자동화에 필요한 권한을 못 얻어서) 벤더는 그냥 손으로 번역했지만, 회사는 이를 AI 주도 성공으로 청구했다. SQL의 사소한 일부가 붙여넣기 전에 AI로 번역됐다는 이유로.

실제로 산 것은 무엇인가? 라이선스 갱신 전에 시스템을 폐기한다는 전략 과제를 달성하기 위한, 지극히 평범한 데이터베이스 마이그레이션이다. 상급자에게 팔린 것은 무엇인가? “예산의 상당 부분을 AI에 배정했고, 그것이 내 임무 달성을 도왔다.”

LLM 하나가 유일한 동력이라 구체적 수치로 실패가 드러날 수 있는 진짜 AI 프로젝트는 실은 아주 드물다. 대개 스타트업 맥락에서 보이는데, 저자의 팀은 영업 대화 끝에 그들이 이미 완성됐다고 마케팅하던 제품을 대신 만들어 달라는 것임을 알게 되는 일이 반복돼 이제 상대하지 않는다.

AI 딱지를 붙이기 어려운 프로젝트, 또는 거짓말하기 싫거나 거짓말이 필요해진 줄 모르는 사람이 미는 프로젝트는 자금이 끊기거나, 모든 소통이 “충분히 AI다워질” 때까지 반복 수정되는 만성적 지연에 걸린다. 많은 회사가 새 채용 정책을 공표하기도 했다. 인력 충원을 요청하려면 먼저 AI를 써봤음을 증명해야 한다는 것이다. 빠진 부분은, AI를 썼는데도 도움이 필요하다고 하면 “AI를 못 다룬다"는 딱지가 붙어 해고될 수 있다는 점이다.

AI 광기 헤쳐나가기

저자는 이 상황이 언젠가는 지나가리라 보면서도, 그때 길러진 광기의 기질은 거품이 꺼진 뒤에도 오래 남아 다음 방아쇠를 기다릴 것이라 경고한다. 블록체인 소동에서 아직 벗어나지 못한 조직이 있는 것처럼. 그러면서 당장의 위기를 견디는 요령을 두 갈래로 정리한다.

다른 목표가 있을 때, 즉 조직의 광기를 고치는 게 아니라 특정 프로젝트를 바로잡거나 무관한 목표를 이루려 할 때:

  • AI 프로젝트 상태를 집단 자리에서 논하지 마라. 각자 동료 앞에서 자기 정체를 드러낼까 두려워하는 역학이 생긴다. 일대일 자리를 만들어라.
  • 진행 중 프로젝트라면 익명 설문이 효과적이다. 성공 가능성을 1에서 10으로 매기게 하면, 3점과 8점으로 갈리는 뚜렷한 양봉 분포가 자주 나온다. 이미 3년 늦은 프로젝트에서. 이 데이터를 CEO에게 가져가면 무언가 숨겨지고 있음을 짚어줄 수 있다.
  • 반드시 현장의 사람들을 끌어들여라. 투자가 어디로 가는지 아는 유일한 데이터원은 그것을 매일 쓰는 사람들이다. 어느 고객사에선 직원들이 자기에게 AI 도구 라이선스가 발급된 줄도 몰랐고, 이 사실이 모든 생산성 주장을 의심케 했다.
  • AI에 대한 가장 넓은 주장에는 토를 달지 마라. “AI가 모든 것을 바꾼다"는 말은 그냥 지나가게 두어라. 도전은 가장 윗사람의 신뢰를 얻은 뒤에야 가능하다. 신뢰는 동료 앞에서 망신을 주는 게 아니라 사석의 식사에서 불안을 달래며 쌓인다.
  • 방에 들어가기 전 어떤 발언이 오갔는지 모른다는 걸 기억하라. “나는 작년보다 100배 생산적이다"라고 공언해 놓고 물리고 싶어도 못 무르는 사람이 있을 수 있다. “LLM이 사람 검토 없이 코드를 배포하게 두면 안 된다” 같은 상식조차 시작 전에 판을 깰 수 있다.

그저 버티는 게 목표일 때, 즉 거품이 꺼지기를 기다리며 미치지 않으려는 사람들에게:

  • 나쁜 소식부터. 아마 이 흐름을 의미 있게 되돌리지는 못한다. 이건 AI의 특성이 아니라 역기능 조직의 특성이다.
  • 정말 미칠 것 같으면 계약직 전환을 고려하라. 보수가 더 높고 내부 정치에서 대체로 빠지며, 견디기 힘든 상황에도 정해진 종료일이 있음을 안다.
  • AI 관련 뉴스 섭취를 스스로 제한하라. 정신 건강에 필요한 딱 그만큼만 소비하고 멈춰라. 친구와의 하소연도 마찬가지고, 그게 하소연이라고 밝히면 관용을 많이 산다.
  • 관리자가 명백히 AI가 쓴 글로 답하거든, 정신 건강을 위해 AI로 답하고 새 일자리를 찾아라. 무례하다고 혼날까 걱정하지만 그러지 않는다. 이 행동은 진짜 신자만 하는데, 그들은 오히려 당신이 성의 없이 응한 걸 좋아한다.
  • 2000줄짜리 형편없는 AI 코드 리뷰를 떠맡고 있다면, 조직이 당신을 소진시키고 해고하리라 가정하라. 이미 해고된 셈 치고, 힘 있을 때 구직을 시작하라.

좋은 싸움을 싸우고, 개자식들이 당신을 갈아 없애게 두지 마라. 신의 가호가 있기를.

가장 눈여겨본 것은

내가 가장 오래 붙든 대목은 세 번째 장의 “데모는 정신을 죽인다"였다. 미지근하던 고객이 챗봇 시연 하나로 순식간에 광적 구매자로 돌변하고, 파는 쪽이 오히려 무책임하다고 판단해 돈을 거절하는 장면. 여기서 저자는 개인의 어리석음을 비웃지 않는다. 대신 그 구매욕이 연쇄로 번지는 구조를 본다. 이 사람이 사서, 자기 고객에게 되팔고, 결국 그 비용을 정당화해야 하는 맨 끝의 누군가에게 부담이 도착하는 흐름 말이다.

에세이 전체를 관통하는 힘도 여기에 있다. 저자는 “AI가 쓸모없다"고 주장하지 않는다. 오히려 LLM의 효용을 두고 다투는 일 자체를 비켜서서, 문제를 조율 실패로 다시 그린다. 아무도 먼저 진실을 말할 수 없기에 가장 분별없는 결정이 도전받지 않고 통과되는 구조. 이 재구성이 이 글을 단순한 회의론이 아니라 조직론으로 만든다.

물론 이 진단에는 한계가 있다. 저자 스스로 밝히듯 표본은 한 컨설팅 팀이 만난 고객들이고, “관찰한 모든 프로젝트가 실패"라는 강한 문장은 성공 사례가 애초에 컨설턴트를 부르지 않는다는 선택 편향과 떼어 읽어야 한다. 그럼에도 임원 조율 실패라는 게임 이론적 뼈대는, 표본을 넘어 설득력을 가진다.

출처

Nikhil Suresh, “AI Mania Is Eviscerating Global Decision-Making”, Hermit Tech (Radically Ethical Data Consulting), 2026년 7월 18일. 원문: https://hermit-tech.com/blog/ai-mania-is-eviscerating-global-decisionmaking

본문 삽화는 원문에 인용 가능한 이미지가 없어 치비 서소영 삽화로 대신했다.