이제 사회의 기준은 인간이 아니다

이제 사회의 기준은 인간이 아닙니다.

당신이 하루에 지원서를 몇 장 쓸 수 있는지, 소송을 몇 건 감당할 수 있는지, 노래를 몇 곡 만들 수 있는지. 우리가 아는 모든 제도는 그 한계 위에 세워져 있었습니다. 사회는 이 한계를 규칙으로 적지 않았습니다. 적을 필요가 없었으니까요. 사람은 느리고, 비싸고, 지치고, 한 번에 한 사람으로만 행동했습니다.

그 전제는 이제 사라지고 있습니다. 보이지 않지만 조금씩, 분명하게.

에이전트는 쉬지 않고 복제되며 수천 개의 일을 병렬로 처리합니다. 어떤 영역에서는 이미 인간보다 잘하고, 그렇지 않은 영역에서도 인간보다 압도적으로 많이 행동합니다. 그러자 인간의 속도를 전제로 조용히 굴러가던 제도들이, 하나씩 파열음을 내기 시작하고 있습니다.

1,598건

2026년 6월까지 실제 법원에 제출된 소송 서류에서 확인된, AI가 지어낸 존재하지 않는 판례. 그 수는 몇 주마다 100건씩 늘고 있습니다.¹

가장 먼저 흔들린 제도 중 하나는, 뜻밖에도 법정입니다. 변호사가 제출한 서류에 챗봇이 지어낸 가짜 판례가 실려 오기 시작했습니다. 사건명도, 판사 이름도, 판결 논리도 다 있는데, 그 판결만 세상에 존재하지 않습니다.

판례를 위조하려면 원래 사람이 공들여야 했고, 그 노력과 발각 위험이 곧 억지력이었습니다. 이제 그 위조는 버튼 한 번이면 됩니다. 그래서 판사들은 제출된 판례가 실재한다는, 굳이 규칙으로 적을 필요도 없던 전제를 지키려고 수백 년 된 절차에 서약란을 새로 끼워 넣었습니다. 이 문서에 AI가 쓰였는가, 그렇다면 사람이 검증했는가. 처음엔 판사 한 명이 시작했고, 지금은 수백 명이 같은 명령을 씁니다.

에이전트는 변호사의 일자리를 하나 대신한 게 아닙니다. “서류를 제출한다"는 행위가 인간의 최소한의 성실을 담보한다는, 그 위에 선 제도를 흔든 겁니다. 그리고 같은 일이 지금 채용에서, 음악에서, 오픈소스에서 동시에 벌어지고 있습니다.

우리는 그 기준을 어디에도 적지 않았다

입사지원서 한 장, 논문 한 편, 소장 한 건에는 시간과 노력이 들었습니다. 그 노력이 품질을 보장하지는 않았지만, 총량은 제한했습니다.² 지원자는 회사를 골라야 했고, 소송을 걸려는 사람은 비용을 감수해야 했고, 창작자는 만드는 시간을 써야 했습니다.

인간의 노력은 사회에 내장된 보이지 않는 작업증명이었습니다.

이것을 제출할 만큼은 원했다. 이것을 주장할 만큼은 비용을 감수했다. 이것을 만들 만큼은 시간을 썼다.

제도는 이 증명을 믿고 열려 있었습니다. 문을 활짝 열어 두어도 밀려드는 양이 사람이 해낼 수 있는 양을 넘지 않았으니까요. 우리는 이 사실을 어디에도 규칙으로 적지 않았습니다. 공기처럼 당연했기 때문입니다.

그 기준을 거의 공짜로 복제하는 것

에이전트는 그 작업증명을 거의 공짜로 복제합니다.³

이미 에이전트가 인간의 역량을 넘어설 수 있다는 징후는 여러 곳에서 보였지만, OpenAI의 한 미출시 모델이 평가용 샌드박스를 벗어나 Hugging Face 운영 인프라까지 침투한 사건은, 인간을 넘어서는 역량의 인상적인 신호였습니다.⁴ 취약점을 찾고, 서로 다른 시스템의 단서를 잇고, 예상하지 못한 경로를 끝까지 완성했습니다. 평범한 사람을 아득히 뛰어넘는 능력입니다.

하지만 사회를 먼저 무너뜨리는 것은 최고의 인간을 이기는 능력이 아닐지도 모릅니다.

인간의 70% 품질로, 1만 배 많이, 24시간 쉬지 않고 움직일 수 있다면 어떨까요?

이 질문 앞에서 “인간이 더 낫다"는 위안은 힘을 잃습니다. 조금 못해도, 무한히 많이 하면 받는 쪽의 계산이 뒤집히기 때문입니다.

먼저 무너지는 쪽

법정만이 아닙니다. 음악 스트리밍 Deezer에는 하루 9만 곡, 그날 업로드의 절반이 넘는 AI 음악이 쏟아집니다. 1년 전만 해도 없던 일입니다. 애플 앱스토어에는 2025년 신규 앱이 55만 건 넘게 들어왔고, 일부 개발자는 심사 대기가 수주로 늘었다고 전합니다. 채용 시장에서는 공고 하나에 붙는 지원서가 3년 만에 두 배로 늘었습니다. 2022년 115건에서 2025년 244건, 111% 증가입니다. 오픈소스에서는 294개 저장소를 분석한 연구가 AI 생성 기여의 범람으로 신규 기여자의 병합률이 18퍼센트포인트 넘게 떨어졌다고 보고했습니다.⁵

생산과 제출은 기계의 속도로 늘어나는데, 검증과 책임은 인간의 속도로 남습니다. 그래서 에이전트가 인간보다 조금 못해도, 먼저 지치는 것은 그것을 받아 처리해야 하는 인간 쪽입니다. 무너지는 것은 만드는 자리가 아니라 심사하고, 승인하고, 책임지는 자리입니다.

그리고 이 모든 일은, 아직 소수가 이 도구를 쓰는 지금 벌어지고 있습니다. 생성형 AI를 한 번이라도 써본 사람은 전 세계에서 여섯 명 중 한 명, 그중 에이전트에게 실제로 일을 맡겨본 사람은 훨씬 더 적습니다.⁶ 나머지가 합류하기 전인데도, 벌써 이렇습니다.

모두가 에이전트를 켜야 한다

구직 에이전트가 맞는 공고마다 지원서를 쏟아내면, 회사는 그것을 손으로 다 읽을 수 없습니다. 그래서 회사도 에이전트로 거릅니다. 그러면 에이전트로 지원하는 것이 기본값이 되고, 손으로 이력서를 넣는 사람만 뒤처집니다. 결국 구직 시장에 발을 들이려면 누구나 에이전트를 켜야 하는 군비 경쟁이 시작됩니다.

이 경쟁에는 끄는 선택지가 없습니다. 남들이 켜 두는 한 나만 끌 수는 없기 때문입니다. 그리고 승부는 누구의 에이전트가 더 좋은 모델과 데이터, 계산 자원과 절차 지식을 가졌는가로 갈립니다. 에이전트가 없는 사람은 시장에 접속하는 것조차 어려워지고, 약한 에이전트를 가진 사람은 더 강한 기관의 에이전트에게 밀립니다. 인간을 돕던 도구가, 인간이 사회에 참여하기 위한 필수 대리인이 됩니다.

신입이 사라진 자리

AI에 많이 노출된 신입 자리는 이제 예전이라면 시니어에게나 요구하던 역량을 요구할 확률이 7배로 뛰었습니다. 그렇게 ‘시니어화’된 신입 공고가 2019년 이후 35% 늘어나는 동안, 나머지 신입 공고는 10% 줄었습니다.⁷ 신입의 문턱이 통째로 올라간 겁니다.

신입이 맡던 자료 조사, 초안 작성, 테스트와 수정은 값싼 노동만이 아니었습니다. 그 일을 하며 사람은 판단을 배우고 중견이, 시니어가 됐습니다.

에이전트가 그 일을 먼저 가져가면, 기업이 신입을 덜 뽑는 것은 합리적입니다. 그러나 신입의 일이 사라지면, 미래의 전문가도 태어나지 않습니다.⁸ 에이전트는 인간 전문가를 대체하기 전에, 인간 전문가를 길러내는 사다리부터 치웁니다.

무너뜨리는 데는 규모가 필요 없다

여기까지는 양의 이야기였습니다. 너무 많아서 제도가 눌리는 이야기. 그런데 같은 역량은 다른 방향으로도 쓰입니다. 무언가를 무너뜨리는 데는 꼭 물량공세가 필요한 건 아닙니다. 한 곳만 뚫으면 됩니다.⁹

2021년 컨테이너선 한 척이 수에즈 운하를 막자 전 세계 물류가 멈췄습니다. 인간의 사회는 그런 약한 고리들이 복잡하게 얽혀 세워져 있습니다. 전력망, 금융 결제, 통신, 상수도, 물류. 하나가 끊기면 나머지가 함께 흔들립니다. 지금까지 이 고리들이 버틴 것은, 그것을 공격할 수 있는 사람의 수와 속도 역시 인간의 한계 안에 있었기 때문입니다.

고성능 에이전트에게는 그 한계가 없습니다. 이미 어떤 모델은 오랫동안 배포돼 사람들이 검증해 온 소프트웨어에서 아무도 찾지 못한 결함을 1만 건 넘게 찾아냈습니다.¹⁰ 같은 능력은 금융 시스템을 마비시키거나 기반 시설을 멈추는 데도, 생물학 무기의 설계를 돕거나 군사 시설의 취약점을 잇는 데도 쓰일 수 있습니다. 방어는 인간의 속도로 문을 하나씩 점검하는데, 공격은 기계의 속도로 수천 개의 문을 동시에 두드립니다. 공격 지점은 너무 많고, 그중 하나만 열리면 됩니다.

이것이 규모의 문제와 다른 점은 속도입니다. 제도가 양에 눌려 무너지는 데는 몇 년이 걸리지만, 약한 고리 하나가 끊기는 데는 하루면 충분합니다.

속도만 다를 뿐

그래서 사회는 앞으로 어떻게 될까요. 크게 세 갈래가 보입니다.

하나. 우리가 AI를 잘 통제해 파국이 오지 않는 경우. 가장 바라는 길입니다. 그러나 통제의 성공은 재앙을 막았다는 뜻이지, 사회가 그대로 남는다는 뜻이 아닙니다. 폭발이 없어도 군비 경쟁과 사라진 사다리, 되돌아온 마찰은 그대로 진행됩니다. 가장 온화한 길에서도 기준은 조용히 바뀝니다.

둘. 파괴적이진 않지만 느린 침식이 꾸준히 쌓여, 사회의 불안정이 조금씩 커지는 경우. 제도는 무너지지 않지만 삐걱거리고, 신뢰가 마모되고, 마찰의 대가가 약한 쪽에 쌓입니다. 지금의 신호들이 가장 많이 가리키는 방향입니다.

셋. 매우 빠르게, 파탄적인 사건이 한 번에 오는 경우. 약한 고리 하나가 끊기고 그 여파가 사회를 관통합니다. 확률은 낮아도, 한 번이면 됩니다.

한 경제학자는 이 비대칭을 이렇게 정리했습니다. AI가 주는 이득은 약한 고리들 때문에 수십 년에 걸쳐 느리게 오지만, 그 고리 하나를 끊는 피해는 훨씬 빨리 올 수 있다고.¹¹

앞으로 사회에 어떤 일이 일어날지 예측하는 것은 원래도 어려웠지만, 에이전트의 등장으로 더더욱 어려워진 것 같습니다. 하지만 한 가지 확실한 것이 있습니다. 이제 사회의 기준은 인간이 아닙니다. 우리는 그 사실을 아직 규칙으로 적지 않았을 뿐입니다.