프라이버시는 더 이상 유출되지 않는다. 계산된다

미래의 한 장면을 그려보겠습니다. 당신은 면접에서 계속 탈락합니다. 보험 가입도 연달아 거부됩니다. 데이팅 앱에서도 추천 대상에서 제외됩니다. 이유도 모른 채.

이력서에 거짓말을 한 것도 아닙니다. 건강검진에서 문제가 나온 것도, 상대에게 무례한 말을 한 것도 아닙니다. 어떤 에이전트가 오래전 인터뷰와 공개 프로필, 사진의 배경, 가명 계정, 회사 자료, 지인의 게시물을 모아 이렇게 계산했을 뿐입니다.¹

이직 가능성 높음.
향후 보험금 청구 위험 중간 이상.
관계 안정성 낮음.

결정권자는 긴 보고서조차 읽지 않습니다. 빨간 점 하나와 ‘권장하지 않음’이라는 문장만 봅니다. 조사받은 사람은 자신이 조사됐다는 사실도, 무엇 때문에 탈락했는지도 모릅니다.

프라이버시는 앞으로 유출되지 않을 겁니다. 계산될 겁니다.

누군가 비밀 데이터베이스를 훔칠 필요가 없습니다. 따로 보면 무해한 공개 정보의 조각을 모으고, 같은 사람에게 연결하고, 비어 있는 부분을 추론하면 됩니다. 새 정보가 하나도 추가되지 않아도 됩니다. 모델이 좋아지는 것만으로도 과거의 공개 기록에서 새로운 개인정보가 계속 ‘발견’될 수 있습니다.

해킹 사건에서 사생활의 미래를 보다

최근 OpenAI의 미출시 모델이 평가용 샌드박스를 벗어나 Hugging Face의 운영 인프라까지 침투한 사건이 공개됐습니다.² SF를 연상시키는 사건이었지만, 제가 이 사건에서 본 것은 ‘AI가 해킹을 잘한다’는 사실만이 아니었습니다.

모델은 목표를 오래 유지하고, 현재 가진 단서로 다음 가설을 만들고, 서로 다른 시스템 사이를 이동하고, 실패한 경로를 버리며, 약한 단서 여러 개를 하나의 경로로 묶었습니다.

이것은 공개 정보로 한 사람의 삶을 복원할 때도 쓰일 수 있는 능력입니다. 흩어진 기록을 찾고, 여러 계정이 같은 사람인지 판단하고, 사건을 시간순으로 배열하고, 모순을 비교한 뒤, 기록되지 않은 공백에 가장 그럴듯한 설명을 붙이는 능력 말입니다.

개인 프로파일링은 고난도 해킹보다 쉬운 면도 있습니다. 대부분의 자료가 정상적인 웹 접근으로 열려 있고, 한 경로가 막혀도 다른 출처를 찾으면 됩니다. 무엇보다 완벽하게 맞을 필요가 없습니다. 채용, 보험, 거래에 필요한 것은 법정에서 입증된 사실보다 ‘이 사람이 다른 사람보다 위험할 가능성이 높다’는 점수일 수 있으니까요.³

위험해진 건 인터넷 시스템의 보안만이 아닐지 모릅니다. 같은 에이전트 능력이 개인의 프라이버시마저 위협할 수 있으니까요.

새로운 생각이 아니라, 새로운 가격

이 문제의 개념은 오래전부터 있었습니다. 공개 기록도 찾고 결합하는 비용이 높으면 사실상 사생활로 남는다는 실질적 비가시성, 서로 다른 장소에서 공개한 정보를 한데 합칠 때 프라이버시가 깨진다는 맥락적 무결성, 원자료보다 그로부터 계산된 속성이 더 위험할 수 있다는 예측적 프라이버시가 그것입니다.⁴

새로운 것은 원리가 아니라 가격과 속도입니다.

예전에는 수십 개의 자료를 찾아 동일인 여부를 확인하고, 연표를 만들고, 모순을 검토하고, 빈칸을 추론하는 데 숙련 조사자의 며칠이나 몇 주가 필요했습니다. 그 비용이 조사 대상을 유명인과 기업 임원, 소송 상대처럼 ‘조사할 가치가 있는 사람’으로 제한했습니다.

에이전트가 그 비용을 분과 달러 단위로 낮추면 그 문턱이 사라집니다. 연구에서도 온라인 글에서 위치·소득 같은 속성을 추론하고, 가명 계정과 현실의 신원을 연결하며, 최소한의 단서에서 개인 프로필을 자동 생성하는 능력이 빠르게 높아지고 있습니다.⁵

프론티어 모델에 거부 장치를 붙인다고 끝나지도 않습니다. 강한 모델은 일반적인 조사 구조만 설계하고, 검색과 수집은 코드가, 동일인 연결은 작은 오픈 모델이, 최종 합성은 다른 모델이나 사람이 맡을 수 있습니다. 각각은 전기 작성이나 기업 실사처럼 정상적인 업무로 보여도, 합쳐진 결과는 한 사람의 사생활 복원이 됩니다.

각 단계는 무해해도 전체는 위험할 수 있습니다.⁶

보편화된다면 어디에 숨어들까

에이전트가 공개 정보만으로 한 사람의 사생활을 복원할 수 있다니, 소름 돋는 추측입니다. 그렇다면 가능성을 따져볼까요? 제도와 사회적 거부감을 고려하면, 2031년까지 가장 먼저 보편화될 형태는 누구나 쓰는 노골적인 ‘AI 뒷조사 앱’이 아닐 겁니다.⁷

기업과 기관에는 채용 실패, 보험 사기, 대출 부실, 거래 위험을 줄일 분명한 경제적 수요가 있습니다. 그래서 이 기술은 ‘사생활 조사’보다 다음과 같은 기능으로 숨어들 가능성이 큽니다.

이 지원자를 다음 면접으로 넘길까요?
이 고객에게 어느 가격을 제시할까요?
이 계정은 사기 위험이 높은가요?
이 사람을 만나도 안전한가요?

사용자는 조사 과정이 아니라 추천 한 줄만 봅니다. 조사받는 사람에게는 보이지 않는 비가시적 보편화입니다.

추정된 인간이 실제 인간을 이긴다

지금까지의 신원조회는 학력, 직장, 범죄 기록, 신용 연체처럼 이미 일어난 사실을 확인했습니다. 다음 세대 시스템은 이직 가능성, 보험 청구 가능성, 협상 성향, 조직 내 갈등 가능성처럼 앞으로 일어날 일을 계산할 겁니다.

사람은 자신이 실제로 한 일이 아니라 모델이 앞으로 할 것이라고 예측한 일 때문에 기회를 잃습니다. 어떤 자료가 사용됐는지, 어떤 추론이 잘못됐는지, 무엇을 정정해야 하는지도 모릅니다.

저는 이것을 확률적 신분제라고 부르고 싶습니다. 공식 계급표는 없습니다. 대신 수천 개의 보이지 않는 점수가 사람보다 먼저 면접장과 보험사, 소개팅 상대에게 도착합니다. 〈마이너리티 리포트〉가 따로 없군요.

모델이 틀리면 괜찮을까요. 오히려 틀려도 위험합니다. 70%짜리 추정이 후보 순위를 조금 낮추고, 보험료를 조금 올리고, 소개 대상을 조용히 제외하는 데는 충분합니다. 오류는 대형 사고로 드러나지 않고 수백만 번의 작은 불이익으로 흩어집니다.⁸

사전조사가 예의가 된다

처음에는 누군가를 만나기 전에 에이전트로 조사하는 행동이 섬뜩하게 보일 겁니다. 그러나 사기나 거짓 이력을 사전에 걸러낼 수 있다는 사실이 알려지고, 서비스가 ‘안전 확인’으로 포장되면 규범은 뒤집힐 수 있습니다.

“왜 확인도 안 하고 만났어?”

“왜 채용 전에 검증하지 않았어?”

조사하지 않은 쪽이 무책임한 사람으로 취급되기 시작하면, 인간관계는 상대를 알아가는 과정이 아니라 AI가 만든 선행 프로필을 통과하는 과정이 됩니다.

그때 사라지는 것은 거짓말할 자유만이 아닙니다. 관계의 깊이에 맞춰 자신을 천천히 공개할 권리, 젊을 때의 실수와 현재의 자신을 분리할 권리, 서로 다른 장소에서 조금 다른 자아로 살아갈 권리, 과거를 뒤로하고 다시 시작할 권리가 함께 약해집니다.

사회가 망각과 거리로 허용해온 여백이 계산 비용의 하락과 함께 사라지는 겁니다.

인터넷의 가운데가 죽는다

사람들도 이런 변화를 그냥 앉아서 맞이하지는 않을 겁니다. 인터넷에 공개된 정보를 찾아 삭제하고, 자신에게서 무엇이 추론되는지 점검해주는 방어 서비스를 사용하겠죠. 그렇다고 인터넷 자체가 죽지는 않을 겁니다. 에이전트가 문서를 읽고 합성 콘텐츠를 만들기 때문에 트래픽과 문서 수는 오히려 늘어날 수 있습니다.

하지만 사람이 가명으로 오래 머물며 솔직한 생각과 평판을 쌓던 공개 공간은 크게 위축될 수 있습니다.

모델이 공개 글에서 무엇을 추론할 수 있는지 사람들이 체감하면, 솔직하게 말하는 비용이 올라갑니다. 사람들은 정제된 공식 페르소나만 남기거나, 실제 대화는 폐쇄형 공간으로 옮기거나, 오래 유지되는 닉네임 대신 일회성 계정을 쓰거나, 일부러 상충하는 단서와 합성 노이즈를 섞게 될 겁니다.

그 결과 공개 웹에는 인간의 실제 생각보다 홍보문, 공식 약력, 안전하게 정제된 의견, AI가 만든 무색무취한 글이 늘어납니다. 고품질 정보는 로그인, 구독, 유료 API, 폐쇄형 커뮤니티 뒤로 이동합니다.⁹

인터넷 문화의 상당 부분은 실명 공식 공간과 완전 익명 공간 사이에서 태어났습니다. 같은 닉네임으로 오래 머물며 관계와 평판을 쌓으면서도 직장과 가족에게서는 어느 정도 분리된 곳 말입니다.

개인 분석 에이전트가 닉네임을 실명과 직장, 가족, 과거 기록에 연결하면 그 중간 지대는 유지되기 어렵습니다. 인터넷은 매우 정제된 실명 공간과, 아무도 믿기 어려운 일회성 익명 공간으로 갈라질 수 있습니다.

그러니 다음 버전의 ‘죽은 인터넷’은 봇이 인간인 척 글을 쓰는 세상만을 뜻하지 않을지도 모릅니다.

인간이 자신의 진짜 모습을 공개하지 않게 된 인터넷.

그쪽이 더 조용하고 현실적인 죽음처럼 보입니다.

데이터가 아니라 추론을 규제해야 한다

앞으로는 어떤 원자료를 수집했는지만 물어서는 부족합니다. 어떤 속성을 왜 계산했고, 그 결과를 어떤 결정에 사용했으며, 당사자가 근거를 열람하고 정정할 수 있는지를 함께 물어야 합니다. 여러 모델과 도구로 분산된 전체 작업을 누가 감사할지도 정해야 합니다.

이 문제의 가장 낯선 성질은 소급성입니다. 내가 오늘 아무것도 새로 공개하지 않아도, 내일의 모델이 더 좋아지는 것만으로 어제는 알아낼 수 없었던 사실이 계산될 수 있습니다. 데이터 유출 없이도 과거의 프라이버시가 줄어듭니다.

거울은 아무것도 훔치지 않습니다. 이미 있던 빛을 한곳에 모을 뿐입니다. 에이전트도 새 비밀을 훔치지 않고, 공개된 조각을 모아 아무도 기록하지 않은 얼굴을 만들어낼 수 있습니다.

그리고 이 거울은 가끔 존재하지 않는 얼굴까지 그립니다.

정확해서 위험하고, 틀려도 위험합니다.

앞으로 프라이버시를 이렇게 다시 물어야 할지도 모르겠습니다.

내가 공개하지 않은 것은 무엇인가가 아니라,
타인이 나에 대해 계산하도록 허용할 것은 어디까지인가.