3줄 요약
- Google DeepMind CEO Demis Hassabis가 2026년 7월 X에 아티클 형식으로 발표한 개인 매니페스토. AGI가 “몇 년 내” 도래한다는 전제를 첫 문장부터 명시한다.
- 핵심 제안은 FINRA(금융산업규제기구)를 본뜬 미국 주도 프론티어 AI 표준 기구다. 산업 자금으로 운영하고, 배포 30일 전 자발적 사전 리뷰로 시작해 유효성이 검증되면 미국 시장 배포의 의무 조건으로 정형화한다.
- 벤치마크를 넘긴 모델은 Frontier-class로 지정되며, 이를 보유한 조직은 Frontier Labs가 된다. 워터마킹·사람이 읽을 수 있는 추론 토큰·분기별 벤치마크 갱신·필요 시 개발 슬로우다운 조율 권한까지 포함하며, 궁극적으로 국제 표준으로 확산되어야 한다고 결론짓는다.
도입 — AGI 임박과 새 시대의 여명
Hassabis는 이 순간을 “인류 역사의 결정적 순간(pivotal moment)“으로 규정하며 시작한다. 인간 두뇌의 모든 인지 능력을 발휘하는 시스템으로 정의한 AGI가 “몇 년밖에 남지 않았을 것(probably only a few short years away)“이라고 단언한다. 몇십 년 후 지금 이 시기를 돌아보면 “특이점의 기슭"에 서 있었음을 깨닫게 될 것이라 표현한다.
AGI를 표준 기술 도약과 비교하는 대목의 은유가 강렬하다.
AGI cannot be compared to standard technological breakthroughs, not even ones as consequential as the internet or mobile — it is much more akin to the discovery of electricity or fire. If you stop to think about it, we’ve essentially found a way to make sand think. It’s miraculous.
인터넷·모바일이 아니라 전기나 불의 발견에 비견되는 사건이며, “모래가 생각하게 만드는 방법을 찾은 것"이라는 표현이 나온다.
임팩트의 규모와 속도 예측은 구체적이다. 산업혁명의 10배 규모, 10배 속도. 신약 개발 가속, 청정 에너지 개발, 신소재 창출이 사례로 꼽히며, 최종적으로 자원이 더는 인류 진보의 병목이 아닌 지점, 즉 풍요(abundance)의 새 시대에 도달할 수 있다고 본다.
프론티어의 위험
낙관에 곧바로 위험 목록이 이어진다. AI는 이미 사이버 보안 위협을 낳고 있고, 능력이 진전됨에 따라 핵·바이오 위험도 부상할 수 있다. 지평선 너머에는 점점 에이전트화되고 재귀적으로 자기 자신을 개선하는 시스템의 통제 유지 문제가 있다. 시간이 지나야 명확해질 미지의 문제(unknown issue)도 존재한다.
Hassabis는 기술적 위험 완화는 인간 창의력으로 해결 가능하다고 낙관하지만, 조건을 붙인다 — 다음의 결정적 단계를 제대로 밟을 시간과 공간을 스스로에게 부여할 때에만 가능하다. 그리고 곧바로 진단한다.
Currently, as a field and as a wider society, we aren’t doing that.
지금 우리는 다층적이고 격렬한 상업·지정학적 경쟁에 갇혀 있다. 이 경쟁은 진보를 가속하는 동시에, 프론티어의 진보가 기술 자체에 대한 우리의 이해 속도를 앞질러 버리는 상태를 만든다. 전문가끼리도 의견이 엇갈릴 만큼 불확실성이 크고 판돈은 최고 수준이다. 이 조건에서는 신중한 낙관(cautious optimism)이 합리적이고 옳은 전략이라고 결론짓는다.
그런 조건에서 요구되는 공공 정책은 세 가지다. 혁신을 촉진하면서도 책임과 보안에 인센티브를 주고, 핵심 안전 이슈에 대한 국제 협력을 육성하며, AI가 사회의 이익을 위해 어떻게 배포될지 신중히 고려하는 정책.
표준 기구 프레임워크 — 핵심 제안
여기서부터가 이 아티클의 실질적 청사진이다.
FINRA 모델의 미국 주도 표준 기구
Hassabis는 미국이 경제·기술 위상 덕에 첫 발을 뗄 적임자라고 본다. 새 표준 기구는 연방 감독 공사 파트너십 또는 자율규제기구 형태이며, 명시적 참고 모델이 있다.
…much like the Financial Industry Regulatory Authority (FINRA), with a board that includes independent leading technical experts and open-source representatives.
이사회에 독립 기술 전문가와 오픈소스 대표를 함께 넣는다. 자금은 세계 최고 수준의 기술 인재를 유치하고 대규모 테스트에 필요한 컴퓨트를 확보할 수 있을 만큼 충분해야 하며, 대부분 산업에서 조달되어야 한다.
Frontier-class 벤치마크와 Frontier Labs 지정
표준 기구는 평가 프로토콜을 개발하고, 국가 안보 관련 영역에서는 적절한 연방 기관·National Labs와 함께 테스트를 수행한다. 표준 기구가 정하고 정기 갱신하는 벤치마크 집합의 특정 임계치를 넘긴 모델이 Frontier-class로 분류된다.
그런 모델을 보유한 조직은 Frontier Labs로 지정된다. 지정된 기관에는 다음 관행이 권장된다.
- 기술 세부를 담은 모델 카드 공개
- 강한 내부 사이버 보안 유지
- 핵심 인력 검증(vetting)
- 안전·보안 연구를 위한 충분한 자원 배분
Frontier Lab 지정 자체가 상당한 프레스티지를 수반하며, 벤치마크 기준을 충족하는 모델을 만든 모든 조직에게 문이 열려 있다.
30일 자발적 사전 리뷰 → 의무화
초기 운영 방식은 명확하다.
Initially, Frontier Labs would voluntarily share models with the Standards Body for review up to 30 days before release. Once the assessment protocol is shown to be effective and robust, formalisation could quickly follow, meaning that Frontier Models would be required to pass it to be deployed in the US market.
배포 최대 30일 전에 자발적으로 모델을 공유하는 것으로 시작한다. 프로토콜이 효과적이고 견고하다는 것이 입증되면 빠르게 공식화되며, Frontier Model은 미국 시장 배포 조건으로 통과가 필수가 된다. 배포 이후에 발견되는 심각한 취약점도 표준 기구와 함께 대응한다.
평가 대상과 방법
모델 평가는 사이버 보안, 생물학적 위협, 기타 고위험 도메인에서 엄격한 과학적 검증을 포함한다. 에이전트형 AI(agentic AI)에는 특정한 테스트가 필요하다.
- 안전 가드레일 우회 시도 탐지
- 기만(deception) 신호 탐지
- AI 생성 이미지의 디지털 워터마킹
- 사람이 읽을 수 있는 출력 토큰(human-readable output token)으로 모델 추론 이해
평가는 정기적으로 갱신되며, 시작 시점에는 분기별을 상정한다. 낡거나 포화된 벤치마크는 폐기·교체된다. 초기 벤치마크는 Frontier Labs와 협의해 개발하되, 궁극적으로 표준 기구가 자체 유지 테스트(held-out test)를 만들 기술 역량을 갖춰 오버피팅을 방지해야 한다. 미국 정부와 협력하여 서드파티 감사 생태계도 촉진한다.
슬로우다운 조율 권한과 국제 확산
이 접근의 강점은 기술 중심적이면서 동시에 혁신을 지원하고 책임 있는 행동에 인센티브를 준다는 점이라고 Hassabis는 정리한다. 결정적으로, 상황이 심각하다고 판단되면 강도를 올릴 수 있다.
…it could be ratcheted up if the seriousness of the situation demands, including coordinating a slowdown in development among the Frontier Labs if deemed necessary.
Frontier Labs 사이의 개발 슬로우다운을 조율하는 권한이 명시적으로 프레임워크에 포함되어 있다. 프레임워크는 원산지 국가나 오픈/클로즈드(open/closed) 여부에 관계없이 Frontier-class 모델에 적용되며, 스타트업·학계의 비프론티어 모델은 면제된다.
마지막 문단에서 그는 이것이 국제 표준의 출발점이 되어야 한다고 말한다. 이 기술이 지구 전체에 영향을 미치므로, 가장 심각한 위험을 관리하는 방법과 모두가 기회에 접근·수혜할 수 있도록 하는 방법에 대한 국제 합의를 이 프레임워크가 촉발하기를 기대한다는 것이다.
기술 이후에 남는 질문
Hassabis는 마지막 섹션에서 톤을 바꾼다. 기술적 도전을 해결한 뒤에도 남는 것들이 있다.
Even if we solve these hard technical challenges, there will be further complex economic and philosophical questions to tackle: what sorts of new economic models will be needed to help everyone thrive in a post-scarcity world? What values do we want to live by, what will meaning and purpose be, and how might even the human condition itself change?
결핍이 사라진(post-scarcity) 세계에서 모두가 번영할 수 있는 새 경제 모델은 무엇인가. 우리는 어떤 가치를 살아갈 것인가. 의미와 목적은 무엇이 될 것인가. 인간 조건 자체는 어떻게 바뀔 것인가.
그리고 이 질문의 해답을 기술자에게만 맡길 수 없고, 또 그래서도 안 된다고 명시한다. 사회 전체가 함께 새 챕터를 정의해야 한다.
맺음말은 이렇다.
There is both huge excitement and uncertainty around AI, and both are warranted. But the future is not yet written, we must use this precious window before AGI arrives to shape this technology for the benefit of all humanity.
AI를 둘러싼 거대한 흥분과 불확실성은 둘 다 정당하지만, 미래는 아직 쓰이지 않았다. AGI 도착 전의 이 소중한 창(precious window)을 인류 전체의 이익을 위해 사용해야 한다는 요청으로 아티클을 닫는다.
가장 흥미로운 지점
가장 뚜렷하게 느낀 것은, 이 매니페스토가 세 청중 모두가 듣고 싶어하는 이야기로 짜여 있다는 점이다.
미 정부에게 들리는 이야기는 “미국이 리더십을 잡는다"이다. 실제 규칙 제정 부담은 지지 않아도 된다. Hassabis가 참조 모델로 지목한 FINRA는 정부 감독 아래에서 산업 자금으로 굴러가고 산업이 자기 규칙을 만드는 자율규제기구다. 정부는 감독 자리에서 승인 도장만 찍으면 된다.
프론티어 랩 — 자신을 포함한 최상위 몇 곳 — 에게 들리는 이야기는 “당신들이 규칙을 만든다"이다. 표준 기구는 산업 자금으로 조성되고, 이사회에 랩 대표가 들어가고, 초기 벤치마크는 랩과 협의해 개발된다. 개발 속도 조율 권한도 랩 사이의 합의로 발동된다. Frontier-class 임계치를 넘긴 조직만이 이 협의체 안에 있고, 후발주자·오픈소스·비미국 랩은 임계치를 넘기 전까지 발언권이 없다. Hassabis 자신도 규제 포획의 문제를 의식한 듯 이사회에 독립 기술 전문가와 오픈소스 대표를 명시하고, 궁극적으로 표준 기구가 랩과 무관한 자체 유지 테스트를 만들어야 한다고 조건을 붙이지만, 그 조건이 실제로 얼마나 강한 안전장치가 될지는 두고 볼 문제다.
국제 사회에게 들리는 이야기는 “국제 표준으로 확장한다"이다. 다만 출발점은 미국이며, 궁극 표준의 뼈대는 이 프레임워크가 정한다. WTO·IMF·SWIFT 같은 국제 시스템에서 이미 익숙한 구도 — 미국이 먼저 세우고 나머지가 합류하는 — 가 AI에 그대로 옮겨진다.
지정학적 경쟁을 여러 번 언급하면서도 “중국"이라는 단어는 아티클 전체에 한 번도 나오지 않는다. 관세, 반도체 수출 통제, GPU 접근 제한 같은 실제 진행 중인 미중 AI 정책 도구도 언급 없다. “국제 협력"은 원칙적 언사로만 나온다.
가장 곱씹게 되는 조항은 “슬로우다운 조율 권한"이다. 표면적으로는 AI 안전 진영이 오래 요구해 온 브레이크를 제도화한 것으로 보인다. 그러나 발동 조건은 “Frontier Labs 사이의 조율"이다. 프론티어 랩끼리 “지금 잠깐 멈추자"에 합의할 상황을 그려 보면, 그것은 안전 브레이크라기보다 개발 카르텔의 담합 창구에 더 가깝다. 반독점법이 산업 자율협의체의 개발 속도 조정을 허용할지는 별개 문제인데, 아티클은 이 지점을 건드리지 않는다.
Axios가 이 아티클을 “미국이 이끄는 글로벌 AI 감시기구를 연말 전에"라는 헤드라인으로 요약한 것도 정확한 독해다. Watchdog은 감시견이지 심판이 아니다. 이 프레임워크는 심판을 산업이 겸직하는 구도를 정당화하는 언어이며, Hassabis는 그것을 매우 세련된 매니페스토의 형식으로 담아냈다.
출처
발행: Demis Hassabis (Google DeepMind CEO), X, 2026년 7월 원문: https://x.com/demishassabis/status/2076957440109625718 관련 보도: https://www.axios.com/2026/07/14/demis-hassabis-ai-regulation-google-deepmind