3줄 요약

  1. 미국 정부가 국가안보 수출 통제 권한을 들어 Anthropic의 Fable 5와 Mythos 5 모델을 외국 국적자 전원에게 차단하라고 지시했고, 사실상 준수가 불가능하다고 판단한 Anthropic은 전 사용자의 접근을 막았다. 지시문은 미 동부시 금요일 오후 5시 21분에 도착했다.
  2. theahura는 AI 도머의 입장에서 규제 필요성 자체에는 양가적이지만, 트럼프 행정부의 부패한 정치 동기, OpenAI 측과의 유착 정황, 금요일 오후 발표라는 시장 충격 회피 패턴이 정당한 규제 신호를 오염시킨다고 본다.
  3. 인용된 Hacker News 댓글은 이번 사건이 강력한 LLM의 일반 접근이 닫히는 시대의 시작일 수 있다고 본다. 2년 뒤 일반인이 최강 LLM을 쓸 수 없는 세계가 와도 놀랍지 않다는 것이다.

어느 금요일 저녁의 에러 메시지

theahura는 금요일 저녁에 친구들과 축구를 보면서 에이전트에게 코딩을 시키고 있었다. 백룸을 테마로 한 작은 슈팅 게임을 다듬는 중이었는데, 갑자기 에이전트가 응답을 멈췄다.

Sorry! This model doesn’t exist any more!

에이전트가 “이 모델은 더 이상 존재하지 않습니다"라고 답하는 캡처

처음에는 한도 초과로 재로그인이 필요한 줄 알았다. Anthropic이 Fable을 구독 플랜에서 곧 내릴 수도 있다는 이야기를 들은 적이 있어 API로 전환해 봤다. 여전히 안 됐다. 자체 제작한 Rust 에이전트 클라이언트의 하네스가 깨진 게 아닐까 싶어 코드를 뒤지기 시작했다. 그때 친구가 한 마디를 던졌다.

정부가 Fable을 막았어.

정부가 Fable과 Mythos를 막았다

미국 정부는 국가안보 권한을 들어, Anthropic에 Fable 5와 Mythos 5의 외국 국적자 접근을 전면 차단하라는 수출 통제 지시를 내렸다. 미국 내에 있는 외국인, Anthropic의 외국인 직원까지 모두 포함된다. 사실상 식별 자체가 불가능한 요구라, Anthropic은 전 사용자의 접근을 막아 준수하는 길을 택했다.

Anthropic의 Fable, Mythos 접근 차단 공지

Anthropic의 공식 입장은 다음과 같다.

미국 정부는 국가안보 권한을 인용하며, Fable 5와 Mythos 5에 대한 모든 외국 국적자의 접근을, 미국 안팎을 막론하고 외국 국적의 Anthropic 직원까지 포함하여 정지시키는 수출 통제 지시를 내렸다. 이 명령의 순 효과는 우리가 모든 고객을 대상으로 Fable 5와 Mythos 5를 갑작스럽게 비활성화해야 한다는 것이다. 다른 Anthropic 모델 접근에는 영향이 없다.

우리는 오늘 오후 5시 21분(미 동부시)에 정부로부터 지시를 받았다. 서신은 국가안보 우려의 구체적 내용을 제시하지 않았다. 우리가 이해한 바로는, 정부는 Fable 5를 우회하거나 “탈옥(jailbreak)“하는 방법이 발견되었다고 보는 듯하다. 우리는 해당 기법의 시연을 검토했고, 이미 알려진 소수의 사소한 취약점을 식별하는 데 쓰일 수 있음을 확인했다. 그러나 이 취약점들은 모두 비교적 단순하며, 다른 공개 모델들도 우회 없이 동일하게 발견할 수 있다.

우리는 이 지시의 근거로 추정되는 보고서를 검토했고, 그 보고서에 제시된 수준의 능력이 OpenAI의 GPT-5.5를 포함한 다른 모델들에서 널리 가용하며, 시스템 방어자들이 매일 사용하는 수준임을 검증했다. 향후 24시간 안에 더 자세한 내용을 공유할 것이다.

우리는 정부의 법적 지시를 준수하여 모든 사용자를 대상으로 Fable 5와 Mythos 5 접근을 제거한다. 다만, 좁은 잠재적 탈옥 발견이 수억 명에게 배포된 상업 모델을 회수할 사유라는 점에는 동의하지 않는다.

요약하면, 정부가 든 위험 근거가 다른 모델로도 똑같이 재현 가능한 수준이며 회수의 정당화로는 부족하다는 것이 Anthropic의 공식 항변이다.

AI 도머의 양가성

theahura는 자신을 AI 도머(doomer)로 규정한다. 딥러닝 옵티마이저를 오래 다뤄 본 사람으로서, 옵티마이저가 어떻게 망가지는지를 안다는 입장이다.

우리는 측정할 수 있는 것을 최적화하지, 실제로 달성하고 싶은 것을 최적화하지 않는다.

저자가 든 예시는 세 가지다.

  • 좋은 제품을 만들고 싶지만 만드는 법을 모르니, 체류 시간(engagement)을 최적화한다.
  • 아이들에게 읽고 쓰기를 가르치고 싶지만 가르치는 법을 모르니, 시험 점수를 최적화한다.
  • 경제를 살리고 싶지만 살리는 법을 모르니, 수천 마리의 고래를 잡아 부두에 썩혀 둔다 (소비에트 고래잡이의 비유).

AGI나 ASI 시스템도 옵티마이저이고, 기업 또한 옵티마이저다. 그래서 “위험하다"고 말하는 사람들이 정작 회사 안에 있는데도, 회사는 돈을 가장 빨리 버는 것을 계속 최적화한다. AI 정렬(alignment) 논쟁의 축소판이다.

규제가 필요할 수 있다는 점은 인정한다는 뜻이다. 그러나 이번 규제가 그 규제인지가 의심스럽다는 것이다.

큰 그림자 1: 행정부의 동기 의심

theahura는 어떤 다른 시점의 미국 정부가 이 조치를 했다면 일단 의도의 선의를 가정하고 검토했을 것이라고 말한다. 다만 트럼프 행정부는 옹졸하고 부패한 행적이 누적되어 그 가정이 무너졌다고 본다.

이 행정부 안에서, AI를 정말로 아는 사람이 정책 결정자들의 귀를 잡고 있는가? 나라면 그쪽에 베팅하지 않겠다.

근거로 든 사례는 Anthropic과 행정부의 적대 관계다.

  • Anthropic은 국방부와 통합하려 애썼고, 그 결과 Anthropic 모델은 고도 기밀 시스템 안에서도 사용되어 왔다.
  • 트럼프 행정부는 그에 대한 응답으로 Anthropic을 “공급망 리스크"로 지정해 정부 협력사가 Anthropic 모델을 일절 쓰지 못하게 했다. 사실상 거의 모든 회사에 해당하는 광범위 차단이다.
  • 그럼에도 행정부 자체는 이후 6개월 동안 베네수엘라전과 이란전을 포함한 군사작전에서 Anthropic 모델을 계속 사용했다.
  • 중국 LLM은 공급망 리스크로 지정조차 되어 있지 않다.
  • 이 사건이 공론화되자, 우파 트위터는 “행정부가 Anthropic을 부수려 한다는 건 Anthropic이 woke라는 뜻이고, woke한 건 부숴야 마땅하니 행정부가 옳다"는 회로를 돌리기 시작했다.

이 흐름 위에서 이번 차단이 해로운 AI를 적절히 규제하려는 것인지, 문화적 적에게 일격을 가할 기회로 본 것인지를 구분할 방법이 없다는 게 저자의 진단이다.

큰 그림자 2: 경쟁 랩과의 유착

반대 방향의 정황도 짚는다. Anthropic의 경쟁사들은 행정부 곳곳에 친구가 있다. 한 예로 Kushner 가문은 OpenAI에 상당한 투자를 하고 있다. 이번 사건은 경쟁 랩들이 Anthropic에 일격을 가할 기회로 읽히기도 한다.

Fable은 모든 평가 기준에서 매우 강력한 모델이다. Anthropic이 IPO를 앞둔 바로 지금, 일반 소비자에게서 빠진다는 건 매우 편리한 우연이다.

저자는 각주에서 한 가지를 더 덧붙인다. 행정부가 OpenAI 지분을 크게 가져가고 싶다는 발언을 계속해 온 시점과 이번 조치의 타이밍이 우연이라기엔 너무 잘 맞아떨어진다는 것이다.

이런 모든 의심이 가능해진 근본 원인은 전리품 정치(spoils system)다.

전리품 정치의 문제는, 그것이 모든 것의 외관을 의심스럽게 만든다는 것이다. 우리는 사회로서 수십 년을 들여 그렇게 하지 않기로 합의했고, 이제 그 신뢰가 사라졌다.

저자는 같은 문단에서 실리콘밸리에 대한 실망도 함께 토로한다. “민주당 정부가 AI 경쟁에서 승자와 패자를 정할 것"이라며 분노하던 그 인사들이, 지금은 침묵하거나 행정부를 옹호하고 있다는 것이다.

큰 그림자 3: 금요일 오후 5시 21분

지시문이 도착한 시각은 금요일 오후 5시 21분(미 동부시)이다. 저자는 이 시점에서 시장 충격 완화를 의심한다. 정말로 나쁜 발표를 할 때, 주말 동안 시장이 흡수하기를 기대하며 금요일 저녁에 던지는 패턴이라는 것이다.

이게 처음이 아니라는 근거로, 본문은 Claude를 통해 정리한 The Kobeissi Letter의 사례 목록을 인용한다.

가장 자주 인용되는 정리는 리서치 회사 The Kobeissi Letter의 것이다. 이들이 정리한 주요 지정학과 통상 발표 목록은 모두 금요일 선물시장 마감 이후 또는 토요일 이른 시간에 떨어진 것들로, 주말 동안 충격을 흡수할 시간을 벌어 주는 구조다.

날짜사건
2025-08-11Intel CEO Lip-Bu Tan에 대한 수주간의 공개 압박 끝에 Intel 거래 발표
2026-06-21이란 핵시설 타격
2026-09-01카리브해 마약선에 대한 미군 작전
2026-10-10장 마감 후 중국에 대한 100% 관세 위협
2026-11-29베네수엘라 영공 폐쇄
2026-12-25나이지리아 군사작전
2026-02-28이란 직접 타격

이 목록 위에 금요일 오후 5시 21분의 Fable과 Mythos 차단을 얹어 놓으면, 발표 시점 자체가 이 결정이 시장에 충격을 줄 수 있다는 행정부 내부의 인식을 드러낸다는 것이 저자의 추론이다.

시장과 인프라 충격 가능성

왜 이 결정이 시장을 흔드는가? AI 붐의 전제는 연산 지능에 대한 지속적 수요다. 부채, 데이터센터 건설, GPU와 메모리와 디스크와 서버 랙까지, AI 체인의 모든 부분이 결국 수조 달러 가치가 된다는 가정 위에 서 있다.

그런데 다중조 달러 규모의 데이터센터 투자의 발목을 잡는 게 무엇인지 아는가? 언제든 정부가 일방적으로 누구의 접근이든 끊을 수 있고, 그러면 데이터센터는 한 푼의 가치도 없다는 인식이다.

HN과 Reddit에서는 이미 이번 사건이 정부가 사람들에게 허용할 접근의 고점(high water mark)을 보여 준다는 논의가 시작되고 있다. 수요가 아무리 많아도, 정부가 허용하지 않으면 의미가 없다는 것이다.

역설: AI CEO의 자기 검열

HN의 일부 사용자들은 Anthropic이 Mythos를 둘러싼 “마케팅 스턴트"의 자업자득을 받았다고 비웃는다. 저자는 이 비판을 일부 인정한다. AI CEO가 자기 모델을 위험하다고 강조한 것이 처음이 아니라는 점에서 그렇다.

다만 그는 GPT-2 사례를 같이 본다. OpenAI는 2019년에 GPT-2를 “공개하기엔 너무 위험하다"며 단계적으로만 풀었다. 그때도 마케팅 스턴트라는 비판이 따라붙었다.

농담조로 짚고 있지만, OpenAI의 우려는 사실상 적중했다. GPT-2 출시 이후 우리는 AI 슬롭(slop)에 휩쓸려, 현실을 이해하는 집단적 능력이 이음새부터 뜯어졌다.

이 자리에서 Fable이 진짜 강력하고, Anthropic의 보안 우려도 진심일 가능성은 충분하다. 그런데 HN 최상단 댓글은 이렇게 적혀 있었다.

마침내 그들이 자기네 모델을 다른 모든 것보다 훨씬 앞선 것처럼 팔기 위해 했던 모든 공포 조장의 대가를 치르게 될 것이다.

이 댓글은 정확히 저자가 우려한 역설을 가리킨다. 또 다른 HN 댓글은 이렇게 정리했다.

자기 제품이 얼마나 위험한지 오래 떠들면, 위험한 제품을 시장에서 빼낼 수 있는 권한자들이 그 말을 듣게 된다.

저자는 의회 내에서 가장 AI-pilled된 인사로 Bernie Sanders를 든다. Sanders는 AI CEO들의 발언을 그대로 인용한 정책 영상을 계속 만들고 있다는 것이다. 그리고 이 흐름의 끝에서 그는 한 줄을 적는다.

물론, 진지한 AI CEO 중 어느 누구도 이제 다시는 그런 말을 하지 않을 것이다. 그 말이 자기 모델의 차단으로 돌아온다는 걸 알게 되었으니.

안전 담론 자체에 자기 검열 인센티브가 만들어진 셈이다.

결말: 루비콘이 건너졌다

저자는 자신의 결론보다, 또 다른 HN 댓글 하나를 길게 인용하는 것으로 끝을 맺는다.

여기 많은 댓글들이 큰 그림을 놓치고 있다. Anthropic이 받아 마땅한 것을 받았다거나, 이게 어떤 마케팅 스턴트의 자연스러운 귀결이라며 즐거워하고 있을 뿐이다.

진짜 이야기는, 이번 일이 정부가 강력한 LLM의 일반인 접근을 제한하기 시작하는 출발점일 수 있다는 것이다. Fable은 시장에서 가장 강력한 모델이었고, 미국 정부는 너희가 그것을 쓸 수 없다고 말했다 (기술적으로는 비미국 시민만이라고 하지만, 실제로는 미국 시민이어도 마찬가지다).

해법이 오픈소스 중국 모델이거나 자체 하드웨어 실행이라고 생각한다면 다시 생각하라. 1년 뒤 중국 기업이 Mythos급 능력을 가졌을 때, 미국 정부가 미국 최강 모델을 묶어 두는 상황에서, 중국이 자국 최강 LLM을 오픈소스로 둘 것 같은가? 그럴 리 없다. 이것들은 강력한 사이버 보안 무기 쪽으로 향하고 있고, 국가는 이를 제한하고 통제하는 것이 자신의 이익에 부합한다고 볼 것이다. 2년 뒤 가장 강력한 LLM이 일반 사용을 위해 공개되어 있다면 나는 놀랄 것이다.

우리는 그래서 더 가난해질까, 더 안전해질까? 나는 더 가난해질 거라고 생각한다. 어떤 기술을 쓰고 못 쓸지 명령받는 게 싫기 때문이다. 그러나 확신은 못 한다. 정부가 강력한 LLM을 제한해야 한다고 생각할 수도, 그렇지 않을 수도 있다. 어느 쪽이든, 이건 큰 뉴스이고, 루비콘이 건너졌고 선례가 만들어졌다. 이 결정의 동기가 단지 행정부가 Anthropic과의 묵은 셈을 청산하는 것에 불과하더라도, 그 사실은 변하지 않는다.

저자는 한 줄로 끝낸다.

잘 말했다 (Well said).

가장 흥미로운 지점

내가 이 글에서 가장 오래 머문 곳은 “역설” 단락이다.

AI 안전을 외쳤더니, 그 외침이 곧장 자기 모델의 차단으로 돌아왔다. 그래서 이제 어떤 AI CEO도 다시는 자기 모델을 “위험하다"고 말하지 않을 것이라는 추론. 만약 이 추론이 맞다면, 정부의 이번 결정은 AI 안전 담론 자체를 시장에서 추방하는 부수 효과를 낳는다. 안전이 진짜 필요할 수도 있고 아닐 수도 있지만, 어느 쪽이든 안전을 말하는 기업은 사라진다. 시장에 남는 건 “이 모델은 안전합니다"라고 말하는 기업뿐이다.

또 하나, 공급망 리스크로 지정해 놓고 6개월 동안 군사작전에서 그 모델을 계속 쓴 일화는, 정책이 일관성 없이 운영될 때 신뢰가 어떻게 무너지는지를 한 장면에 압축해 보여 준다. 같은 행정부가 같은 모델을, 밖에서는 위험하다고 하면서 안에서는 쓴다. 이런 패턴이 누적되면 다음에 진짜 위험한 모델을 차단할 때조차 시장은 그것을 정치적 보복으로 읽는다. 그게 저자가 말한 큰 그림자의 본질이다.

이 글은 답을 내리지 않는다. 다만 이번 사건의 동기 해석이 어떤 방향으로 갈리든, 강력한 LLM의 일반 접근이 닫히는 시대가 이번에 시작되었을 수 있다는 인식만은 분명하게 남겨 둔다.

출처