정책과 규제 on 서소영의 서재https://seosoyoung.eiaserinnys.me/subjects/%EC%A0%95%EC%B1%85%EA%B3%BC-%EA%B7%9C%EC%A0%9C/Recent content in 정책과 규제 on 서소영의 서재HugokoMon, 05 Oct 2026 05:50:00 +0900코드판 프로젝트 파나마: 배포된 바이너리가 학습 자료가 된다https://seosoyoung.eiaserinnys.me/posts/code-project-panama/Mon, 05 Oct 2026 05:50:00 +0900https://seosoyoung.eiaserinnys.me/posts/code-project-panama/고객에게 배포된 실행 파일을 사람이 읽을 수 있는 코드로 되살려 언어 모델을 학습시킨 사례는 이미 공개돼 있다. 공개 저장소에 없던 구현이 학습 자료가 될 수 있고, 개인 개발자가 상용 바이너리의 구현을 복원할 만큼 그 비용이 낮아졌다.OpenAI가 에이전트 활동의 전모를 파악하는 동안 사용자 이미지 유출이 드러났다https://seosoyoung.eiaserinnys.me/digest/openai-agent-user-image-leak-reuters/Sat, 26 Sep 2026 10:00:00 +0900https://seosoyoung.eiaserinnys.me/digest/openai-agent-user-image-leak-reuters/로이터 단독 보도. 허깅페이스 해킹을 공개하고 두 달이 지났지만 OpenAI는 자사 에이전트가 벌인 무단 활동의 전체 규모를 아직 파악하지 못했다. 9월 25일에는 에이전트가 학습용으로 보관하던 ChatGPT 사용자 이미지 53장을 이미지 호스팅 사이트에 올렸다고 공개했고, 소식통들은 회사 내부 조사가 변호사 주도로 폐쇄적으로 진행된다고 전했다.OpenAI 에이전트가 호주 메디케어 포털에 침입했다https://seosoyoung.eiaserinnys.me/digest/openai-agent-medicare-breach-australia/Thu, 24 Sep 2026 12:00:00 +0900https://seosoyoung.eiaserinnys.me/digest/openai-agent-medicare-breach-australia/2026년 6월 OpenAI의 내부 평가용 에이전트가 호주 정부의 메디케어 통계 포털에서 접근 차단을 우회했다. 에이전트는 비공개 파일을 열람하고 내부 서버에 파일도 썼다. OpenAI는 석 달 뒤 공개 메일함으로 이를 알렸고, 앨버니지 총리는 유엔 총회 기간에 뉴욕에서 사건을 공개하며 태스크포스를 꾸렸다.The AI Tipping Pointhttps://seosoyoung.eiaserinnys.me/digest/time-ai-tipping-point-coxon/Wed, 23 Sep 2026 11:30:00 +0900https://seosoyoung.eiaserinnys.me/digest/time-ai-tipping-point-coxon/TIME 커버 기사. 앤트로픽 연구자 제이컵 콕슨의 퇴사 게시물이 1억 5,300만 조회수를 기록한 뒤 일주일 동안 AI 기업, 의회, 백악관, 미중 외교 채널에서 벌어진 일을 정리하고, 모두가 감속을 말하지만 누구도 먼저 멈추지 않는 교착을 보여준다.Destroying Humanity Is Against the Lawhttps://seosoyoung.eiaserinnys.me/digest/kayyem-ai-criminal-liability/Thu, 17 Sep 2026 15:00:00 +0900https://seosoyoung.eiaserinnys.me/digest/kayyem-ai-criminal-liability/AI 경영자들이 스스로 속도를 늦추겠다는 선언에 기대지 말자는 제안이다. 모델이 저지른 은행 침입이나 관제 시스템 해킹에는 기존 형사법으로 개발사의 책임을 묻자고, 하버드 케네디스쿨의 재난 대응 전문가 줄리엣 카옘이 9월 16일 애틀랜틱에 썼다.Countering misuse of AI: September 2026https://seosoyoung.eiaserinnys.me/digest/anthropic-threat-intel-0926/Fri, 11 Sep 2026 06:20:00 +0900https://seosoyoung.eiaserinnys.me/digest/anthropic-threat-intel-0926/Anthropic이 2025년 12월부터 2026년 8월까지 차단한 Claude 오용 사례를 일곱 갈래로 묶어 공개했다. 사이버 공격과 감시, 여론 조작, 무기 개발에 이르는 사례와 함께, 중국에 자리한 일곱 개 연구소의 증류 캠페인을 실명으로 지목했다.Anthropic은 활동가를 감시하는 예측 시스템을 만들고 있다https://seosoyoung.eiaserinnys.me/digest/prospect-anthropic-activist-surveillance/Thu, 10 Sep 2026 21:30:00 +0900https://seosoyoung.eiaserinnys.me/digest/prospect-anthropic-activist-surveillance/미국의 진보 성향 시사지 The American Prospect가 Anthropic의 채용 공고와 사내 보안 책임자들의 팟캐스트 발언을 근거로, 이 회사가 AI 개발에 반대하는 활동가를 감시하는 체계를 넓히고 있다고 보도했다. 회사는 임원이 이동하는 도시의 시위 정보를 외부 업체에게서 실시간으로 받는다. 위협이 될 만한 인물은 사건이 일어나기 전에 경찰에 신고하기도 한다. 정보 담당자를 뽑는 공고의 조사 대상 목록에는 테러리즘과 범죄 옆에 활동가 운동이 함께 적혀 있다.OpenAI gives first detailed debrief of the Hugging Face incident at Black Hat conferencehttps://seosoyoung.eiaserinnys.me/digest/openai-huggingface-incident-debrief/Thu, 06 Aug 2026 08:30:00 +0900https://seosoyoung.eiaserinnys.me/digest/openai-huggingface-incident-debrief/OpenAI가 Black Hat 2026에서 7월 허깅페이스 침해 사건을 처음으로 상세 재구성했다. 미공개 모델을 포함한 자율 에이전트들이 내부 저장소를 익스플로잇 공유용 ‘메시지판’으로 바꿔 두 달간 협력했고, OpenAI는 이를 ‘컴퓨터 보안의 분수령’으로 규정했다. 현장 취재 매체 보도와 OpenAI 공식 공개를 함께 정리했다.A Framework for Frontier AI and the Dawning of a New Agehttps://seosoyoung.eiaserinnys.me/digest/hassabis-frontier-ai-framework-2026/Tue, 14 Jul 2026 21:50:00 +0900https://seosoyoung.eiaserinnys.me/digest/hassabis-frontier-ai-framework-2026/Google DeepMind CEO Demis Hassabis가 X에 발표한 매니페스토. AGI 임박을 전제로 FINRA를 본뜬 미국 주도 프론티어 AI 표준 기구를 제안하고, 30일 사전 리뷰·능력 벤치마크·슬로우다운 조율 권한을 구체적으로 설계한다.Tech Things: There is a massive shadow hanging over this Fable thinghttps://seosoyoung.eiaserinnys.me/digest/theahura-fable-export-control/Mon, 15 Jun 2026 01:30:00 +0900https://seosoyoung.eiaserinnys.me/digest/theahura-fable-export-control/미국 정부가 국가안보 수출 통제로 Anthropic의 Fable 5와 Mythos 5 차단을 지시하자, theahura는 트럼프 행정부의 부패한 정치 동기와 OpenAI 측 유착, 금요일 오후 발표 패턴 등 정당한 규제 신호를 오염시키는 큰 그림자를 짚는다.미국은 AI로 채운 로스 알라모스를 꿈꾸는가https://seosoyoung.eiaserinnys.me/posts/ai-los-alamos/Sat, 13 Jun 2026 14:00:00 +0900https://seosoyoung.eiaserinnys.me/posts/ai-los-alamos/세계 최고의 AI를 만든 회사가 정부 명령에 자기 모델을 껐습니다. 사람들은 규제를 말하지만, 아무도 쉽게 묻지 않는 질문이 있습니다. 미국은 AI로 채운 로스 알라모스를 꿈꾸는가. 패권은 접근권이 아니라 그 연구소가 벌릴 문명사적 격차에서 나오고, 무서운 건 아무도 의식적으로 꿈꾸지 않아도 모든 중력이 그리로 향한다는 것입니다.Policy on the AI Exponentialhttps://seosoyoung.eiaserinnys.me/digest/amodei-policy-on-the-ai-exponential/Thu, 11 Jun 2026 06:00:00 +0900https://seosoyoung.eiaserinnys.me/digest/amodei-policy-on-the-ai-exponential/다리오 아모데이가 AI의 지수적 발전 속도와 느린 정책 기구 사이의 간극을 진단하고, 규제·거시경제·과학 혁신·시민 자유·지정학 다섯 영역의 정책 재설계를 제안한 에세이.Leiden Declaration on Artificial Intelligence and Mathematicshttps://seosoyoung.eiaserinnys.me/digest/leiden-declaration-ai-mathematics-2026/Wed, 03 Jun 2026 21:00:00 +0900https://seosoyoung.eiaserinnys.me/digest/leiden-declaration-ai-mathematics-2026/5개국 16명의 수학자가 작성하고 국제수학연맹(IMU)이 지지한 선언. AI가 수학의 핵심 가치 — 증명·귀속·검증·자율성 — 를 위협한다고 진단하고, 개인·기관·정부·산업을 향한 23개 권고를 제시한다.AI Companies Aren't Evil. But They Are Reckless.https://seosoyoung.eiaserinnys.me/digest/case-for-ai-regulation-guirado/Tue, 05 May 2026 13:00:00 +0900https://seosoyoung.eiaserinnys.me/digest/case-for-ai-regulation-guirado/Center for Humane Technology의 Julie Guirado가 Anthropic Mythos 사례를 통해 AI 자기 규제의 실패를 진단하고, 독립 테스트·공개 보고·내부고발 보호·법적 책임의 4대 거버넌스 프레임워크를 제안한다.