用 AI 逆向工程硬件

3줄 요약

• Red Hat 데스크톱 팀을 이끄는 크리스티안 샬레르는 윈도우 가상머신의 USB 통신 기록을 정답으로 삼아 리눅스 드라이버의 출력을 자동으로 대조하는 hw-harness를 만들었다. 이 도구로 문서가 없는 필름 스캐너의 드라이버를 며칠 만에 완성하고, ThinkPad X1 Carbon Gen 14의 MIPI 카메라 버그 5개를 하루 만에 고쳤다.
• 샬레르의 글이 해커뉴스에 소개되자, 한 프로 오디오 하드웨어 업체 대표가 경쟁사 주력 이펙터 3종(Strymon BigSky 포함)과 1978년산 Lexicon 224의 DSP 펌웨어를 사흘 만에 C++ 코드로 역컴파일했다고 밝혔다. Claude Opus 5.5에 칩 에뮬레이터 기반 검증 루프를 결합한 방식이다.
• 비공개 프로토콜과 암호화하지 않은 펌웨어는 해독에 고도의 전문 인력과 수개월이 들었기에 진입 장벽 구실을 했다. 에이전트의 자동 검증 루프가 등장하면서 이 장벽은 효력을 잃었고, 하드웨어 제품의 경쟁 우위는 보안 칩 암호화와 물리적 조작감, 현장 신뢰성으로 재편되고 있다.

개요

중국어권 개발자 @mylifcc는 2026년 10월 21일 X에 「AI로 하드웨어를 역공학하기(用 AI 逆向工程硬件)」라는 스레드를 올렸다. 크리스티안 프레드리크 칼라게르 샬레르(Christian Fredrik Kalager Schaller)의 기술 블로그 글과 해커뉴스(Hacker News) 토론을 소개한 스레드로, 이 다이제스트는 세 자료를 함께 정리했다.¹ 샬레르는 Red Hat에서 Fedora 워크스테이션과 리눅스 데스크톱의 그래픽과 멀티미디어 스택을 총괄하는 엔지니어다. 그는 2026년 10월 15일 개인 블로그에 리눅스가 지원하지 않는 하드웨어 두 종을 Claude Code와 Codex로 역공학한 경험담을 올리고, 도구 모음 hw-harness를 공개했다.

이 작업이 단순한 리눅스 드라이버 개발기에 그치지 않고 업계의 논쟁으로 번진 데는 해커뉴스에 달린 현업 하드웨어 엔지니어들의 증언이 결정적이었다. 리눅스 커뮤니티가 오픈소스 호환성을 확보하려고 만든 자동 역공학 하네스가 상업용 하드웨어 시장에서는 경쟁사의 핵심 디지털 신호 처리(DSP) 알고리즘을 단 몇 시간 만에 복제하는 도구로 작동하기 때문이다. 스레드가 다룬 세 가지 역공학 사례를 요약하면 다음과 같다.

어머니의 필름 네거티브와 미문서화 스캐너

샬레르는 몇 해 전 작고한 어머니의 유품을 정리하다가 하드웨어 역공학에 착수하게 됐다. 어머니가 남긴 자신의 어린 시절 가족 필름 네거티브를 디지털로 보존하려고 Plustek OpticFilm 8200i 필름 스캐너를 구입한 것이 시작이었다. 구매 전 리눅스 스캐너 프레임워크인 SANE의 지원 기기 목록에 해당 모델이 등록된 것까지 확인했지만, 실제로 배송된 기기는 리눅스에서 전혀 인식되지 않았다. 제조사가 외형과 모델명은 그대로 둔 채 내부 컨트롤러 칩만 조용히 바꾼 신형 리비전이었기 때문이다. 기존 드라이버가 지원하던 칩은 Genesys Logic GL845였고, 새 기기의 칩은 최신 GL128(USB 07b3:1825, 제조사 전용 클래스 0xff)이었다.

GL128은 공개된 데이터시트도, 당시 리눅스 SANE 프로젝트에서 이 칩을 다루는 드라이버도 없었다.² 수개월 동안 스캐너를 방치하던 샬레르는 Proton GE 개발자인 톰 크라이더(Tom Crider, @GloriousEggroll)가 X에 올린 짧은 경험담을 보게 됐다. 크라이더는 AI 에이전트에게 윈도우 인스턴스 제어권을 주고 마우스 통신 패킷을 캡처하게 해 리눅스용 마우스 드라이버를 고쳤다고 적었다. 샬레르는 이 아이디어를 체계화해 에이전트가 스스로 하드웨어를 조작하고 패킷을 비교할 수 있는 hw-harness를 설계했다.

hw-harness가 미문서화 USB 장치를 역공학하는 절차는 네 단계로 구성된다.

패킷 캡처는 가상머신 내부가 아닌 리눅스 호스트 커널의 usbmon 계층에서 이뤄진다. 게스트 윈도우는 패킷이 기록되는지 전혀 알아챌 수 없다. 에이전트도 제조사의 윈도우 드라이버 바이너리(.sys)를 역어셈블하거나 역컴파일하지 않는다. 입출력 버스를 오가는 레지스터 설정값과 명령 순서만 관측해 코드를 새로 쓰므로, 독점 소프트웨어를 참조하지 않아야 한다는 오픈소스 라이선스의 클린룸(Clean-room) 기준을 그대로 충족한다.

하네스를 갖춘 뒤 첫 스캔 이미지가 나오기까지는 몇 시간밖에 걸리지 않았다. 에이전트는 며칠 만에 300~7200 dpi 해상도와 8비트와 16비트 색심도, 적외선 먼지 제거까지 지원하는 SANE 백엔드를 완성했다.³

하루 만에 끝낸 ThinkPad MIPI 카메라 디버깅

필름 스캐너 작업으로 하네스의 위력을 확인한 샬레르는 두 번째 과제로 레노버 ThinkPad X1 Carbon Gen 14 Aura Edition 노트북의 내장 웹캠을 골랐다. 이 노트북은 인텔 IPU7 이미지 프로세서와 소니 IMX471 센서를 MIPI CSI-2와 PCIe 버스로 연결한 구조라, USB 스캐너와 달리 usbmon으로 패킷을 캡처할 단일 버스가 없었다. 리눅스에서 카메라는 간신히 켜지기는 했지만 화면이 몹시 어두웠고, 모서리에 비네팅이 생겼으며, 녹색 기운이 돌았다.

ThinkPad X1 Carbon Gen 14 내장 IMX471 카메라의 수정 단계별 비교. 왼쪽은 수정 전 기본 상태로 화면이 어둡고 녹색 기운이 돌며 모서리가 크게 어둡다. 가운데는 렌즈 음영 보정(LSC)을 적용했지만 화이트밸런스 버그가 남아 황록색이 더 짙어진 화면이고, 오른쪽은 다섯 가지 수정을 모두 마친 최종 화면이다.

패킷 스니핑 대신 샬레르는 세 가지 대안 경로로 정답 데이터를 모았다. 먼저 winctl probe로 윈도우 드라이버 저장소에서 ACPI\TBE20A0 장치의 INF 설정 파일과 PnP 레지스트리 트리를 뽑아내고, iasl로 ACPI SSDT 테이블을 디어셈블했다. 다음으로 hwdbg 도구를 써서 I2C 버스로 카메라 모듈 내부의 EEPROM 보정 데이터를 덤프하고 커널 동적 디버그 로그를 읽었다. 마지막으로 정상 작동하는 외장 USB 웹캠을 노트북에 함께 연결해 같은 장면을 찍게 한 뒤, 두 카메라의 프레임 밝기와 색상 채널 비율을 Claude가 실시간으로 대조하며 수정 결과를 검증하도록 했다.

아침에 시작된 디버깅은 그날 저녁에 끝났다. 에이전트는 리눅스 커널의 imx471 센서 드라이버에서 3개, 사용자 공간의 libcamera 소프트웨어 ISP에서 2개, 모두 5개의 독립된 버그를 찾아 고치는 패치를 썼다.⁴

저조도 환경에서 측정한 정량 지표도 뚜렷이 달라졌다. 프레임 평균 밝기는 패치 전 31.1이었는데, 패치 적용 후에는 90.9로 약 2.9배 밝아졌다. 색상 왜곡의 지표인 적녹 비율(R/G)은 0.890에서 1.047로 올라, 함께 연결해 둔 외장 USB 웹캠의 적녹 비율 기준치 1.052에 근접했다. 청녹 비율(B/G)도 0.672에서 0.823으로 올랐다.⁵

사흘 만에 역컴파일된 경쟁사 이펙터

샬레르의 글이 해커뉴스에 올라오자 댓글 창의 이야기는 오픈소스 드라이버 지원에 그치지 않았다. 상업용 하드웨어 시장에서 지적재산권을 지키기가 불가능해졌다는 증언이 이어졌다. 가장 큰 반향을 부른 댓글은 기타 이펙터 페달과 오디오 프로세서를 제조하는 소규모 음향 기기 업체 대표 @valdiorn의 경험담이었다.

Eventide H90 급의 플래그십 멀티 이펙터를 개발 중이라고 밝힌 그는 지난 사흘 동안 남몰래 공황에 시달렸다고 적었다. Claude Opus 5.5에 프롬프트를 한 번 주고 약 3시간을 실행했을 뿐인데, 에이전트가 주요 경쟁사 주력 제품 3종의 펌웨어를 독립된 C++ 코드로 역컴파일해 냈기 때문이다. 여기에는 하이엔드 리버브 페달 시장의 대표작인 Strymon BigSky도 포함되어 있었다. 이어서 그는 Lexicon 224와 Ursa Major 제품군 전체도 20분 만에 역컴파일했다. Lexicon 224는 1978년에 나온 전설적인 스튜디오 디지털 리버브다.⁶

그가 가장 공들여 설명한 것은 3단계 검증 하네스였다. 추출한 C++ 코드가 비슷한 소리만 내는 흉내인지, 원본 펌웨어의 수학적 알고리즘을 오차 없이 복원한 것인지 가려내는 장치다.

1. 칩 에뮬레이터 구축: 먼저 Claude에게 경쟁사 하드웨어가 사용하는 DSP 칩의 에뮬레이터를 작성하게 한 뒤, 경쟁사 제품의 원본 펌웨어와 ROM 바이너리를 수정 없이 로드해 실행했다.
2. 어셈블리 역컴파일: 원본 바이너리의 저수준 어셈블리 코드를 분석해 외부 의존성이 없는 독립 실행형 C++ 오디오 처리 라이브러리로 역컴파일했다.
3. 오디오 출력 자동 대조: 동일한 입력 신호를 칩 에뮬레이터와 C++ 라이브러리에 각각 통과시킨 뒤, 두 출력 파형을 자동으로 비교해 일치할 때까지 코드를 교정했다.

“지난 72시간 동안 내가 겪은 일을 요약하자면, 하드웨어 이펙터 프로세서 업계의 진입 장벽은 방금 사라졌다. 이제 Claude 구독만 있으면 누구나 몇 시간 안에 경쟁사의 최고급 알고리즘을 그대로 추출할 수 있다. 우리는 도덕적 이유로 이 코드를 상업 제품에 쓰지 않겠지만, 전 세계 수십 곳의 복제 업체들은 주저하지 않을 것이다.”

이 증언에 이어 사용자 revolvingthrow는 에이전트와 인간의 역할이 역전된 또 다른 풍경을 전했다. 하드웨어 지식이 거의 없다고 밝힌 그는 집에 있던 오래된 리모컨과 Rodecaster 오디오 인터페이스, 그리고 macOS 27 업데이트 이후 공식 드라이버 지원이 끊긴 구형 USB 프린터를 Claude와 함께 역공학했다.

그 과정에서 생각하고 추론하는 일은 전부 Claude가 맡았다. 사람은 에이전트가 물리 세계를 관찰하고 조작하는 데 쓰는 손발, 이른바 살점 양말(meat sock) 노릇만 했다. Claude는 테스트 페이지를 인쇄한 뒤 사용자에게 줄마다 인쇄된 회색조 글씨가 갈수록 흐려지는지 물어보았고, 첫 번째 페이지와 두 번째 페이지의 해상도(DPI) 차이를 눈으로 확인해 달라고 요청했다. 프린터의 에러 처리 로직을 드라이버에 넣어야 한다며 사용자에게 용지함의 종이를 전부 빼라고 지시하기도 했다. 기기가 반환하는 에러 코드를 읽은 뒤에는 종이를 다시 채우게 하고 양면 인쇄를 시험했다.

비용 장벽의 무력화와 세 가지 시사점

@mylifcc는 이 사례들을 종합해 하드웨어 엔지니어링의 변화를 세 가지로 요약했다. 해커뉴스 스레드에서도 제조사의 기술적 해자(Moat)가 유지될 수 있느냐를 두고 치열한 공방이 벌어졌다.

첫째로 번거로움에 의존하던 보안(Security through obscurity)이 무력화됐다. 그동안 수많은 하드웨어 제조사는 펌웨어를 평문으로 배포하거나 USB 통신 프로토콜을 암호화하지 않고도 지적재산권을 지켜 왔다. 기술적으로는 해독할 수 있었지만, 그 인건비가 복제로 얻는 이익보다 훨씬 컸다. 어셈블리 명령어 수만 줄과 하드웨어 타이밍을 함께 읽을 수 있는 최상급 역공학 및 DSP 엔지니어를 몇 달씩 고용해야 했기 때문이다. 이제는 에이전트에 수백 달러어치 토큰을 쓰고 몇 시간만 실행하면 수개월 치 역공학이 끝난다. 비용 부담 덕분에 유지되던 방어가 더 이상 통하지 않게 된 셈이다.

둘째로 성공을 좌우하는 핵심 요인은 모델 자체의 추론 능력보다 자동 검증 피드백 루프, 곧 하네스(Harness)의 설계다. 샬레르의 usbmon 패킷 비교기에서도, @valdiorn의 DSP 칩 에뮬레이터에서도 사람이 한 일은 두 가지를 갖춰 준 것뿐이었다. 정답 데이터(Ground Truth)를 만드는 기준 환경과, 오차를 재는 비교 도구다. 이 검증 루프가 갖춰지면 에이전트는 사람과 달리 지치거나 포기하지 않고, 패킷 차이나 오디오 파형 오차가 0이 될 때까지 가설을 세우고 코드를 고치기를 수백 번이고 되풀이한다.

셋째로 하드웨어 제품의 상업적 가치는 물리적 경험과 브랜드 신뢰에서 나오게 된다. 비공개 프로토콜과 독점 신호 처리 알고리즘을 복제하는 비용은 0에 가까워졌다. 소프트웨어만으로 유지하던 가격 프리미엄도 빠르게 줄어들고 있다. 앞으로 음향 기기 제조사와 전문 하드웨어 제조사가 지킬 수 있는 경쟁 우위는 네 가지 정도가 될 것이다. 전압 글리칭까지 막는 보안 하드웨어 설계, 노브를 조작할 때의 물리적 감각과 산업 디자인, 컴퓨터와 달리 라이브 공연 중에 멈추지 않는 전용 장비의 안정성, 그리고 아티스트와 사용자 커뮤니티가 브랜드에 보내는 신뢰다.

가장 흥미로운 지점

이번 사례들에서 내가 몇 번이고 다시 읽은 대목은 샬레르의 클린룸 드라이버 하네스와 @valdiorn의 칩 에뮬레이터 하네스다. 두 하네스는 설계 구조가 완전히 같다. 한쪽은 리눅스에서 버려질 뻔한 하드웨어를 살려 어머니가 남긴 필름을 스캔하려던 오픈소스 엔지니어의 선의였고, 다른 한쪽은 경쟁사의 수년 치 R&D 결과물을 세 시간 만에 복제할 수 있다는 상업적 공포였다.

두 사람이 에이전트에게 마련해 준 도구는 똑같이 블랙박스를 실행하는 기준 환경(윈도우 VM, 칩 에뮬레이터)과 두 출력을 대조하는 비교기(tshark, 오디오 파형 비교)였다. 과거에는 하드웨어 역공학이 소프트웨어 역공학보다 훨씬 까다롭다고 여겨졌다. 그런데 하드웨어는 오실로스코프나 버스 스니퍼, 에뮬레이터를 연결하는 순간 입출력 신호라는 반박할 수 없는 물리적 정답(Ground Truth)이 기록된다. 그 덕분에 하드웨어가 도리어 에이전트의 자율 루프에 가장 알맞은 시험대가 됐다. 입출력 신호를 관측할 수 있고 정답과 비교할 수만 있다면, 문서가 없는 하드웨어라도 에이전트는 코드로 재현해 낸다.

출처

• @mylifcc, 「用 AI 逆向工程硬件」 (X 스레드, 2026-10-21): https://x.com/mylifcc/status/2112710466061357404
• Christian Fredrik Kalager Schaller, 「Using Artificial Intelligence to reverse engineer hardware」 (2026-10-15): https://blogs.gnome.org/uraeus/2026/10/15/aiandreverseengineerhardware/
• GitHub cschalle/hw-harness: https://github.com/cschalle/hw-harness
• Hacker News 토론 스레드 (item?id=50104299): https://news.ycombinator.com/item?id=50104299
• 본문의 ThinkPad X1 Carbon Gen 14 카메라 비교 이미지는 크리스티안 샬레르의 원문 블로그에서 인용했으며, 커버와 본문의 치비 서소영 삽화 3장은 「느낌적인 느낌을 숫자로 옮기는 일」의 치비 서소영 라인아트를 참조해 gpt-image-2.5-flare로 따로 생성했다.