비탈릭 부테린, AI 사이버보안 종말론 반박

부테린은 9월 17일 X 게시물에서 “AI 해킹으로 사이버보안은 끝났다”는 점점 더 흔해지는 견해에 동의하지 않는다고 밝혔다. 그는 암호화폐를 계속 보유하는 사람들은 더 강력한 자동화 공격에도 안전한 디지털 시스템이 살아남을 수 있다는 데 암묵적으로 베팅하는 것이며, 자신의 순자산 중 약 90%가 여전히 암호화폐에 있다고 덧붙였다.

그의 주장은 소프트웨어가 사전 정의된 속성에 따라 작동하는지 판단하기 위해 수학적 명세와 증명을 사용하는 기법인 형식 검증에 초점을 맞춘다. 부테린은 고급 수학 정리 증명을 비유로 들며, 충분히 유능한 AI는 소프트웨어 자체가 복잡하더라도 “이 프로그램은 안전하다”는 것을 증명하는 데 도움을 줄 수 있다고 말했다.

부테린, 형식 검증이 방어자에게 유리할 수 있다고 주장

부테린의 주장은 AI 보안을 방어 연구자들이 공격자보다 먼저 버그를 찾는 경쟁으로 보지 않는다. 그의 게시물은 개발자가 시스템이 충족해야 할 속성을 정의한 다음 자동화된 증명 도구를 사용해 구현이 이를 준수함을 입증하는 모델을 설명한다.

이더리움의 자체 형식 검증 문서는 이 기법을 더 좁은 의미로 설명한다. 형식 검증은 스마트 계약이 형식 명세를 준수함을 수학적으로 증명할 수 있으며, 해당 명세에 포함된 속성에 대해 일반적인 테스트보다 더 강력한 보증을 제공한다고 명시한다.

같은 이더리움 문서는 부테린의 발언 뒤에 있는 중요한 한계를 지적한다. 증명은 소프트웨어가 검사 중인 명세를 충족함을 입증하지만, 개발자가 모든 보안 속성을 올바르게 정의했음을 자동으로 증명하지는 않는다. 잘못 선택되거나 불완전한 명세는 증명 범위 밖의 동작을 남길 수 있다.

부테린은 게시물에서 동일한 구분을 했다. 그는 “보안”을 너무 좁게 정의하면 프로토콜, 서버, 데이터베이스, 네트워킹 계층, 캐시 또는 기타 지원 구성 요소와 관련된 공격 경로가 누락될 수 있다고 주장했다. 따라서 그가 제안한 방향은 소수의 모듈만 보안 핵심으로 지정하는 대신 전체 시스템을 더 많이 검증하는 것이다.

부테린은 이미 AI 지원 형식 검증을 소프트웨어 개발의 가능한 “최종 형태”로 설명한 바 있다. 그의 이전 발언은 이 접근 방식을 이더리움 합의, 영지식 시스템, 양자 내성 암호화 등의 분야에 적용했다.

이더리움, 이미 AI 지원 보안 테스트 중

이더리움 연구원들은 이미 보안 작업에 AI를 사용하고 있지만, 현재 시스템은 전체 시스템 보안의 자동 증명과는 거리가 멀다.

이더리움 재단 프로토콜 보안 팀은 7월에 조정된 AI 에이전트가 이더리움이 사용하는 시스템에서 실제 결함을 발견했다고 보고했다. 확인된 발견 중 하나는 Rust libp2p의 Gossipsub 네트워킹 구현에서 원격으로 접근 가능한 크래시였다.

이 결함은 CVE-2026-34219가 되었다. 미국 국가 취약점 데이터베이스 기록에 따르면 0.49.4 이전 버전은 Gossipsub 백오프 처리 중 산술 오버플로를 유발하는 조작된 PRUNE 메시지를 통해 원격으로 크래시될 수 있었다. 버전 0.49.4에서 이 문제가 수정되었다.

재단 보안 팀은 취약점 발견이 AI 워크플로에서 가장 어려운 부분이 아니라고 말했다. 연구원들은 AI 에이전트가 도달 불가능한 실행 경로, 디버그 전용 실패 또는 의도한 것보다 약한 속성을 증명하면서 기술적으로는 통과하는 형식 증명을 포함한 그럴듯한 보고서를 자주 생성한다는 것을 발견했다.

팀이 발견을 수용하기 전에 독립적인 재현이 여전히 필요했다. 재단은 에이전트가 연구원들이 실제로 테스트하려는 소프트웨어 동작을 제한하지 못하는 타당해 보이는 증명을 생성할 수 있기 때문에 자동화된 검사와 인간 검토가 필요하다고 밝혔다.

재단의 경험은 분류 문제로 설명되었다. AI가 대량의 후보 취약점을 생성할 수 있지만, 연구원들은 각 문제가 프로덕션에서 도달 가능하고 의미 있는지 여부를 여전히 판단해야 했다.

형식 검증, 이더리움 프로토콜 로드맵에 진입

이더리움 재단은 별도로 형식 검증을 현재 프로토콜 연구 프로그램의 일부로 만들었다. 9월 7일 프로토콜 우선순위 업데이트에서 재단은 형식 검증이 남은 다년간의 연구 분야 전반에 걸쳐 교차 도구 역할을 할 것이라고 밝혔다. 이 문서는 2029년까지 프라이버시, 상태, zkEVM 개발, 포스트 양자 보안 및 기타 프로토콜 구성 요소에 대한 작업을 다룬다.

같은 로드맵에 따르면 L1 zkEVM 개발은 형식 검증 도구, 워크플로 및 검증된 암호화 구성 요소의 발전을 촉진할 것으로 예상된다. 이더리움 연구원들은 검증자가 모든 블록을 독립적으로 재실행하는 대신 간결한 실행 증명을 검증하는 시스템을 목표로 연구하고 있다.

8월에 시작된 별도의 이더리움 재단 프로젝트는 이미 AI 에이전트와 기계 검사 증명을 결합하고 있다. better.codes 프로젝트는 연구원들이 Lean으로 형식화된 암호학적 건전성 문제에 AI 시스템을 투입할 수 있게 하며, Lean 커널은 제출된 증명이 고정된 정리 명제를 충족하는지 확인한다.

재단의 2분기 자금 지원 보고서는 대규모 언어 모델과 형식 방법을 결합한 추가 작업을 나열한다. 프로젝트에는 이더리움 클라이언트 구현을 명세와 대조 확인하는 ETHeorem, 자동화된 프로토콜 준수 작업을 위한 SPECA 및 LeanAgent, RISC-V zkVM 인프라와 관련된 형식 검증이 포함된다.

이더리움의 업데이트된 기술 로드맵은 형식 검증에 프라이버시, 영지식 증명, 포스트 양자 보호와 함께 역할을 부여한다. 따라서 부테린의 9월 17일 발언은 새로운 업그레이드나 예정된 포크를 발표하는 것이 아니라 기존 연구 방향을 이어가는 것이다. 그의 게시물은 새로운 EIP, 배포 날짜 또는 모든 이더리움 프로그램이 형식 검증을 거치도록 요구하는 강제 규칙을 언급하지 않았다.

현재 AI 증거는 더 강력한 공격 능력도 보여줘

최근 사이버보안 연구는 방어적 사용이 확대됨에도 불구하고 AI가 공격자를 더 유능하게 만들고 있다는 우려를 뒷받침한다. 앤트로픽은 9월 위협 인텔리전스 보고서에서 악의적 행위자가 취약점 연구, 익스플로잇 개발 및 다중 표적 캠페인을 자동화하기 위해 AI를 사용하는 것을 관찰했다고 밝혔다. 회사는 일부 운영자가 취약점 연구를 지속적으로 수행할 수 있는 자동화된 워크플로를 유지했다고 말했다.

앤트로픽의 이전 연구에서도 대규모로 유사한 증거가 발견되었다. 조정 공개 대시보드에 따르면 8월 26일까지 회사는 392개 오픈소스 프로젝트에서 AI가 발견한 2,300개의 취약점을 공개했으며, 그 시점에 421개가 업스트림에서 패치되었다.

앤트로픽은 동일한 기술이 방어에 유용하다고 설명했다. 프로젝트 글래스윙 이니셔티브는 보안 회사 및 소프트웨어 공급업체와 함께 프론티어 모델을 사용하여 악의적 행위자가 악용하기 전에 높은 심각도 및 치명적 결함을 찾아냈다고 보고했다.

공격 측면은 여전히 측정 가능하다. 앤트로픽의 6월 연구는 2025년 3월부터 2026년 3월까지 악의적 사이버 활동과 관련된 832개 계정을 조사했으며, 위협 행위자가 사이버 작전의 여러 단계에서 AI를 사용하는 것을 발견했다. 부테린은 AI 기반 보안 위험이 비트코인에 대한 신뢰를 심각하게 손상시킬 수 있다는 별도의 주장을 이미 반박했다. 그는 네트워크 계층 문제는 종종 소프트웨어 및 채굴 인프라 업그레이드를 통해 해결할 수 있으며, 비트코인의 해시 또는 작업 증명 메커니즘의 실제 파괴는 매우 가능성이 낮다고 말했다.

앤트로픽의 9월 보고서에 따르면 조사관들은 보안 어플라이언스 및 정부 표적에 대해 AI로 구축된 익스플로잇 파이프라인을 사용하는 운영자를 식별했으며, 일부 캠페인은 공격자가 자체 테스트 환경에서 검증한 이전에 알려지지 않은 취약점을 생성했다.