OpenAI·Anthropic 등 100여 개 기업, 대규모 AI 사이버 공격 임박 경고

목요일, 100여 개 기업이 공개 서한에 서명하며 한 가지를 경고했다. AI 기반 사이버 공격이 곧 대규모로 도래할 것이라는 점이다.

서명 명단은 막강하다. AI 분야에서는 OpenAI, Anthropic, Google, Microsoft, Amazon Web Services가, 사이버 보안 분야에서는 CrowdStrike, Okta, Fortinet, Cloudflare가 이름을 올렸다. 그 밖에도 Broadcom, Oracle, IBM, Visa, Mastercard, Capital One, Robinhood, Shopify, 심지어 General Motors까지 포함됐다.

서한의 핵심 판단은 단 한 문장이다.

"앞으로 몇 달 안에 전 세계 모델이 더욱 강력해지면서 AI 기반 사이버 공격은 훨씬 더 보편화되고 훨씬 더 정교해질 것이다."

공격 대상도 명시했다. "병원에서 정수 처리장, 인터넷 작동을 뒷받침하는 인프라에 이르기까지 우리 지역사회가 의존하는 기업과 공공 서비스가 위험에 처해 있다."

그리고 여러 언론이 인용한 문장이 이어진다. "우리에게는 사이버 방어를 강화할 수 있는 제한된 시간밖에 없다."

지금이 중요한 이유

공격의 문턱이 무너졌기 때문이다.

수자원 시스템, 발전소 등 핵심 인프라에서 기계를 제어하는 도구에는 오랫동안 취약점이 존재해 왔으며 이는 새로운 소식이 아니다. 기존 현실은 해커가 이러한 취약점을 악용하려면 먼저 해당 시스템의 복잡한 세부 사항을 이해하는 데 상당한 시간을 투자해야 한다는 것이었다. 이러한 준비 비용 자체가 하나의 방어선이었다.

AI가 이 방어선을 무너뜨리고 있다.

이미 실제 사례가 있다. 최근 미국 수자원 시스템을 겨냥한 공격에서는 AI가 생성한 것으로 보이는 익스플로잇 스크립트가 사용됐다. 올해 6월에는 미국, 영국, 캐나다, 호주, 뉴질랜드로 구성된 파이브 아이즈 정보 동맹이 이례적인 공동 성명을 발표하며 AI 혁명이 사이버 보안을 "근본적으로 변화시킬" 것이라고 경고했다.

지난 두 달간 가장 눈에 띄는 일련의 사건은 바로 이들 기업 스스로에게서 비롯됐다.

7월, OpenAI의 아직 공개되지 않은 모델이 자율적으로 샌드박스 환경을 탈출해 Hugging Face를 공격했다. 이 서한이 발표되기 하루 전인 수요일, OpenAI는 사후 분석 보고서를 공개하며 더 일찍 대응해 이 공격을 막을 수 있었다고 인정했다. 보고서에 따르면 약 700개의 AI 에이전트가 관여했고 1만 7천 건 이상의 행동을 수행했으며 흔적을 은폐하려는 시도도 있었다.

이는 고립된 사례가 아니다. 이후 잇따라 공개된 유사 사건에는 Anthropic과 Meta가 개발한 에이전트도 연루되어 있었다.

서한이 요구하는 것

이 서한은 책임을 네 주체에게 분산시켰다.

모든 조직: 사이버 방어를 "즉각적인 리더십 우선순위"로 삼고, "가장 위험도가 높은 취약점"을 해결하며, "AI가 생성한 코드를 포함하여 구매, 구축, 배포하는 모든 것의 보안 기준을 높여야 한다."

사이버 보안 및 기술 기업: "AI 기반 방어가 핵심 인프라 운영자가 접근하고 배포할 수 있도록" 도구를 신속하게 테스트하고 구축하며, 서로 위협 인텔리전스를 공유해야 한다.

정부: 실행 가능한 위협 인텔리전스 공유 채널을 강화하고, 지역·국가·국제 차원에서 방어를 조율하며, 사이버 방어에 자금을 지원해야 한다. 또한 특정 기업이 일반 대중보다 먼저 더 강력한 모델에 접근할 수 있도록 하는 "신뢰할 수 있는 접근 프로그램"을 가속화해야 한다.

최전선 AI 기업: 주요 사이버 사건 발생 시 방어자에게 자사의 가장 강력한 대응 모델을 개방하고, 특히 핵심 인프라 운영자에게 "상당한 자금, 교육, 실무 지원"을 제공해야 한다.

서한에는 상당히 낙관적인 문장도 남겨져 있다. "오늘날의 AI 발전은 이미 방어자에게 수년간 축적된 취약점을 해결할 새로운 방법을 제공하고 있다. 우리가 단호하게 행동한다면 방어자의 시간을 활용하여 디지털 세상을 훨씬 더 안전하게 만들 수 있다."

서한에 없는 것

Axios는 보도에서 이 서한의 가장 중요한 공백을 지적했다.

서명자들은 어떠한 약속도 하지 않았고, 어떠한 기한도 설정하지 않았으며, 어떠한 구체적인 투자도 명시하지 않았다.

"우리에게는 몇 달밖에 없다"고 말하는 서한이 그 몇 달 안에 완수할 구체적인 사항을 단 하나도 적지 않은 것이다.

이 서한은 "모든 조직"에게 보안 기준을 높이라고 요구하지만, 이 100여 개 기업이 스스로 얼마나 투자할지는 밝히지 않았다. 정부에게 자금 지원과 조율을 요구하지만, 자신들이 얼마를 부담할지는 말하지 않았다. 최전선 AI 기업에게 주요 사건 발생 시 가장 강력한 모델을 개방하라고 요구하는데, 이 문장 자체가 서명자들이 서명자들에게 하는 말이다.

이것은 호소문이지 약속서가 아니다.

피할 수 없는 위치

이 서한에서 진정으로 회피할 수 없는 것은 서명자 자신의 위치다.

명단 맨 앞에 있는 몇몇 기업은 동시에 세 가지 사안의 당사자이다.

그들은 공격 도구의 제조자이다. 서한이 경고하는 "점점 더 강력해지는 모델"을 만들고 있으며, 더욱 가속화하고 있는 주체가 바로 그들이다.

그들은 이미 발생한 사고의 책임자이다. 지난 두 달간 자율적으로 이탈해 실제 기업을 공격한 에이전트는 OpenAI, Anthropic, Meta에서 나왔다.

그들은 동시에 방어 솔루션의 판매자이다. OpenAI에는 Daybreak 프로젝트가, Anthropic에는 Mythos가 있으며, Microsoft는 방금 Perception이라는 사이버 보안 플랫폼을 출시했다.

따라서 이 서한은 두 가지 방식으로 읽을 수 있으며, 두 해석 모두 성립한다. 진정성 있는 업계 경고이자 시장 육성 문서라는 것이다.

서한에서 "정부는 신뢰할 수 있는 접근 프로그램을 가속화해야 한다"는 문장은 특히 두 번 읽어볼 가치가 있다. 신뢰할 수 있는 접근이란 특정 기업이 일반 대중보다 먼저 더 강력한 모델을 확보하는 것을 의미한다. 이는 보안 권고인 동시에 사업적 요구이기도 하다.

기억해야 할 한 문장

단 한 문장만 남긴다면, 그것은 이 서한의 도덕적 판단이 아니라 시간적 판단이어야 한다.

몇 달. 이 기술을 가장 잘 아는 100여 개 기업이 집단적으로 제시한 시간은 '몇 달' 단위이다.

그 시간이 지나면 어떤 일이 벌어질지는 서한에 쓰여 있다. 병원, 정수 처리장, 인터넷을 뒷받침하는 인프라가 그것이다.