AI 감속 이후, CapEx와 기술주의 논리는 바뀔까?

원문 제목: The bottleneck isn't the model. It never was.
원문 저자: Saket Mehrotra, Beta to Alpha

편집자 주: 최근 OpenAI와 Anthropic에서 사전 훈련 업무를 담당했던 Jacob Coxon이 Anthropic을 떠난다고 발표하면서, 선도 AI 연구소들이 모델 능력의 추가 향상을 제한하도록 조율할 것을 공개적으로 촉구했다. Anthropic의 정렬 과학 책임자 Evan Hubinger는 이후 Coxon의 위험에 대한 주요 판단에 동의하며, 향후 10년 안에 AI가 인류 멸종을 초래할 확률을 10% 이상으로 추정한다고 밝혔다.

이 논쟁은 'AI 감속'을 윤리적 의제에서 자본 시장의 문제로 끌어올리고 있다. 만약 선도 연구소들이 실제로 모델 개발 속도를 늦춘다면, 지난 몇 년간 계속 상향 조정되어 온 AI 자본 지출(CapEx)도 변곡점을 맞게 될까? AI 내러티브에 힘입어 밸류에이션 프리미엄을 누려온 기술주들도 재평가가 필요해질까?

Beta to Alpha의 저자 Saket Mehrotra는 《The bottleneck isn't the model. It never was.》라는 글에서, 연구소들의 AI 위험에 대한 우려가 인프라 투자 냉각과 같은 의미는 아니라고 주장한다. 각 기업이 여전히 경쟁에서 뒤처질 것을 우려하는 한, 안전에 대한 불안은 컴퓨팅 투자를 계속 밀어붙일 수 있다. 동시에 산업의 병목은 GPU, HBM, 첨단 패키징에서 점차 전력과 전력망으로 이동하고 있다.

그렇다고 AI 감속이 시장에 전혀 영향을 미치지 않는다는 뜻은 아니다. 더 정확히 말하면, 그 영향은 감속이 어느 계층에서 발생하는지에 달려 있다. 단지 안전 테스트를 연장하고 모델 출시를 늦추는 정도라면 CapEx가 반드시 줄어들지는 않는다. 그러나 정부가 훈련 클러스터, 칩 공급 또는 데이터센터 전력 사용을 직접 제한한다면, 전체 투자 프레임워크가 근본적으로 바뀔 수 있다.

다음은 원문을 편집·번역한 것이다.

Jacob Coxon이 X에 사직 성명을 올려 선도 AI 연구소들이 능력 경쟁을 조율하여 늦출 것을 촉구했다

Jacob Coxon의 사직은 선도 AI의 위험을 다시 수면 위로 끌어올렸다.

Coxon은 OpenAI와 Anthropic이 스스로 개선할 수 있는 초지능을 개발하기 위해 경쟁하면서도 충분히 책임 있는 안전 조치를 취하지 않고 있다고 본다. 이는 외부 비판자들의 고립된 목소리가 아니다. Anthropic의 정렬 과학 책임자 Evan Hubinger는 이후 공개적으로 Coxon의 주요 판단에 동의하며, 향후 10년 안에 AI가 인류 멸종을 초래할 확률을 10% 이상으로 추정했다. 이와 관련한 발언은 WIRED 등 매체의 보도로도 다뤄졌다.

그러나 투자자들에게는 또 다른 질문이 더 직접적일 수 있다. 선도 연구소들이 감속을 논의하기 시작하면, 기술 기업들의 AI 자본 지출도 함께 줄어들 것인가?

Mehrotra는 적어도 현 단계에서는 두 가지를 직접적으로 동일시할 수 없다고 본다. AI 안전 논쟁은 모델과 연구소 거버넌스 차원에서 발생하는 반면, 이번 CapEx 사이클의 제약은 이미 칩, 패키징, 전력, 데이터센터 등 물리적 인프라로 점차 내려가고 있다.

경쟁에서 질까 봐 더 불안할수록 연구소는 스스로 감속하기 어렵다

Coxon의 설명에 따르면, 선도 연구소들이 위험을 인식하지 못하는 것은 아니다. 진짜 문제는 어떤 연구소도 먼저 속도를 늦추려 하지 않는다는 점이다.

여기에는 게임 이론적 논리가 작동한다. 한 연구소가 감속을 선택하면, 안전 의식이 더 약한 경쟁자가 더 강력한 모델을 먼저 개발할 수 있다. 신중하지 못한 경쟁자가 먼저 돌파구를 여는 것보다는, 계속 자원을 투입해 스스로 선두 주자가 되고 더 안전한 방식으로 기술을 통제하는 편을 택하게 된다.

저자의 관점에서 이런 사고방식은 자본 지출 축소로 이어지기 어렵고, 오히려 군비 경쟁을 강화할 수 있다. 연구소들은 자신이 결정적인 기술 경쟁에 참여하고 있다고 믿을수록 GPU 구매, 훈련 클러스터, 데이터센터 투자를 줄이기 더 어려워진다.

따라서 안전에 대한 불안과 CapEx 증가는 동시에 존재할 수 있다. 심지어 자기 강화 순환을 형성할 수도 있다. 연구소들은 AI 능력의 빠른 향상을 우려하면서도 경쟁자에게 뒤처질까 봐 더 많은 자원을 투입하고, 그 결과 능력 경쟁이 더 가속화되는 것이다.

이는 저자가 업계의 게임 구조를 설명한 것이지, 기업들의 자본 지출 계획으로 확인된 결과는 아니다. 이 논리가 성립하는지 판단하려면 주요 클라우드 업체와 AI 연구소들이 실제 구매 및 건설 계획을 조정하기 시작하는지 계속 지켜봐야 한다.

모델 감속이 인프라 사이클의 종말을 의미하지는 않는다

Mehrotra의 두 번째 판단은 AI 산업의 핵심 병목이 여러 차례 이동해 왔으며, 이동할 때마다 자본 집약도가 높아졌다는 것이다.

처음에 모델 훈련을 제한한 것은 GPU 공급과 칩 할당이었다. 이후 병목은 HBM 고대역폭 메모리와 첨단 패키징으로 옮겨갔다. 이제는 전력 공급, 전력망 연결, 데이터센터 건설이 더 빠르게 해결하기 어려운 제약으로 부상하고 있다.

칩과 패키징 능력은 생산 라인 확장으로 완화할 수 있지만, 전력 문제는 대개 발전 시설을 건설하거나 재가동하고, 가스터빈과 변압기 생산 능력을 늘리며, 송전 및 계통 연계 시스템을 업그레이드해야 한다. 이런 프로젝트는 투자 규모가 더 크고 건설 기간도 더 길어서 소프트웨어 업그레이드 한 번으로 해결할 수 없다.

따라서 선도 모델의 출시 빈도가 낮아지더라도 이미 체결된 칩 주문, 전력 구매 계약, 데이터센터 건설 프로젝트가 즉시 중단되지는 않을 수 있다. 모델 연구개발과 인프라 건설 사이에는 시차가 존재하며, CapEx는 대체로 여론이나 연구개발 리듬과 동시에 방향을 바꾸지 않는다.

동시에 감속이 컴퓨팅 수요의 자연스러운 감소를 의미하지도 않는다. 더 긴 안전 테스트, 더 복잡한 추론 과정, 기존 모델의 기업 및 소비자 시나리오 배포는 여전히 막대한 컴퓨팅 자원을 소모할 수 있다.

저자는 이에 따라 투자자들이 소셜 미디어에서 가장 치열하게 논쟁되는 모델 계층에만 집중해서는 안 되며, 향후 18개월 동안 형성되고 있는 새로운 병목을 찾아야 한다고 본다. 이 프레임워크에 따르면, 현재 더 주목할 만한 희소 자원은 '모델 지능'에서 전력 및 관련 인프라로 점차 이동하고 있다.

AI 기술주는 전반적 상승에서 차별화로 전환될 수 있다

모델 감속이 CapEx 중단을 의미하지 않는다면, 기술주에 미치는 영향도 단순한 전방위적 악재가 아니라 산업 사슬의 재평가로 나타날 가능성이 크다.

첫째, 선도 모델의 지속적인 도약과 빠른 제품 수익화에 의존하는 기업들이 더 큰 영향을 받을 수 있다. 모델 반복 속도가 느려지면 시장의 매출 성장률, 상업화 속도, 밸류에이션 배수에 대한 가정을 조정해야 할 수 있다.

둘째, GPU, 네트워크 장비, 전력 공급·배전, 냉각, 데이터센터 자원을 보유한 기업들의 수주 논리가 동시에 악화되지는 않을 수 있다. 클라우드 업체들이 인프라를 계속 확장하거나 컴퓨팅 병목이 전력 부문으로 계속 이동하는 한, 관련 투자는 강한 관성을 유지할 수 있다.

셋째, 시장은 훈련과 추론을 구분해야 한다. 연구소들이 초대규모 선도 훈련을 조율하여 제한하더라도 기존 모델의 추론 수요, 기업 배포, AI 애플리케이션 확산은 여전히 컴퓨팅 소비를 밀어올릴 수 있다. 그렇게 되면 CapEx는 급격한 위축이 아니라 구조적 변화를 겪을 수 있다.

이는 AI 감속이 처음에 바꾸는 것이 기술 산업 전체의 성장 방향이 아니라, 서로 다른 자산이 동일한 AI 밸류에이션 논리를 공유하던 국면일 수 있음을 의미한다. 지금까지 모델 기업, 클라우드 업체, 반도체 기업, 전력 인프라 공급업체 모두 AI 내러티브에서 프리미엄을 누릴 수 있었다. 모델 능력 경쟁이 느려지면 시장은 기술 리더십, 상업화 능력, 수주 이행을 더 엄격하게 구분하기 시작할 수 있다.

CapEx 논리를 진짜 바꾸는 변수는 규제다

Mehrotra는 이번 AI 자본 지출 사이클을 진짜로 중단시킬 수 있는 것은 또 한 번의 공급망 부족이 아니라, 정부가 시스템 외부에서 설정하는 강제적 제한이라고 본다.

GPU, HBM, 전력, 변압기 부족은 본질적으로 투자 확대로 완화할 수 있는 병목이다. 데이터센터 가동을 지연시킬 수는 있지만, 자본을 새로운 희소 부문으로 유도하기도 한다.

규제는 다르다. 정부가 고급 칩 구매, 훈련 클러스터 규모, 모델 훈련에 필요한 컴퓨팅, 데이터센터 전력 사용을 직접 제한하면 기업들은 투자 확대만으로 제약을 돌파하기 어렵다. 이 시나리오에서는 클라우드 업체들의 CapEx 전망, 인프라 주문, AI 관련 기술주 밸류에이션이 동시에 하향 조정될 수 있다.

다만 원문은 이런 상황을 기준 시나리오가 아닌 낮은 확률의 꼬리 위험으로 본다. 이 판단 역시 지속적인 검증이 필요하며, 규제 위험이 이미 배제되었다고 이해해서는 안 된다. AI 연구소 내부의 우려가 공개화되면서 외부 정책 압력은 여전히 높아질 수 있다.

앞으로 시장이 실제로 관찰해야 할 것은 'AI 감속'이라는 모호한 구호가 아니라 세 가지 더 구체적인 신호다. 선도 연구소들이 감속을 공식 연구개발 계획에 반영하는지, 주요 클라우드 업체들이 데이터센터 주문을 줄이는지, 규제가 칩·컴퓨팅·에너지 공급에 직접 개입하기 시작하는지 여부다.

Coxon의 사직은 선도 AI의 안전 논쟁이 외부 비판에서 연구소 내부로 들어왔음을 보여준다. 그러나 연구자들이 우려를 표명하는 것에서 기술 기업들이 실제로 자본 지출을 줄이는 것까지는 경쟁 압력, 건설 관성, 인프라 부족 등 여러 단계가 가로놓여 있다.

AI 감속이 CapEx 사이클을 즉시 끝내지는 못할 수 있지만, 모든 AI 자산이 동일한 상승 논리를 공유하던 국면은 끝낼 수 있다.