GPT-6 이후, 다시 살아난 컴퓨팅 파워 급증 스토리는 유효한가?

9월 3일 GPT-6 Astra 출시 이후 반도체와 메모리 주식이 가장 먼저 반등했다. 9월 4일 SOXX는 하루 만에 3.5% 상승했고, 마이크론은 6.1% 올랐으며, 샌디스크는 11.9% 급등했다. 9월 7일 한국 코스피는 4.61% 상승했고, 삼성전자는 5.7%, SK하이닉스는 약 8% 올랐다.
이전까지 AI 자본 지출 과열과 컴퓨팅 파워 수요 정점에 대한 우려로 관련 섹터는 상당 기간 변동성을 겪었다. 마켓워치는 이번 상승을 Astra가 '메모리 칩 거래를 재점화했다'고 표현하기도 했다.

『엔비디아 웨이』의 저자이자 전 배런스 기술 기자였던 태 킴은 더 급진적인 설명을 내놓았다. AI가 최근 4년 동안 컴퓨팅 파워 수요가 기하급수적으로 성장하는 네 번째 국면에 진입했을 수 있다는 것이다.

첫 세 차례는 챗봇, 추론, 코딩 에이전트에서 비롯됐고, 네 번째는 이번에 Astra가 집중적으로 선보인 컴퓨터 사용(Computer Use)이 될 수 있다. 킴의 논리는 이렇다. 챗봇은 수억 명이 추론 파워를 소비하기 시작하게 했고, 추론 모델은 답변마다 더 많은 연산을 요구했으며, 코딩 에이전트는 모델을 '한 번 답하는 것'에서 몇십 분, 심지어 수 시간 동안 계속 작동하는 것으로 바꿔놓았다. 이제 컴퓨터 사용은 지속적으로 실행되는 에이전트를 프로그래머에서 엑셀, 블렌더, CAD, 파워 BI, 브라우저를 사용하는 일반적인 지식 근로자로 확대한다.

킴은 오랫동안 엔비디아와 반도체 투자에 주목해 왔으며, 그의 뉴스레터 '키 컨텍스트'는 기술 투자 판단을 중심으로 다루고 최근 기사들은 AI 인프라에 긍정적인 입장을 보이고 있다.

따라서 '네 번째 기하급수적 성장'은 본질적으로 AI 컴퓨팅 파워 낙관론자들이 제시한 투자 가설이지, 이미 검증된 산업 법칙은 아니다. 다만 그 시점이 매우 미묘하다.

Astra 출시 전, 에이전트 패러다임은 '능력의 벽에 부딪혔다'는 회의론을 방금 겪었다. 짧은 작업은 점점 강력해졌지만, 장기적이고 여러 단계를 거치며 실제 소프트웨어 환경에 들어가면 신뢰성이 눈에 띄게 떨어졌고, 이는 앞서 언급한 컴퓨팅 파워 수요 정점에 대한 의구심으로 이어졌다. 에이전트의 능력 한계를 돌파하지 못하면 컴퓨팅 파워의 지속적 성장 스토리는 설득력을 잃는다.

Astra가 정말 이 한계를 돌파할 수 있을까?

인간 근무일 1일 = 에이전트 근무일 3.1일

AI 컴퓨팅 파워의 처음 세 차례 '기하급수적 성장'은 지난 몇 년간 사용 방식이 바뀔 때마다 사용자가 소비할 수 있는 연산량이 크게 증가한 것을 의미한다.

챗GPT는 추론을 처음으로 주류 시장에 가져왔고, 추론 모델은 단일 질문에 대해 기꺼이 더 긴 내부 계산을 수행하기 시작했다. 코딩 에이전트 단계에서는 간단한 명령 하나가 코드 읽기, 수정, 테스트, 오류 확인, 재수정의 연속 루프를 유발할 수 있게 되었다.

동시에 에이전트는 '사람은 하루 8시간만 일할 수 있다'는 물리적 한계를 넘어서기 시작했다.

9월 6일, 오픈AI는 내부 데이터를 공개했다. 올해 8월 중순까지 회사 연구원 중 50번째 백분위수에 해당하는 연구원은 코딩 에이전트를 사용해 공개 API 가격 기준으로 하루 600달러 이상에 해당하는 추론량을 소비했고, 90번째 백분위수 연구원은 하루 7000달러를 넘었다. 비즈니스 인사이더가 오픈AI 데이터를 집계한 바에 따르면, 7월 중앙값은 약 162달러에 불과해 한 달 조금 넘는 기간에 약 3.7배 증가한 셈이다. 그림: 8월 중순 기준, 오픈AI 연구 부서에서 인간 근무일 1일은 에이전트 근무일 3.1일에 해당하며, 연구원들이 하루 사용하는 추론량 중앙값은 API 가격 기준 600달러를 넘는다.

이는 내부 사용량을 API 가격으로 환산한 것으로, '사용자 1인당 추론 강도'에 더 가깝다.

6월 이전에는 오픈AI 연구 부서의 모든 에이전트 총 실행 시간이 연구원들의 근무 시간을 넘지 않았다. 8월 중순에는 인간 근무일 1일당 에이전트 근무일 3.1일에 해당하게 되었다. 점점 더 많은 연구원이 여러 에이전트를 동시에 실행하고 있다.

이는 에이전트 패러다임 이후, 한 명의 사용자 뒤에서 병렬로 작업할 수 있는 여러 '디지털 프로세스'가 나타나기 시작했으며, 더 이상 '인간 입력 속도'라는 물리적 한계에 제약을 받지 않는다는 뜻이다. 이제 한 사람이 서너 개의 에이전트를 계속 작동시키거나, 에이전트가 하위 에이전트를 만들도록 할 수도 있다.

컴퓨팅 파워 수요의 측정 단위는 따라서 다음과 같이 바뀔 수 있다. 사용자 한 명당 동시에 실행되는 에이전트 수와 이 에이전트들이 하루에 일하는 시간.

컴퓨터 사용이 작업 공간을 확장한다

코딩 에이전트가 빠르게 성장하고 있지만 여전히 명확한 경계가 있다. 여러 에이전트 작업을 실행하는 사람들은 대부분 여전히 프로그래머이며, 이들은 전 세계 지식 근로자 인구의 극히 일부에 불과하다.

컴퓨터 사용은 공간을 더욱 확장한다. Astra 출시 후 킴은 직접 테스트를 진행했다. 그는 이전에 블렌더 사용법을 몰랐기 때문에 Astra에게 우주왕복선을 조사하도록 시켰고, 블렌더를 열어 맥에서 3D 모델링을 완성하도록 했다. 약 10분 후 회전할 수 있는 모델이 만들어졌다.

일반 대화는 대략 '입력---추론---출력'을 따르고, 코딩 에이전트는 '코드 읽기---추론---수정---테스트---다시 추론'이 된다. 컴퓨터 사용은 '화면 보기---인터페이스 이해---행동을 결정---실행---결과 대기---재관찰---검증---오류 수정'으로 더욱 진화한다.

사람이 10분 걸리는 작업 하나에 AI 내부에서는 수십 차례의 시각적 이해, 추론, 도구 호출이 수반될 수 있다.

이 능력이 엑셀, 세일즈포스, SAP, 파워 BI, 포토샵, CAD, 그리고 다양한 기업 내부 시스템에 들어가면 잠재 사용자층은 컴퓨터 앞에 앉아 있는 거의 모든 지식 근로자로 확장된다.

이것이 킴이 말하는 '네 번째 수요'의 핵심이다.

코딩 에이전트는 프로그래머의 컴퓨터 시간을 소비하고자 하며, 컴퓨터 사용은 모든 사무직 근로자의 컴퓨터 시간을 소비하는 것을 목표로 한다.

하지만 지금까지 이는 여전히 가능성일 뿐이다.

오픈AI는 Astra 출시 후 컴퓨터 사용 작업량을 공개하지 않았고, 사용자 1인당 토큰 사용량, GPU 활용률, 추론 처리량에 대한 일별 곡선도 발표하지 않았다. 따라서 'Astra가 네 번째 컴퓨팅 파워 성장을 가져왔다'고 단정적으로 증명할 수는 없다.

컴퓨팅 파워가 정말 타이트해지기 시작했나?

Astra 출시 후, 텐센트 테크놀로지는 일부 개발자 커뮤니티에서 수치화하기 어렵지만 주목할 만한 피드백이 보고된 것을 확인했다. 지역과 계정에 따라 사용자 경험이 달라지기 시작한 것으로 보인다는 것이다.

아시아 태평양 지역의 일부 개발자들은 최근 챗GPT와 코덱스 응답이 느려졌고, 복잡한 작업의 안정성이 미국 계정에 비해 떨어진다고 보고했다. 커뮤니티에서는 이 경험을 '멍청해짐(dumbing down)'이라고 부른다.

적어도 일부는 완전히 주관적인 것만은 아니다.

9월 4일, 오픈AI 공식 상태 페이지는 아시아 태평양 지역 서비스 성능 저하를 보고했으며, 챗GPT, 워크, 코덱스 클라우드를 포함한 여러 제품에 영향을 미쳤다. 나흘 뒤 오픈AI는 엔비디아가 지원하는 데이터센터 운영사 Firmus와 다년 계약을 발표해 말레이시아의 두 데이터센터에서 전용 컴퓨팅 파워를 확보하기로 했다.

마찬가지로, 현재 오픈AI가 Astra로 인한 부하 증가 때문에 아시아 태평양 사용자에 대한 모델 추론 예산을 줄이거나 더 낮은 성능의 모델로 전환했다는 증거는 없다.

아시아 태평양 지역의 이른바 '멍청해짐' 현상에는 적어도 세 가지 요인이 섞여 있을 수 있다. 지역 인프라 및 라우팅 문제, 계정 수준의 위험 관리 및 속도 제한, 피크 시간대의 동적 리소스 스케줄링이다. 이는 사용자 측에서 느린 성능, 높은 실패율, 도구 호출 중단, 심지어 복잡한 작업의 최종 답변 품질 저하로 나타날 수 있다.

그러나 이 피드백은 AI 컴퓨팅 파워에 대한 압력을 관찰할 수 있는 또 다른 방법을 제공한다.

모델이 연산을 지속적으로 소비할 수 있는 능력이 커질수록 공급 부족 현상은 지역과 계정 간 지연 시간, 실패율, 서비스 품질의 변동으로 먼저 나타날 수 있다.

문제는 이 판단에 가장 중요한 데이터 세트가 아직 없다는 점이다.

동일 모델, 동일 요금제, 동일 작업에 대해 지역별로 첫 토큰 응답 시간, 총 추론 시간, 도구 성공률, 최종 작업 완료율에 안정적인 차이가 있는지 여부다.

이 데이터를 확보하기 전까지 '멍청해짐'은 컴퓨팅 파워 부족의 증거가 아니라 단서에 불과하다.

그림: 9월 8일, 한 사용자가 GPT-6 Astra에서 '용량이 가득 참'을 알리는 프롬프트를 공유하며 자신의 계정 4개 모두 정상 작동하지 못했고 시스템이 다른 모델로 전환할 것을 제안했다고 밝혔다. 티보는 리트윗에서 "we are so back"이라고 농담하며 '모델 과부하'를 AI 수요 재개 신호로 해석했다.

자본 시장이 다시 베팅을 시작했다

Astra 출시 후 실제 컴퓨팅 파워 사용 곡선은 공개되지 않았지만, 자본 시장은 이미 'AI 수요가 아직 정점에 이르지 않았다'는 스토리를 반영해 거래했다.

마켓워치는 Astra 출시 후 iShares 반도체 ETF가 약 3.5% 상승했고, 삼성, SK하이닉스, Kioxia 등 메모리 관련 기업들이 더 강한 상승세를 보였다고 보도했다. 외신들은 이번 시장 움직임을 Astra가 '메모리 칩 거래를 재점화했다'고 직접적으로 묘사하기도 했다.

주목할 점은 이번 상승에서 가장 눈에 띄는 것이 엔비디아가 아니라 메모리라는 사실이다.

컴퓨터 사용이 에이전트를 지속적으로 실행하는 지속적인 작업 부하가 된다면, 필요한 증가분은 GPU 컴퓨팅에만 국한되지 않는다. 더 긴 컨텍스트, KV 캐시, 동시에 실행되는 에이전트, 가상 머신, 브라우저, 소프트웨어 환경이 HBM, DRAM, CPU, 네트워킹, 스토리지에 대한 수요를 계속 끌어올릴 수 있다.

따라서 최근 자본 시장의 거래는 단순히 'GPT-6가 더 강력해졌다'는 것만은 아니다. 주요 논리는 여전히 더 똑똑한 모델이 사용자들이 더 많은 컴퓨팅을 기꺼이 구매하도록 이끌 것인가이다.

이것이 이번 AI 인프라 관련 스토리가 전통 소프트웨어와 가장 다른 점이기도 하다.

전통 소프트웨어는 최적화될수록 사용자 한 명이 필요로 하는 서버 자원이 줄어들 수 있다.

반대로 생성형 AI는 반대의 '제본스의 역설'을 보일 수 있다. 모델이 효율적이고 작업 성공률이 높을수록 사람들은 더 많은, 더 긴, 더 복잡한 작업을 AI에 위임하려 하며, 결국 총 컴퓨팅 파워 소비가 증가한다.

다만 신중해야 할 점은 자본 시장에도 나름의 '이해관계'가 있다는 것이다.

AI 인프라는 이전에 이미 한 차례 큰 상승과 조정을 겪었고, 반도체 주식도 올해 과열된 자본 지출과 클라우드 업체들의 잉여 현금 흐름 감소로 눈에 띄는 하락을 겪었다. 따라서 Astra가 가져온 며칠 동안의 반등은 투자자들이 다시 베팅을 시작했다는 신호일 뿐, 네 번째 컴퓨팅 파워 수요가 실제로 나타났다는 증거로는 부족하다.

경제적 계산

킴의 판단은 궁극적으로 세 가지 보다 실용적인 질문에 달려 있다.

첫 번째는 여전히 신뢰성 문제이다.

실제 비즈니스 운영은 일회성 시연이 아니다. 에이전트가 ERP, 재무 모델, 엔지니어링 소프트웨어를 몇 시간 동안 계속 운영하면서 팝업, 권한 변경, 데이터 업데이트가 발생해도 정확성을 유지할 수 있는지는 완전히 다른 질문이다.

두 번째는 비용이다.

앞으로 컴퓨터 사용 이전에 인간이 컴퓨터로 하던 1시간 분량의 작업을 완료하는 데 실제로 얼마가 들까?

AI가 직원이 50달러를 받고 하는 작업을 10달러에 완료할 수 있다면 수요는 쉽게 폭발할 수 있다. 100달러가 든다면 시장 잠재력은 완전히 달라진다.

오픈AI의 하루 600달러라는 수치는 에이전트가 막대한 수요를 창출할 수 있음을 보여주지만, 동시에 이 작업 방식이 오늘날에도 여전히 매우 비쌀 수 있음을 시사한다.

세 번째 질문: 컴퓨터 사용이 결국 자체 수요의 일부를 없앨 것인가?

현재 모델이 화면을 보고 버튼을 찾아야 하는 이유는 기존 소프트웨어가 사람을 위해 설계됐기 때문이다. 세일즈포스, 마이크로소프트, 어도비 또는 기업 내부 시스템이 API, MCP, 에이전트 인터페이스를 직접 개방하기 시작하면 많은 작업이 더 이상 마우스와 키보드 동작을 모방할 필요가 없어진다.

더 가능성이 높은 결과는 컴퓨터 사용과 도구 사용의 융합이다. 구조화된 인터페이스가 있는 경우에는 직접 호출하고, 인터페이스가 없거나 수정하기 어려운 구형 시스템에서는 시각적 조작을 계속하는 것이다.

따라서 컴퓨터 사용이 실제로 연 시장은 'AI가 영원히 인간처럼 컴퓨터를 클릭하게 만드는 것'이 아니라, '내 인간 주인이 내가 당신의 소프트웨어를 클릭하도록 승인했으니 당신은 나를 통제할 수 없다'는 방식을 통해 에이전트가 기존 애플리케이션 생태계를 돌파하는 것일 수 있다. 에이전트는 마침내 자동화가 이전에 다루지 못했던 마지막 대규모 작업 환경에 진입할 수 있게 된다.

이것이 킴이 '네 번째 기하급수적 성장'이라고 부르는 부분 중 진정으로 검증할 가치가 있는 부분이다. "컴퓨터 사용은 디딤돌인가, 아니면 정말 또 다른 패러다임 전환인가?"

GPT-6 이후, 에이전트가 벽에 부딪히면서 점점 더 설명하기 어려워졌던 컴퓨팅 파워 스토리가 다시 일관성을 갖게 됐는가?

자본 시장은 다시 베팅하기 시작했다.

생성형 AI 폭발 이후, 시장은 '컴퓨팅 파워 성장' 약세론자들의 얼굴을 계속 때리고 있다. 이번에는 다를까?