유명 PE 파트너 스탠퍼드 강의: AI 시대의 자금은 과연 어디로 흘러갔는가?

Altimeter Capital 파트너 Apoorv Agrawal은 스탠퍼드 대학교 공개 강의에서 현재 AI 산업이 전통적인 인터넷과는 완전히 다른 '역피라미드' 수익 구조를 보이고 있다고 지적했다. 약 3,000억 달러 규모의 생태계 수익 중 무려 75%가 매출총이익률 약 75%인 반도체 계층으로 흘러갔으며, 응용 계층은 높은 한계 컴퓨팅 비용에 발목이 잡혀 매출총이익률이 0%에서 30%에 불과하다. 사용자당 연간 수익(ARPU)이 약 10달러에 불과한 저수익 병목 현상을 해결하기 위해, 그는 ChatGPT와 같은 AI 응용 프로그램이 광고 분야에 진출하는 것이 올해 업계의 중대한 돌파구가 될 것이라고 단언했다.

3,000억 달러의 '역피라미드': 수익의 75%가 반도체로 흘러갔다

지난 25년간의 인터넷, 모바일 통신, 클라우드 컴퓨팅 혁명을 돌아보면, 그 비즈니스 수익화 모델은 일반적으로 피라미드 형태를 띠었다. 하부 인프라의 이익은 상대적으로 미미한 반면, 최상위 응용 계층이 가장 풍부한 이익을 가져갔다. 그러나 현재 AI 생태계는 이와 정반대의 양상을 보이고 있다.

Agrawal은 강의에서 생성형 AI 생태계가 과거의 클라우드 컴퓨팅 생태계와는 완전히 다르며 '역피라미드'를 나타낸다고 직설적으로 말했다. 이러한 현상의 근본적인 논리에 대해 그는 실리콘밸리의 저명한 투자자 마크 앤드리슨(Marc Andreessen)의 견해를 인용하여 비교했다.

"마크 앤드리슨이 말했듯이, 소프트웨어가 세상을 집어삼키는 이유는 소프트웨어를 개발하여 수백만 명에게 배포할 수 있고, 이를 실행하는 한계 비용이 거의 0에 가까워 소프트웨어 기업의 매출총이익률이 80%에서 90%에 달하기 때문입니다. 하지만 인공지능의 경제 모델은 그렇지 않습니다."

이러한 차이의 근원은 컴퓨팅 비용에 있다. "인공지능 응용 프로그램의 추가 사용자는 공짜가 아닙니다. 막대한 GPU 자원을 소비해야 하므로 AI 사용자를 확보하는 비용이 훨씬 높습니다." Agrawal은 지난 2년간 AI 산업에서 새로 창출된 약 3,000억 달러의 수익 중 "약 75%가 반도체 산업으로 직접 흘러갔으며, 응용 비즈니스는 10배 이상 성장했지만 여전히 큰 영향을 미치지 못했습니다."라고 지적했다.

전체 기술 스택에서 반도체 계층은 현재 가장 수익성이 높은 부분이다. Agrawal은 충격적인 매출총이익률 비교를 제시했다.

'균형 상태'를 깨는 촉매제: 거대 기업의 자체 ASIC 개발과 자본 지출 전환점

엔비디아가 주도하고 하부 계층이 대부분의 이익을 가져가는 이러한 '역피라미드' 구도가 얼마나 오래 지속될지에 대해 시장의 의견은 크게 엇갈린다. Agrawal은 자신의 예측을 다음과 같이 밝혔다. "클라우드에서 현재 상태가 제가 예상했던 것보다 더 오래, 약 10년 정도 유지될 것 같습니다. 안정적인 균형 상태에 도달하는 것이 너무 어렵기 때문에 이 상황이 더 오래 지속될 수도 있다고 생각합니다."

하지만 그는 투자자들을 위해 이 구도가 깨질 수 있는 두 가지 핵심 촉매제를 제시했다.

클라우드 거대 기업들의 자체 칩 개발 돌파구: 특정 하이퍼스케일 데이터 센터 운영업체의 ASIC 프로젝트가 돌파구를 마련한다면—구글의 TPU, 메타의 MTIA, 아마존, 마이크로소프트의 프로젝트 등—이것이 돌파구가 될 수 있다. 획기적인 진전이 있다면 이 계층에서 가장 큰 재평가가 일어날 것이다.

거대 기업 자본 지출 가이던스의 변화: 또 다른 촉매제는 하이퍼스케일 데이터 센터 운영업체의 자본 지출(Capex) 가이던스다. 각 거대 기업이 자본 지출에 대한 대폭적인 전망을 제시하지 않는다면, 이는 현재의 균형 상태가 더 이상 유효하지 않다는 신호일 수 있다.

또한 컴퓨팅 수요 구조의 전환도 주목할 만하다. 현재 엔비디아가 판매하는 GPU 중 약 60%는 훈련용, 40%는 추론용으로 사용된다. Agrawal은 "시간이 지남에 따라 추론 작업의 비중이 점차 증가할 것"이라고 보지만, 추론 작업의 워크로드는 매우 불안정하여 하드웨어 활용도를 시험할 뿐만 아니라 중간 계층(추론 중간 계층)의 경쟁 구도도 재편할 것이라고 전망했다.

AI 수익화의 궁극적인 가설: "우리는 광고 분야에 진출해야 합니다"

응용 측면에서 ChatGPT로 대표되는 소비자용 AI는 막대한 사용자 수와 낮은 수익화 효율성 사이의 모순에 직면해 있다. Agrawal은 핵심 데이터를 공유했다. ChatGPT는 약 10억 명의 사용자를 보유하고 있지만(페이스북 초기와 비슷한 규모), "약 95%의 사용자가 무료 사용자"라고 한다.

현재 인터넷 거대 기업들의 사용자당 연간 수익(ARPU)과 비교하면 AI 응용 프로그램의 격차는 명백하다.

[Alphabet] $100 / 연 (약 40억 사용자) 

[Meta]  $70 / 연 (약 35억 사용자)

[ChatGPT]    $10 / 연 (약 10억 사용자)

지식 기반 업무 구독 모델만으로는 1조 달러 규모의 기업 가치를 뒷받침할 수 없다는 가능성을 배제한 후, Agrawal은 AI 상업화 모델에 대한 궁극적인 예측을 내놓았다. "두 번째 질문은 이것입니다. 사용자당 연간 10달러의 수익을 어떻게 100달러로 끌어올릴 수 있을까요? 광고와 구독만으로 가능할지 확신할 수 없습니다. 답은, 우리가 광고 분야에 진출해야 한다는 것입니다."

그는 AI 대형 모델이 광고 게재에 있어 타고난 강점을 가지고 있다고 본다.

더 저렴한 가격: 대형 모델은 사용자의 실제 의도를 더 정확하게 이해할 수 있다.

뛰어난 어트리뷰션 분석: 전환 경로를 정확하게 추적할 수 있다.

더 높은 신뢰도: 대화형 상호작용이 강력한 사용자 신뢰를 구축한다.

시장이 '개인 AI 대화에 광고를 삽입하는 것'에 대해 비관적이거나 회의적인 태도를 보이고 있지만, Agrawal은 이를 10년 전 시장이 페이스북의 모바일 광고를 부정적으로 보았던 논리와 유사하다고 비유했다. "이것이 올해 또 다른 큰 뉴스가 될 것이라고 생각하며, 이는 분명히 큰 사건이 될 것입니다... 우리가 해답을 찾을 것이라고 낙관하며, 이는 기존 경제 모델에 대한 중대한 돌파구가 될 것입니다."