Para onde está a fluir o dinheiro na era da IA? Aula em Stanford de um sócio de uma importante empresa de PE

Apoorv Agrawal, sócio da Altimeter Capital, afirmou numa aula aberta na Universidade de Stanford que a atual indústria de IA apresenta uma estrutura de lucros em "pirâmide invertida", totalmente diferente da Internet tradicional. De cerca de 300 mil milhões de dólares de receitas do ecossistema, até 75% fluem para a camada de semicondutores, com margens brutas de cerca de 75%; já a camada de aplicações está limitada pelos elevados custos marginais de computação, com margens brutas entre 0% e 30%. Para resolver o atual gargalo de baixa receita por utilizador de apenas 10 dólares por utilizador por ano (ARPU), afirmou que a entrada de aplicações de IA como o ChatGPT no setor da publicidade será um ponto de viragem importante para a indústria este ano.

A "pirâmide invertida" de 300 mil milhões de dólares: 75% das receitas fluem para os semicondutores

Olhando para as revoluções da Internet, das comunicações móveis e da computação em nuvem dos últimos 25 anos, os seus modelos de monetização comercial assumem normalmente a forma de uma pirâmide — a infraestrutura de base tem margens de lucro relativamente baixas, enquanto a camada de aplicações no topo capta os lucros mais abundantes. No entanto, o atual ecossistema de IA apresenta uma forma totalmente oposta.

Agrawal afirmou diretamente na aula que o ecossistema de IA generativa é totalmente diferente do ecossistema de computação em nuvem do passado, apresentando uma "pirâmide invertida". Para explicar a lógica subjacente a este fenómeno, citou a visão do conhecido investidor de Silicon Valley Marc Andreessen para comparação:

"Como disse Marc Andreessen, o software está a devorar o mundo porque posso desenvolver software e distribuí-lo a milhões de pessoas, e o custo marginal de executar esse software é próximo de zero, com margens brutas das empresas de software de 80% ou mesmo 90%. Mas o modelo económico da inteligência artificial não é assim."

A raiz desta diferença está no custo de computação. "Os utilizadores adicionais das aplicações de inteligência artificial não são gratuitos, porque é necessário consumir muitos recursos de GPU; o custo de adquirir utilizadores de inteligência artificial é muito mais elevado." Agrawal salientou que, dos cerca de 300 mil milhões de dólares de novas receitas geradas pela indústria de IA nos últimos dois anos, "cerca de 75% fluíram diretamente para a indústria de semicondutores; o negócio de aplicações, embora tenha crescido mais de dez vezes, ainda não teve um impacto significativo."

Em toda a pilha tecnológica, a camada de semicondutores é atualmente a parte mais lucrativa. Agrawal apresentou uma comparação de margens de lucro muito impactante:

Catalisadores para quebrar o "estado de equilíbrio": ASICs próprios dos gigantes e ponto de viragem nas despesas de capital

Quanto à duração desta estrutura de "pirâmide invertida", dominada pela NVIDIA e em que a camada inferior absorve a maior parte dos lucros, o mercado está muito dividido. Agrawal deu a sua previsão: "Acho que pode manter-se no setor da nuvem no estado atual durante mais tempo do que eu esperava, cerca de dez anos. Sinto que esta situação pode durar ainda mais, porque é muito difícil atingir um estado de equilíbrio estável."

No entanto, também apontou aos investidores dois catalisadores centrais que podem quebrar esta estrutura:

Avanços dos gigantes da nuvem em chips próprios: Se o projeto ASIC de um operador de centros de dados em hiperescala alcançar um avanço — seja o TPU da Google, o MTIA da Meta, ou os projetos da Amazon e da Microsoft — isso pode ser um ponto de rutura. Se houver um progresso revolucionário, será a maior reavaliação de preços nessa camada.

Mudanças nas orientações de despesas de capital dos gigantes: Outro catalisador são as orientações de despesas de capital (Capex) dos operadores de centros de dados em hiperescala. Se os grandes gigantes deixarem de fazer previsões otimistas sobre as despesas de capital, isso pode significar que o atual estado de equilíbrio não está a funcionar.

Além disso, a mudança na estrutura da procura de capacidade de computação também merece grande atenção. Atualmente, cerca de 60% das GPUs vendidas pela NVIDIA são usadas para treino e 40% para inferência. Agrawal considera que "com o tempo, a quota das tarefas de inferência irá aumentar gradualmente", mas a carga de trabalho de inferência é extremamente instável, o que não só testará a utilização do hardware, como também remodelará o panorama competitivo da camada intermédia (camada intermédia de inferência).

A hipótese final de monetização da IA: "Temos de apostar na publicidade"

Na camada de aplicações, a IA de consumo, representada pelo ChatGPT, enfrenta a tensão entre uma enorme base de utilizadores e uma monetização ineficiente. Agrawal partilhou um conjunto de dados fundamentais: o ChatGPT tem cerca de mil milhões de utilizadores (equivalente à escala inicial do Facebook), mas "cerca de 95% dos utilizadores são gratuitos".

Comparando a receita média por utilizador (ARPU) dos atuais gigantes da Internet, a diferença das aplicações de IA é evidente:

[Alphabet] $100 / ano (cerca de 4 mil milhões de utilizadores) 

[Meta]  $70 / ano (cerca de 3,5 mil milhões de utilizadores)

[ChatGPT]    $10 / ano (cerca de mil milhões de utilizadores)

Depois de excluir a possibilidade de um modelo de subscrição baseado apenas em trabalho de conhecimento poder sustentar uma avaliação de triliões, Agrawal lançou a sua previsão final sobre o modelo de comercialização da IA: "A segunda questão é: como podemos aumentar a receita de 10 dólares por utilizador por ano para 100 dólares? Não tenho a certeza se apenas publicidade e subscrições são viáveis. A resposta é que temos de apostar na publicidade."

Ele considera que os grandes modelos de IA têm vantagens naturais na colocação de publicidade:

Preços mais favoráveis: Os grandes modelos conseguem compreender com maior precisão a verdadeira intenção dos utilizadores.

Excelente análise de atribuição: Conseguem rastrear com precisão os caminhos de conversão.

Maior confiança: A interação conversacional gera uma forte confiança por parte dos utilizadores.

Embora o mercado seja pessimista ou cético quanto à "introdução de publicidade em conversas privadas de IA", Agrawal compara isso aos argumentos de há dez anos, quando o mercado estava pessimista quanto à publicidade móvel do Facebook. "Acho que isto será outro grande acontecimento este ano, será definitivamente algo importante... Estou otimista de que encontraremos uma resposta, e isto será um grande avanço para o modelo económico existente."