Où va l'argent à l'ère de l'IA ? Le cours de Stanford d'un associé de PE renommé

Apoorv Agrawal, associé chez Altimeter Capital, a déclaré lors d'un cours public à l'Université Stanford que l'industrie actuelle de l'IA présente une structure de rentabilité en « pyramide inversée », radicalement différente de celle de l'Internet traditionnel. Sur environ 300 milliards de dollars de revenus de l'écosystème, jusqu'à 75 % vont à la couche des semi-conducteurs, dont la marge brute est d'environ 75 % ; la couche applicative, quant à elle, est contrainte par des coûts marginaux de calcul élevés, avec des marges brutes comprises entre 0 % et 30 %. Pour briser le goulot d'étranglement actuel d'un faible revenu de seulement 10 dollars par utilisateur et par an (ARPU), il affirme que l'entrée d'applications d'IA comme ChatGPT dans le domaine de la publicité sera une percée majeure pour l'industrie cette année.

La « pyramide inversée » de 300 milliards de dollars : 75 % des revenus vont aux semi-conducteurs

En rétrospective des révolutions de l'Internet, des communications mobiles et du cloud computing au cours des 25 dernières années, leurs modèles de monétisation prenaient généralement la forme d'une pyramide : les infrastructures de base généraient des profits relativement minces, tandis que la couche applicative au sommet captait les profits les plus importants. Cependant, l'écosystème actuel de l'IA présente une forme radicalement opposée.

Agrawal a déclaré sans détour dans son cours que l'écosystème de l'IA générative est radicalement différent de l'écosystème du cloud computing du passé, et qu'il présente une « pyramide inversée ». Pour expliquer la logique sous-jacente de ce phénomène, il a cité le point de vue de Marc Andreessen, investisseur renommé de la Silicon Valley, à titre de comparaison :

« Comme l'a dit Marc Andreessen, le logiciel dévore le monde parce que je peux développer un logiciel et le distribuer à des millions de personnes, avec un coût marginal d'exécution proche de zéro, et les marges brutes des entreprises de logiciels atteignent 80 %, voire 90 %. Mais l'économie de l'intelligence artificielle n'est pas ainsi. »

La racine de cette différence réside dans le coût de la puissance de calcul. « Les utilisateurs supplémentaires des applications d'IA ne sont pas gratuits, car vous devez consommer d'énormes ressources GPU, et le coût d'acquisition d'utilisateurs d'IA est beaucoup plus élevé. » Agrawal a souligné qu'au cours des deux dernières années, sur les quelque 300 milliards de dollars de revenus nouvellement générés par l'industrie de l'IA, « environ 75 % sont allés directement à l'industrie des semi-conducteurs ; les activités applicatives ont certes été multipliées par plus de dix, mais n'ont toujours pas eu un impact significatif. »

Dans l'ensemble de la pile technologique, la couche des semi-conducteurs est actuellement la plus rentable. Agrawal a fourni une comparaison de marges bénéficiaires percutante :

Les catalyseurs pour briser l'« état d'équilibre » : les ASIC développés en interne par les géants et le point d'inflexion des dépenses d'investissement

La question de savoir combien de temps durera cette structure de « pyramide inversée », dominée par NVIDIA et où la couche inférieure capte la majeure partie des profits, divise fortement le marché. Agrawal a donné sa propre prévision : « Je suppose que cela pourrait rester dans l'état actuel dans le cloud plus longtemps que je ne l'aurais prévu, environ dix ans. J'ai le sentiment que cela pourrait durer encore plus longtemps, car atteindre un état d'équilibre stable est vraiment trop difficile. »

Cependant, il a également indiqué aux investisseurs deux catalyseurs essentiels à surveiller qui pourraient briser cette structure :

Percée des géants du cloud dans les puces développées en interne : Si le projet ASIC d'un opérateur de centres de données à très grande échelle réalise une percée — qu'il s'agisse des TPU de Google, des MTIA de Meta, ou des projets d'Amazon et de Microsoft — cela pourrait constituer un point de rupture. En cas de progrès décisif, ce serait la plus grande revalorisation à ce niveau.

Changement dans les prévisions de dépenses d'investissement des géants : Un autre catalyseur est la prévision des dépenses d'investissement (Capex) des opérateurs de centres de données à très grande échelle. Si les grands acteurs cessent de faire des prévisions ambitieuses en matière de dépenses d'investissement, cela pourrait signifier que l'état d'équilibre actuel ne fonctionne plus.

En outre, le basculement de la structure de la demande en puissance de calcul mérite également une attention particulière. Actuellement, environ 60 % des GPU vendus par NVIDIA sont utilisés pour l'entraînement et 40 % pour l'inférence. Agrawal estime qu'« avec le temps, la part des tâches d'inférence augmentera progressivement », mais que la charge de travail des tâches d'inférence est extrêmement instable, ce qui mettra à l'épreuve non seulement l'utilisation du matériel, mais aussi remodelera le paysage concurrentiel de la couche intermédiaire (couche d'inférence).

La conjecture ultime sur la monétisation de l'IA : « Nous devons entrer dans le domaine de la publicité »

Du côté des applications, les IA grand public, représentées par ChatGPT, sont confrontées à la contradiction entre un grand nombre d'utilisateurs et une monétisation inefficace. Agrawal a partagé un ensemble de données clés : ChatGPT compte environ 1 milliard d'utilisateurs (équivalent à l'échelle des débuts de Facebook), mais « environ 95 % des utilisateurs sont des utilisateurs gratuits ».

En comparant le revenu annuel par utilisateur (ARPU) des géants actuels de l'Internet, l'écart des applications d'IA est évident :

[Alphabet] 100 $ / an (environ 4 milliards d'utilisateurs) 

[Meta]  70 $ / an (environ 3,5 milliards d'utilisateurs)

[ChatGPT]    10 $ / an (environ 1 milliard d'utilisateurs)

Après avoir exclu la possibilité qu'un modèle d'abonnement purement axé sur le travail intellectuel puisse soutenir une valorisation de mille milliards de dollars, Agrawal a lancé sa prédiction ultime sur le modèle de commercialisation de l'IA : « La deuxième question est : comment faire passer le revenu de 10 dollars par utilisateur et par an à 100 dollars ? Je ne suis pas sûr que la publicité et les abonnements seuls suffisent. La réponse est que nous devons entrer dans le domaine de la publicité. »

Il estime que les grands modèles d'IA possèdent des avantages naturels pour la diffusion publicitaire :

Des prix plus avantageux : Les grands modèles peuvent comprendre plus précisément les intentions réelles des utilisateurs.

Une excellente analyse d'attribution : Ils peuvent suivre avec précision les chemins de conversion.

Une plus grande confiance : Les interactions conversationnelles établissent une forte confiance des utilisateurs.

Bien que le marché soit pessimiste ou sceptique quant à l'« insertion de publicités dans les conversations privées d'IA », Agrawal établit une analogie avec les arguments baissiers sur la publicité mobile de Facebook il y a dix ans. « Je pense que ce sera une autre grande nouvelle cette année, ce sera absolument un événement majeur... Je suis optimiste quant au fait que nous trouverons une réponse, et ce sera une percée majeure par rapport au modèle économique actuel. »