Jensen Huang évoque à nouveau les risques de l'IA : de nombreuses prédictions sont fabriquées, la Chine deviendra une force majeure de l'open source mondial

Auteur : Helen Li

Éditeur : Xu Qingyang

Le 14 septembre, heure locale des États-Unis, lors de l'événement en présentiel All-In Summit 2026 organisé par le célèbre podcast technologique All-In Podcast, le PDG de Nvidia, Jensen Huang, a discuté avec quatre animateurs de sujets tels que la sécurité de l'IA, les prédictions apocalyptiques sur l'IA, l'auto-amélioration récursive, les modèles open source et l'AGI.

Les quatre animateurs sont également cofondateurs du All-In Podcast : l'investisseur providentiel Jason Calacanis, l'ancien cadre de Facebook Chamath Palihapitiya, le membre clé de la « mafia PayPal » David Sacks, ainsi que le PDG de la société de biotechnologie agricole Ohalo Genetics et de la société d'investissement The Production Board, David Friedberg.

L'entretien a exploré une question centrale : quelles frontières de sécurité le développement de l'IA nécessite-t-il ? Concernant les récentes discussions du PDG d'Anthropic, Dario Amodei, sur la sécurité de l'IA, et les appels des laboratoires de premier plan à « ralentir », Jensen Huang estime que sécurité et innovation ne sont pas contradictoires. Il a déclaré que les incidents de sécurité survenus doivent être analysés comme des problèmes d'ingénierie et contrôlés par la technologie, les processus et les tests.

Face aux fréquentes « prédictions apocalyptiques » sur l'IA de ces dernières années, Jensen Huang a cité des jugements qui se sont déjà révélés inexacts, comme « les radiologues seront remplacés par l'IA », « 90 % du code sera généré par l'IA à court terme », « 50 % des emplois de premier échelon vont bientôt disparaître ». Il estime que ces prédictions manquent de fondement scientifique suffisant et ne devraient pas être utilisées pour semer la panique sociale.

En parlant de l'auto-amélioration récursive (RSI), Jensen Huang a déclaré que la RSI n'est pas une technologie mystérieuse apparue soudainement, mais une combinaison de technologies existantes telles que le contexte, l'apprentissage par renforcement, les données synthétiques et LoRA.

Quant au débat entre modèles open source et modèles propriétaires, il a clairement indiqué que les deux sont indispensables, et estime que la Chine, avec son grand nombre d'ingénieurs et de talents en sciences et en mathématiques, pourrait devenir à l'avenir un contributeur important de l'écosystème open source mondial.

La conversation s'est ensuite orientée vers « l'AGI et la superintelligence ». Interrogé sur le fait de savoir si le critère de l'AGI est d'atteindre le niveau de l'intelligence humaine et si cette étape est déjà atteinte, Jensen Huang a répondu brièvement : « C'est déjà atteint. »

Voici la transcription condensée du dernier entretien de Jensen Huang, organisée sans en altérer le sens :

01 La sécurité de l'IA ne doit pas s'opposer à l'innovation

Question : Les discussions sur la sécurité de l'IA se multiplient ces derniers temps. Dario Amodei a publié un article sur la sécurité de l'IA, et l'ancien chercheur d'Anthropic, Jacob Cockson, a également quitté l'entreprise pour des questions connexes. Que pensez-vous de ces événements ?

Jensen Huang : La sécurité doit être prise au sérieux, mais sécurité et leadership ne sont pas incompatibles. Nous pouvons innover rapidement, exécuter rapidement, et permettre aux États-Unis de rester en tête tout en assurant la sécurité. Considérer ces deux aspects comme des choix mutuellement exclusifs est en soi une erreur.

Cockson a eu le courage de parler publiquement de ces questions, ce qui demande du courage. En tant que lanceur d'alerte, il a le droit de le faire, mais je pense que ses jugements scientifiques ultérieurs sur l'avenir manquent de fondement scientifique suffisant, car ces prédictions ne reposent pas sur de véritables recherches scientifiques.

De nombreux laboratoires de premier plan sont en train de passer d'institutions de recherche à institutions d'ingénierie, et la recherche et l'ingénierie sont fondamentalement différentes. Si des problèmes de contrôle ou de gestion surviennent pendant cette transition, c'est une autre affaire. Quant à ce que Cockson a réellement vu, je ne le sais pas.

Question : Ces dernières années, l'industrie de l'IA a vu apparaître de nombreuses prédictions très pessimistes, comme « l'IA pourrait détruire l'humanité, provoquer un chômage de masse ». Que pensez-vous de ces affirmations ?

Jensen Huang : Je pense que nous ne devrions pas coller facilement des étiquettes comme « probabilité d'extinction de l'humanité » ou « destruction de la civilisation » à ces choses, car beaucoup d'entre elles sont en réalité fabriquées. Lorsque vous étiquetez quelqu'un comme chercheur ou scientifique, puis que vous lancez une prédiction sensationnelle, il est facile de provoquer la panique du public, et je pense que c'est irresponsable.

Nous avons vu beaucoup de prédictions de ce genre par le passé. Certains ont prédit que les radiologues seraient complètement remplacés par l'IA dans cinq ans, et qu'on n'aurait plus besoin de radiologues à l'avenir. La réalité est que le monde a besoin de plus de radiologues ; l'IA est effectivement utilisée pour l'analyse d'images médicales, mais cela n'a rien à voir avec la « disparition des radiologues ».

D'autres ont prédit que « dans les 6 à 12 prochains mois, 90 % du code sera généré par l'IA, et 50 % des emplois de premier échelon disparaîtront dans les 6 à 9 mois ». En fait, aucune de ces prédictions ne s'est réalisée. Auparavant, certains disaient aussi que « GPT-2 et Llama 3 étaient trop dangereux pour être publiés », ou prédisaient que « la moitié des emplois de bureau disparaîtraient l'année suivante », ou encore que la soi-disant « fin de l'emploi » était imminente.

Je pense que ces prédictions devraient être consignées. Des années plus tard, en regardant en arrière, nous saurons lesquelles étaient correctes et lesquelles ne faisaient que semer la panique.

Question : Vous pensez donc que les problèmes de sécurité de l'IA devraient être traités davantage comme des problèmes d'ingénierie ?

Jensen Huang : Si un incident de sécurité survient, nous devrions d'abord effectuer une analyse des causes racines du point de vue de l'ingénierie, comprendre ce qui s'est passé, où se situe le problème, quelles mesures peuvent être prises pour éviter que cela ne se reproduise, puis transformer ces mesures en contrôles systémiques, procéduraux et techniques.

Je crois que ces entreprises font déjà ces choses, notamment de meilleurs bacs à sable, des environnements d'exécution plus stricts, une surveillance améliorée et des systèmes de surveillance continue. Je parierais même que ces problèmes peuvent être contrôlés et prévenus.

Si une entreprise d'ingénierie ne sait vraiment pas ce qui s'est passé ni comment le contrôler, on peut envoyer des ingénieurs pour les aider. Mais je ne pense pas qu'on en arrive là. Ces laboratoires comptent des talents exceptionnels, et je crois qu'ils ont déjà analysé les problèmes concernés et pris les mesures appropriées.

Question : Si les problèmes de sécurité de l'IA nécessitent une régulation, par où celle-ci devrait-elle commencer ?

Jensen Huang : La régulation devrait cibler les problèmes réels. Les problèmes qui méritent vraiment l'attention proviennent surtout des laboratoires d'IA de premier plan, car ils disposent des plus grandes ressources de calcul et traitent les questions les plus avancées. Un lycéen ou une start-up ordinaire n'aura probablement pas assez de puissance de calcul pour créer ces problèmes.

Ces laboratoires passent de la recherche à l'ingénierie, tout en construisant des entreprises, des cultures, des technologies et des produits, ce qui n'est pas un processus facile. Il faut donc s'intéresser à la manière dont ils construisent des systèmes d'ingénierie plus complets pour garantir que le développement et les tests des technologies soient suffisamment sûrs.

Question : Faut-il des organismes d'évaluation indépendants ?

Jensen Huang : Je pense qu'il peut y avoir plusieurs organismes d'évaluation et d'audit. Ils n'ont pas besoin de tout savoir, mais ils doivent savoir quelles questions poser. C'est un peu comme l'audit financier. S'il n'y a qu'un seul organisme d'évaluation, il peut être influencé ; s'il y en a plusieurs, ils peuvent se contrebalancer.

02 L'« auto-amélioration récursive » n'est pas si mystérieuse

Question : Les discussions sur l'auto-amélioration récursive se multiplient, c'est-à-dire l'IA qui génère des données, s'auto-entraîne et accélère sans cesse. Qu'en pensez-vous ?

Jensen Huang : Je pense que « l'auto-amélioration récursive » est une nouvelle étiquette populaire récemment, mais derrière elle se cache en réalité une combinaison de nombreuses technologies existantes, notamment le contexte, les compétences, la réflexion, l'apprentissage par renforcement, la génération de données synthétiques et LoRA.

Ces méthodes permettent effectivement à l'IA d'accumuler de l'expérience au cours de l'exécution de tâches, puis de s'améliorer continuellement. Par exemple, grâce aux données synthétiques et à l'apprentissage par renforcement, on peut améliorer les capacités d'un modèle sans réentraîner entièrement le modèle de base, et l'expérience accumulée peut ensuite être utilisée pour entraîner le modèle de base. Je crois que presque toutes les entreprises utilisent certaines de ces technologies.

Le terme « auto-amélioration récursive » peut donner l'impression que le système deviendra totalement incontrôlable, mais en réalité, les produits doivent encore passer par l'évaluation, les nouveaux tests et les tests de régression avant leur publication, ce sont les contrôles d'ingénierie les plus élémentaires.

Ces laboratoires de premier plan passent d'institutions de recherche à institutions d'ingénierie, et je crois qu'ils disposeront à l'avenir de meilleures méthodes, connaissances, pratiques, outils et technologies pour contrôler, vérifier et évaluer ces systèmes. L'auto-amélioration récursive peut se produire en interne, mais les produits validés peuvent toujours être publiés en toute sécurité.

Question : Que pensez-vous de la relation entre les modèles open source et les modèles propriétaires ?

Jensen Huang : Le monde a besoin à la fois de modèles open source et de modèles propriétaires. J'utilise moi-même des modèles propriétaires de pointe. Ils ressemblent un peu à de l'eau en bouteille ; l'eau elle-même est gratuite, mais différentes formes de produits peuvent répondre à différents besoins.

Les modèles open source sont très importants pour la souveraineté, la confidentialité et les technologies propriétaires des entreprises. Au cours des six derniers mois, environ 400 milliards de dollars de capital-risque ont afflué vers les entreprises natives de l'IA, dont environ 80 % utilisent des modèles open source. Sans modèles open source, de nombreuses start-ups ne pourraient pas atteindre leurs objectifs, car ce qu'elles veulent faire diffère de ce que font les laboratoires de premier plan.

Le véritable avantage des États-Unis réside dans la diversité des formes d'innovation. Pour gagner la course à l'IA, nous devons permettre le développement des modèles open source.

Gagner la course à l'IA ne signifie pas seulement que quelques entreprises américaines gagnent, mais que les entreprises, les industries, les chercheurs, les éducateurs, les étudiants et les entrepreneurs américains puissent tous saisir les opportunités offertes par cette technologie. Certains utiliseront des modèles propriétaires, beaucoup utiliseront des modèles open source, les deux sont nécessaires.

Question : Pensez-vous que la Chine deviendra un contributeur important de l'écosystème open source mondial ?

Jensen Huang : Je crois que la Chine pourrait contribuer de manière substantielle à l'écosystème open source mondial. La Chine compte un grand nombre d'ingénieurs, ainsi que de nombreux étudiants en sciences et en mathématiques ; des universités de premier plan comme Tsinghua forment chaque année de nombreux talents exceptionnels.

Par exemple, les ingénieurs chinois ont contribué à Linux, Kubernetes (système d'orchestration de conteneurs open source) et à de nombreux projets logiciels. Une caractéristique de l'open source est qu'une fois que vous l'avez téléchargé, il vous appartient ; vous pouvez continuer à le modifier, l'optimiser et en faire votre propre chose.

La course à l'IA se résume en fin de compte à qui saura le mieux utiliser cette technologie. Dans le passé, de nombreuses inventions importantes de la révolution industrielle venaient d'Europe, mais les États-Unis ont ensuite bien su exploiter ces technologies. J'espère que la prochaine révolution industrielle se déroulera de manière similaire.

Je pense que le débat en Chine est plus pragmatique, davantage axé sur le développement économique et le progrès social, plutôt que sur des discussions incessantes sur l'apocalypse ou la destruction de la civilisation. Si ces prédictions apocalyptiques étaient fondées, nous devrions bien sûr en discuter et y faire face, mais il n'est pas nécessaire de semer la panique. Notre travail est de les faire advenir.

Question : Si l'IA finit par automatiser une grande partie du travail de programmation, que restera-t-il aux ingénieurs ?

Jensen Huang : Le travail d'ingénierie existera toujours. Ma génération d'ingénieurs, à une époque où les logiciels n'étaient pas encore répandus, ne passait pas beaucoup de temps à écrire du code. Aujourd'hui, les ingénieurs logiciels passent beaucoup de temps à coder ; à l'avenir, si une grande partie de ce travail est automatisée, les humains continueront à faire du travail d'ingénierie. Une de mes habitudes est que ma touche de clavier préférée est la touche Retour arrière, car le meilleur logiciel signifie souvent moins de code.

03 Pourquoi Nvidia est profondément impliquée dans la chaîne industrielle de l'IA

Question : Le gouvernement américain a d'abord mis l'accent sur l'emploi, la réindustrialisation, l'énergie et les chaînes d'approvisionnement. Ces choses sont effectivement en train de se produire. Nvidia est devenue un important fournisseur de capitaux pour toute l'industrie de l'IA. Comment décidez-vous de l'orientation de l'allocation des ressources ?

Jensen Huang : L'IA est une nouvelle révolution industrielle. Cette industrie comprend de nombreux composants, comme les modèles, les puces, les applications, les centres de données, les bâtiments, l'électricité et les installations de production d'énergie. J'observe constamment l'ensemble de l'écosystème pour identifier les goulots d'étranglement.

Si une très bonne entreprise est limitée par un maillon, je m'intéresse à ce problème. Cela peut être la chaîne d'approvisionnement, ou le foncier, l'électricité ou les usines. Nvidia a atteint une taille suffisante, nous devons donc penser à la chaîne d'approvisionnement plusieurs années à l'avance. Des entreprises comme Corning, Lumentum, TSMC et les fournisseurs de mémoire sont des entreprises que nous devons suivre à long terme.

Question : Certains pensent que la majeure partie des profits de l'industrie de l'IA finira par se déplacer vers la couche applicative. Pourquoi Nvidia s'aventure-t-elle dans les modèles et des domaines de niveau supérieur comme Hugging Face ?

Jensen Huang : Nvidia peut exécuter presque tous les modèles du monde. Il y a environ un an et demi, on parlait surtout des modèles d'OpenAI, mais maintenant il y a Muse de Meta, Grok, Gemini, Anthropic et bien d'autres modèles. De nombreux laboratoires d'IA de premier plan sont construits sur la plateforme de Nvidia.

Notre stratégie est d'aider tout le monde à réussir, plutôt que de reprendre les activités des autres. Nous restons autant que possible au bas de la pile technologique, et ne montons que lorsque c'est nécessaire. CUDA prend en charge un grand nombre de frameworks, Megatron et Megatron Core prennent en charge l'entraînement à grande échelle. Nous inventons les technologies nécessaires, puis laissons tout l'écosystème se développer et davantage d'entreprises participer.

Question : Pourquoi les fournisseurs de services cloud régionaux deviennent-ils de plus en plus importants ?

Jensen Huang : Les fournisseurs de services cloud régionaux sont généralement plus flexibles que les grands fournisseurs de cloud hyperscale, car ils peuvent trouver localement du foncier, de l'électricité et des usines, et comprennent mieux les besoins locaux.

À l'avenir, un réseau d'entreprises distribué se formera, et de plus en plus de pays considéreront l'IA comme une industrie stratégique. Nous avons déjà vu certaines régions commencer à accroître leurs infrastructures de calcul pour l'IA.

Question : Nvidia développe actuellement ses propres modèles open source, notamment dans les domaines de la conduite autonome et de la biomédecine. Pourquoi faire cela ?

Jensen Huang : Parce que les clients en ont besoin. Nous avons la capacité de faire de notre mieux, alors nous le faisons. Par exemple, Alpamayo, notre modèle de conduite autonome. C'est un système de conduite autonome doté de capacités de raisonnement. Auparavant, la conduite autonome nécessitait des milliards d'heures de données routières, mais la capacité de raisonnement permet au système de réfléchir à des situations similaires, réduisant ainsi la dépendance à de grandes quantités de données routières réelles.

L'avenir de la conduite autonome ne concerne pas seulement les voitures particulières, mais aussi les équipements agricoles, les camions, les fourgonnettes et de nombreux autres équipements mobiles. De nombreuses entreprises ne disposent pas d'une pile technologique complète ; Nvidia peut donc fournir une pile technologique complète, et les clients peuvent effectuer les ajustements de dernière minute selon leurs besoins.

Il en va de même pour la biomédecine. Nous avons développé ESM2, ESMFold, OpenFold, AlphaFold 2 ainsi que certains modèles équivariants et Protein Complexa (un cadre d'IA générative pour les complexes protéiques tout atome), parce que les sociétés pharmaceutiques ont réellement besoin de ces technologies. Mon point de départ est toujours : quelqu'un a besoin de cette technologie, alors nous la faisons.

04 La Terafab de Musk

Question : Musk a annoncé le projet d'usine de puces Terafab, d'une très grande envergure. Qu'en pensez-vous ?

Jensen Huang : Nvidia connaît très bien les technologies de fabrication, et nous repoussons sans cesse les limites de la fabrication, donc nous pouvons bien sûr en discuter. Une fois que Musk décide de faire quelque chose, il est difficile de l'arrêter, c'est aussi son superpouvoir.

Question : Nvidia pourrait-elle donc à l'avenir produire des puces dans son usine ?

Jensen Huang : Nous pouvons en discuter.

Question : Si l'AGI est définie comme l'atteinte du niveau de l'intelligence humaine, pensez-vous que nous sommes déjà entrés dans cette phase ? Et la superintelligence ?

Jensen Huang : Nous l'avons déjà atteinte, et on peut même dire que dans certains domaines spécifiques, nous sommes déjà entrés dans la phase de la superintelligence.

Question : Pourquoi ?

Jensen Huang : Parce que dans certains domaines très spécifiques, l'IA a déjà dépassé les humains. La conduite autonome en est un exemple. Si une voiture peut conduire mieux qu'un humain, alors dans le domaine de la conduite, c'est de la superintelligence.

Actuellement, le taux d'accidents des systèmes de conduite autonome peut atteindre un dixième de celui des humains. Il en va de même pour la biomédecine. Des tâches comme la synthèse de protéines et le criblage virtuel ont déjà atteint un niveau de superintelligence. Dans ces domaines spécifiques, l'IA est déjà capable d'exécuter des tâches qui dépassent les capacités humaines.

Question : Qu'est-ce que cela fait d'être à la pointe d'une telle technologie ?

Jensen Huang : J'aime cette sensation. L'avenir est radieux. Peut-être que beaucoup de gens n'auront pas besoin de travailler à l'avenir, mais je ne veux pas manquer cette époque.

J'espère que nous pourrons tous avancer ensemble vers cet avenir, et que l'humanité finira par réussir collectivement. Nous devons encourager tout le monde et réduire les débats dramatiques inutiles. Le plus important est de veiller à ce que l'ensemble des États-Unis puisse y participer.