Jensen Huang erneut zu KI-Risiken: Viele Prognosen sind erfunden, China wird wichtige Kraft im globalen Open-Source-Bereich

Autorin: Helen Li

Redaktion: Xu Qingyang

Am 14. September US-Ortszeit diskutierte NVIDIA-CEO Jensen Huang auf dem All-In Summit 2026, einer Offline-Veranstaltung des bekannten Tech-Podcasts All-In Podcast, mit den vier Moderatoren über Themen wie KI-Sicherheit, KI-Weltuntergangsszenarien, rekursive Selbstverbesserung, Open-Source-Modelle und AGI.

Die vier Moderatoren sind zugleich Mitgründer des All-In Podcasts: Angel-Investor Jason Calacanis, der ehemalige Facebook-Manager Chamath Palihapitiya, David Sacks, Kernmitglied der „PayPal-Mafia“, sowie David Friedberg, CEO des Agrarbiotech-Unternehmens Ohalo Genetics und der Investmentgesellschaft The Production Board.

Das Interview behandelte eine Kernfrage: Welche Sicherheitsgrenzen braucht die KI-Entwicklung? Angesichts der jüngsten Diskussionen von Anthropic-CEO Dario Amodei über KI-Sicherheit und der Forderungen führender Labore nach einem langsameren Tempo vertrat Huang die Ansicht, dass Sicherheit und Innovation kein Widerspruch seien. Bereits aufgetretene Sicherheitsvorfälle sollten als technische Probleme analysiert und durch Technologie, Prozesse und Tests kontrolliert werden.

Zu den in den letzten Jahren häufigen KI-„Weltuntergangsprognosen“ führte Huang frühere Einschätzungen an, die sich bereits als unzutreffend erwiesen hätten, etwa „Radiologen werden durch KI ersetzt“, „kurzfristig werden 90 % des Codes von KI generiert“ und „50 % der Einstiegsjobs werden bald verschwinden“. Er hält solche Prognosen für wissenschaftlich unzureichend fundiert und warnt davor, damit gesellschaftliche Panik zu schüren.

Zur rekursiven Selbstverbesserung (RSI) erklärte Huang, RSI sei keine plötzlich aufgetauchte mysteriöse Technologie, sondern eine Kombination bestehender Techniken wie Kontext, bestärkendes Lernen, synthetische Daten und LoRA.

Zum Streit zwischen Open-Source- und Closed-Source-Modellen stellte er klar, dass beide unverzichtbar seien. China verfüge über viele Ingenieure sowie Talente in Naturwissenschaften und Mathematik und könne künftig ein wichtiger Beitragender zum globalen Open-Source-Ökosystem werden.

Das Gespräch wandte sich anschließend „AGI und Superintelligenz“ zu. Auf die Frage, ob der Maßstab für AGI das Erreichen menschlicher Intelligenz sei und ob diese Phase bereits eingetreten sei, antwortete Huang kurz: „Das ist bereits erreicht.“

Im Folgenden finden Sie eine redigierte Mitschrift von Huangs jüngstem Interview, die ohne inhaltliche Veränderungen zusammengestellt wurde:

01 KI-Sicherheit darf nicht als Gegensatz zur Innovation gesehen werden

Frage: In letzter Zeit wird immer mehr über KI-Sicherheit diskutiert. Dario Amodei hat einen Artikel über KI-Sicherheit veröffentlicht, und der ehemalige Anthropic-Forscher Jacob Cockson hat das Unternehmen wegen entsprechender Fragen verlassen. Wie sehen Sie diese Entwicklungen?

Jensen Huang: Sicherheitsfragen müssen ernst genommen werden, aber Sicherheit und Führungsposition schließen sich nicht aus. Wir können schnell innovieren und schnell umsetzen, damit die USA ihre Führungsposition behalten und gleichzeitig Sicherheit gewährleisten. Diese beiden Aspekte als einander ausschließende Optionen zu betrachten, ist an sich schon ein Fehler.

Cockson hat den Mut, diese Themen öffentlich anzusprechen, und das verdient Anerkennung. Als Whistleblower hat er das Recht dazu, aber ich halte seine späteren wissenschaftlichen Zukunftsprognosen für unzureichend wissenschaftlich fundiert, da sie nicht auf echter wissenschaftlicher Forschung beruhen.

Viele führende Labore wandeln sich derzeit von Forschungseinrichtungen zu Ingenieurorganisationen, und Forschung und Ingenieurwesen sind grundverschieden. Wenn es bei diesem Wandel zu Kontroll- oder Managementproblemen kommt, ist das eine andere Sache. Was Cockson tatsächlich gesehen hat, weiß ich nicht.

Frage: In den letzten Jahren gab es in der KI-Branche viele sehr pessimistische Prognosen, etwa „KI könnte die Menschheit vernichten oder zu Massenarbeitslosigkeit führen“. Wie beurteilen Sie solche Aussagen?

Jensen Huang: Ich denke, wir sollten solche Dinge nicht leichtfertig mit Etiketten wie „Wahrscheinlichkeit des Aussterbens der Menschheit“ oder „Untergang der Zivilisation“ versehen, denn vieles davon ist schlicht erfunden. Wenn man jemandem das Etikett Forscher oder Wissenschaftler verpasst und dann eine reißerische Prognose in die Welt setzt, löst das leicht öffentliche Panik aus. Das halte ich für unverantwortlich.

Wir haben in der Vergangenheit viele solcher Prognosen gesehen. Manche sagten voraus, Radiologen würden innerhalb von fünf Jahren vollständig durch KI ersetzt und künftig nicht mehr gebraucht. Die Realität ist: Die Welt braucht mehr Radiologen. KI wird zwar für die Analyse medizinischer Bilder eingesetzt, aber das hat mit einem Verschwinden der Radiologen nichts zu tun.

Andere sagten voraus, „in den nächsten 6 bis 12 Monaten werden 90 % des Codes von KI generiert und 50 % der Einstiegsjobs werden innerhalb von 6 bis 9 Monaten verschwinden“. Tatsächlich ist keine dieser Prognosen eingetreten. Zuvor hieß es auch, „GPT-2 und Llama 3 seien zu gefährlich für eine Veröffentlichung“, oder es wurde vorhergesagt, „im nächsten Jahr werde die Hälfte der Bürojobs verschwinden“ beziehungsweise ein „Ende der Beschäftigung“ stehe unmittelbar bevor.

Ich finde, solche Prognosen sollten dokumentiert werden. Wenn wir Jahre später zurückblicken, werden wir wissen, welche Prognosen richtig waren und welche nur Panikmache.

Frage: Sie meinen also, KI-Sicherheitsfragen sollten eher als Ingenieursprobleme behandelt werden?

Jensen Huang: Wenn ein Sicherheitsvorfall eintritt, sollten wir zunächst aus technischer Sicht eine Ursachenanalyse durchführen: Was ist passiert, wo liegt das Problem, welche Maßnahmen können ähnliche Vorfälle künftig verhindern? Diese Maßnahmen sollten dann in Systeme, Prozesse und technische Kontrollen überführt werden.

Ich bin überzeugt, dass diese Unternehmen genau das bereits tun – mit besseren Sandboxen, strengeren Laufzeitumgebungen, verbessertem Monitoring und kontinuierlicher Überwachung. Ich würde sogar wetten, dass diese Probleme beherrschbar und vermeidbar sind.

Wenn ein Ingenieurunternehmen tatsächlich nicht weiß, was passiert ist und wie es das kontrollieren soll, kann man Ingenieure dorthin schicken, um zu helfen. Aber ich glaube nicht, dass es so weit kommt. In diesen Laboren arbeiten sehr talentierte Leute, und ich bin sicher, dass sie die Probleme analysiert und angemessene Maßnahmen ergriffen haben.

Frage: Wenn KI-Sicherheit reguliert werden muss, wo sollte die Regulierung ansetzen?

Jensen Huang: Regulierung sollte sich auf real existierende Probleme richten. Die wirklich relevanten Probleme stammen überwiegend aus den führenden KI-Laboren, weil sie über die meiste Rechenleistung verfügen und an den vordersten Fragestellungen arbeiten. Ein Oberschüler oder ein gewöhnliches Start-up dürfte kaum genug Rechenkapazität haben, um solche Probleme zu verursachen.

Diese Labore wandeln sich gerade von der Forschung zum Ingenieurwesen und bauen gleichzeitig Unternehmen, Kultur, Technologie und Produkte auf – das ist kein einfacher Prozess. Deshalb sollte man darauf achten, wie sie ein vollständigeres Ingenieursystem aufbauen, um sicherzustellen, dass Technologieentwicklung und Tests ausreichend sicher sind.

Frage: Braucht es unabhängige Prüfstellen?

Jensen Huang: Ich halte mehrere Bewertungs- und Prüforganisationen für sinnvoll. Sie müssen nicht alles wissen, aber sie sollten wissen, welche Fragen zu stellen sind. Das ähnelt einer Finanzprüfung. Gibt es nur eine Prüfstelle, kann sie beeinflusst werden; gibt es mehrere, können sie sich gegenseitig kontrollieren.

02 „Rekursive Selbstverbesserung“ ist nicht so mysteriös

Frage: Es wird immer mehr über rekursive Selbstverbesserung diskutiert, also darüber, dass KI Daten erzeugt, sich selbst trainiert und immer schneller wird. Wie sehen Sie das?

Jensen Huang: Ich halte „rekursive Selbstverbesserung“ für ein neues, derzeit populäres Etikett. Dahinter steckt aber eigentlich eine Kombination vieler bestehender Techniken, darunter Kontext, Fertigkeiten, Reflexion, bestärkendes Lernen, synthetische Datenerzeugung und LoRA.

Diese Methoden ermöglichen es einer KI tatsächlich, während der Ausführung von Aufgaben Erfahrungen zu sammeln und sich kontinuierlich zu verbessern. Durch synthetische Daten und bestärkendes Lernen lassen sich Modellfähigkeiten beispielsweise verbessern, ohne das gesamte Basismodell neu zu trainieren, und die gesammelten Erfahrungen können wiederum für das Training des Basismodells genutzt werden. Ich bin überzeugt, dass fast jedes Unternehmen einige dieser Techniken einsetzt.

Der Begriff „rekursive Selbstverbesserung“ klingt vielleicht so, als würde das System völlig außer Kontrolle geraten. Tatsächlich muss ein Produkt vor der Veröffentlichung aber weiterhin bewertet, erneut getestet und Regressionstests unterzogen werden – das sind grundlegende technische Kontrollen.

Diese führenden Labore wandeln sich gerade von Forschungseinrichtungen zu Ingenieurorganisationen, und ich bin überzeugt, dass sie künftig über bessere Methoden, Kenntnisse, Praktiken, Werkzeuge und Technologien verfügen werden, um diese Systeme zu kontrollieren, zu verifizieren und zu bewerten. Rekursive Selbstverbesserung kann intern stattfinden, aber verifizierte Produkte können dennoch sicher veröffentlicht werden.

Frage: Wie sehen Sie das Verhältnis zwischen Open-Source- und Closed-Source-Modellen?

Jensen Huang: Die Welt braucht sowohl Open-Source- als auch Closed-Source-Modelle. Ich selbst nutze ebenfalls geschlossene Spitzenmodelle. Sie ähneln ein wenig Flaschenwasser: Wasser selbst ist kostenlos, aber unterschiedliche Produktformen können unterschiedliche Bedürfnisse erfüllen.

Open-Source-Modelle sind für Souveränität, Datenschutz und proprietäre Unternehmenslösungen sehr wichtig. In den vergangenen sechs Monaten flossen rund 400 Milliarden US-Dollar an Risikokapital in KI-native Unternehmen, von denen etwa 80 % Open-Source-Modelle nutzen. Ohne Open-Source-Modelle könnten viele Start-ups ihre Ziele nicht erreichen, weil sie etwas anderes vorhaben als die führenden Labore.

Der eigentliche Vorteil der USA liegt in der Vielfalt der Innovationsformen. Um den KI-Wettbewerb zu gewinnen, müssen wir die Entwicklung von Open-Source-Modellen zulassen.

Den KI-Wettbewerb zu gewinnen bedeutet nicht nur, dass einige wenige US-Unternehmen gewinnen, sondern dass US-Unternehmen, Branchen, Forscher, Lehrende, Studierende und Unternehmer die Chancen dieser Technologie nutzen können. Manche werden geschlossene Modelle verwenden, viele werden Open-Source-Modelle nutzen – beides wird gebraucht.

Frage: Glauben Sie, dass China ein wichtiger Beitragender zum globalen Open-Source-Ökosystem werden kann?

Jensen Huang: Ich bin überzeugt, dass China einen erheblichen Teil zum globalen Open-Source-Ökosystem beitragen könnte. China hat sehr viele Ingenieure und viele Studierende in Naturwissenschaften und Mathematik; Spitzenuniversitäten wie Tsinghua bringen jedes Jahr viele hervorragende Talente hervor.

Chinesische Ingenieure haben beispielsweise zu Linux, Kubernetes (dem Open-Source-System zur Container-Orchestrierung) und vielen Softwareprojekten beigetragen. Eine Besonderheit von Open Source ist: Sobald man es heruntergeladen hat, gehört es einem. Man kann es weiter verändern, optimieren und zu etwas Eigenem machen.

Der KI-Wettbewerb läuft letztlich darauf hinaus, wer diese Technologie am besten nutzen kann. Viele wichtige Erfindungen der früheren industriellen Revolutionen stammten aus Europa, aber die USA haben diese Technologien später hervorragend genutzt. Ich hoffe, dass sich die nächste industrielle Revolution ähnlich entwickelt.

Ich finde, die Diskussion in China ist pragmatischer und stärker auf wirtschaftliche Entwicklung und gesellschaftlichen Fortschritt ausgerichtet, statt ständig über Weltuntergang oder den Untergang der Zivilisation zu reden. Wenn diese Untergangsprognosen tatsächlich zuträfen, sollten wir sie natürlich diskutieren und darauf reagieren, aber es gibt keinen Grund, Panik zu schüren. Unsere Aufgabe ist es, die Technologie Wirklichkeit werden zu lassen.

Frage: Wenn KI letztlich einen großen Teil der Programmierarbeit automatisiert, was bleibt dann noch für Ingenieure zu tun?

Jensen Huang: Ingenieursarbeit wird es weiterhin geben. Meine Ingenieursgeneration hat in einer Zeit, als Software noch nicht weit verbreitet war, nicht viel Zeit mit dem Schreiben von Code verbracht. Heute verbringen Softwareingenieure viel Zeit mit dem Programmieren. Wenn künftig ein großer Teil dieser Arbeit automatisiert wird, werden Menschen trotzdem weiterhin Ingenieursarbeit leisten. Eine meiner Gewohnheiten ist, dass meine liebste Tastaturtaste die Backspace-Taste ist, denn die beste Software bedeutet oft weniger Code.

03 Warum NVIDIA tief in die KI-Wertschöpfungskette eingebunden ist

Frage: Die US-Regierung hat anfangs Arbeitsplätze, Reindustrialisierung, Energie und Lieferketten betont. Diese Dinge passieren jetzt tatsächlich. NVIDIA ist zu einem wichtigen Kapitalgeber der gesamten KI-Branche geworden. Wie entscheiden Sie, wohin die Ressourcen fließen?

Jensen Huang: KI ist eine neue industrielle Revolution. Diese Branche besteht aus vielen Komponenten, etwa Modellen, Chips, Anwendungen, Rechenzentren, Gebäuden, Stromversorgung und Kraftwerken. Ich beobachte ständig das gesamte Ökosystem und suche nach Engpässen.

Wenn ein sehr gutes Unternehmen durch ein bestimmtes Glied in der Kette eingeschränkt wird, kümmere ich mich um dieses Problem. Das kann die Lieferkette sein, aber auch Land, Strom oder Fabriken. NVIDIA ist inzwischen groß genug, dass wir die Lieferkette viele Jahre im Voraus betrachten müssen. Unternehmen wie Corning, Lumentum, TSMC und Speicherhersteller müssen wir langfristig im Blick behalten.

Frage: Manche meinen, der größte Teil der Gewinne der KI-Branche werde letztlich in die Anwendungsebene fließen. Warum steigt NVIDIA in höhere Ebenen wie Modelle und Hugging Face ein?

Jensen Huang: NVIDIA kann praktisch alle Modelle der Welt ausführen. Vor etwa anderthalb Jahren wurde vor allem über die Modelle von OpenAI gesprochen, heute gibt es Metas Muse, Grok, Gemini, Anthropic und viele weitere. Viele führende KI-Labore bauen auf der Plattform von NVIDIA auf.

Unsere Strategie ist, allen zum Erfolg zu verhelfen, statt das Geschäft anderer zu übernehmen. Wir bleiben so weit wie möglich in der unteren Ebene des Technologie-Stacks und bewegen uns nur dann nach oben, wenn es nötig ist. CUDA unterstützt eine Vielzahl von Frameworks, Megatron und Megatron Core unterstützen das Training in großem Maßstab. Wir erfinden die nötigen Technologien und lassen dann das gesamte Ökosystem wachsen, damit mehr Unternehmen teilnehmen können.

Frage: Warum werden regionale Cloud-Anbieter jetzt immer wichtiger?

Jensen Huang: Regionale Cloud-Anbieter sind in der Regel flexibler als die großen Hyperscaler, weil sie vor Ort Land, Strom und Fabriken finden können und die lokalen Anforderungen besser kennen.

Künftig wird ein dezentrales Unternehmensnetzwerk entstehen, und immer mehr Länder werden KI als strategische Branche betrachten. Wir sehen bereits, dass einige Regionen beginnen, ihre KI-Recheninfrastruktur auszubauen.

Frage: NVIDIA entwickelt derzeit eigene Open-Source-Modelle, darunter Modelle für autonomes Fahren und Biomedizin. Warum tun Sie das?

Jensen Huang: Weil die Kunden es brauchen. Wenn wir in der Lage sind, es am besten zu machen, dann tun wir es. Ein Beispiel ist Alpamayo, unser Modell für autonomes Fahren. Es ist ein System für autonomes Fahren mit Schlussfolgerungsfähigkeit. Früher benötigte autonomes Fahren Milliarden Stunden an Straßendaten, aber Schlussfolgerungsfähigkeit erlaubt es dem System, über ähnliche Situationen nachzudenken und so die Abhängigkeit von riesigen Mengen realer Straßendaten zu verringern.

Die Zukunft des autonomen Fahrens umfasst nicht nur Pkw, sondern auch Landmaschinen, Lastwagen, Transporter und viele andere mobile Geräte. Viele Unternehmen verfügen nicht über einen vollständigen Technologie-Stack. NVIDIA kann daher einen vollständigen Technologie-Stack bereitstellen, und die Kunden können die letzte Meile an ihre eigenen Anforderungen anpassen.

Im biomedizinischen Bereich ist es ähnlich. Wir haben ESM2, ESMFold, OpenFold, AlphaFold 2 sowie einige äquivariante Modelle und Protein Complexa entwickelt – ein generatives KI-Framework für Protein-Komplexe mit vollständiger Atomauflösung –, weil Pharmaunternehmen diese Technologien wirklich benötigen. Mein Ausgangspunkt ist immer: Jemand braucht diese Technologie, also machen wir es.

04 Musks Terafab

Frage: Musk hat das Terafab-Chipfabrik-Projekt angekündigt, ein sehr großes Vorhaben. Wie sehen Sie das?

Jensen Huang: NVIDIA kennt sich mit Prozesstechnologie sehr gut aus, und wir fordern die Grenzen der Fertigung ständig heraus. Natürlich können wir darüber sprechen. Wenn Musk sich einmal entschieden hat, etwas zu tun, ist es schwer, ihn davon abzubringen – das ist auch seine Superkraft.

Frage: Könnte NVIDIA künftig Chips in seiner Fabrik fertigen lassen?

Jensen Huang: Darüber können wir sprechen.

Frage: Wenn AGI als das Erreichen menschlicher Intelligenz definiert wird, sind wir dann bereits in dieser Phase? Und was ist mit Superintelligenz?

Jensen Huang: Wir haben sie bereits erreicht, und in bestimmten Bereichen sind wir sogar schon in der Phase der Superintelligenz angekommen.

Frage: Warum?

Jensen Huang: Weil KI in einigen sehr spezifischen Bereichen den Menschen bereits übertrifft. Autonomes Fahren ist ein Beispiel. Wenn ein Auto besser fahren kann als ein Mensch, dann ist es im Bereich des Fahrens Superintelligenz.

Derzeit liegt die Unfallrate autonomer Fahrsysteme bei etwa einem Zehntel der menschlichen Unfallrate. Im biomedizinischen Bereich ist es ähnlich. Aufgaben wie die Synthese von Proteinen und virtuelles Screening haben bereits Superintelligenz-Niveau erreicht. In diesen spezifischen Bereichen kann KI bereits Aufgaben ausführen, die menschliche Fähigkeiten übertreffen.

Frage: Wie fühlt es sich an, an der vordersten Front dieser Technologie zu stehen?

Jensen Huang: Ich mag dieses Gefühl. Die Zukunft ist hell. Vielleicht werden viele Menschen in Zukunft nicht mehr arbeiten müssen, aber ich möchte diese Ära nicht verpassen.

Ich hoffe, dass wir alle gemeinsam in diese Zukunft gehen und die Menschheit am Ende gemeinsam erfolgreich ist. Wir müssen alle ermutigen und unnötige dramatisierende Debatten reduzieren. Am wichtigsten ist, dass wir sicherstellen, dass die gesamten USA daran teilhaben können.