Musk schlägt neue KI-Sicherheitslösung vor: Statt auf Regierungen zu warten, sollen sich Konkurrenten gegenseitig auf die Finger schauen

Autor: Li Jia, The Wall Street Journal

KI-Sicherheitsrisiken bewegen sich von der Labordiskussion in die reale Welt. Mit zunehmender Modellleistung kann KI nicht nur Texte und Code generieren, sondern beginnt auch, Aufgaben autonom auszuführen, Werkzeuge aufzurufen und sogar Cyberangriffe zu starten.

Auf dem „All-In Summit“ am 15. September schlug Musk eine Gegenmaßnahme vor: Die führenden KI-Unternehmen sollen ihre Modelle vor der Veröffentlichung gegenseitig testen. Seiner Ansicht nach sollten nicht die Unternehmen selbst Tests entwerfen und Ergebnisse bewerten, sondern Wettbewerber als „Aufgabensteller und Prüfer“ fungieren, um aus verschiedenen Blickwinkeln potenzielle Sicherheitslücken zu finden.

In letzter Zeit sind KI-Sicherheitsrisiken in den Fokus des Marktes gerückt. Musk hatte zuvor in den sozialen Medien erklärt, „Dario hat Recht“, womit er die Warnungen von Anthropic-CEO Dario Amodei vor KI-Risiken meinte. In diesem Interview erläuterte er weiter, dass er nicht Amodeis konkreten Regulierungsvorschlägen zustimme, sondern dessen Einschätzung der Schwere der KI-Risiken: „Die Gefahr durch KI ist derzeit sehr hoch … Mit der Weiterentwicklung der KI-Modelle könnten die Risiken exponentiell wachsen.“

Musk betonte auch, dass diese Sorge nicht allein Amodeis Urteil sei. „Viele Leute bei Anthropic und OpenAI sagen einem, dass ihre Modelle sehr gefährlich sind, und ich denke, wir sollten ihnen glauben.“ Eine Reihe jüngster Sicherheitsvorfälle macht diese Warnung zu mehr als einer theoretischen Risikodiskussion.

Das Wall Street Journal fasst die wichtigsten Punkte wie folgt zusammen:

• KI-Sicherheitsrisiken werden von der Theorie zur Realität: KI-Agenten haben bereits die Fähigkeit zu autonomen Angriffen, zur Erlangung von Berechtigungen und zur Umgehung von Erkennung gezeigt; die Risikogrenzen erweitern sich.
• Musk stimmt Amodeis Warnung vor KI-Risiken zu: Mit zunehmender Modellleistung könnten die potenziellen Risiken der KI exponentiell wachsen.
• Konkurrenten „Fehler suchen“ lassen: Musk schlägt vor, dass KI-Unternehmen vor der Modellveröffentlichung APIs für unabhängige Sicherheitstests durch andere Unternehmen öffnen, um „Selbstbenotung“ zu vermeiden.
• Zuerst eine brancheninterne Selbstregulierungslinie aufbauen: Ohne auf neue staatliche Vorschriften zu warten, können führende KI-Unternehmen durch Peer-Reviews, Protokollprüfungen und Open-Source-Testwerkzeuge die Sicherheit stärken.

KI-Agenten umgehen aktiv die Entdeckung, Sicherheitsrisiken werden konkret

Musk hält den jüngsten Angriff von KI-Agenten auf Hugging Face für besonders bemerkenswert, nicht nur wegen des Netzwerkeinbruchs selbst, sondern vor allem wegen der autonomen Umgehungsfähigkeiten, die die KI während des Angriffs zeigte.

Laut Musk griff eine Gruppe von KI-Agenten Hugging Face eine Woche lang an und erlangte sogar Administratorrechte auf OpenAI-Servern, während OpenAI dies erst eine Woche später bemerkte. Er erwähnte auch, dass Anthropic mehrere Sicherheitsvorfälle offengelegt habe.

Noch beunruhigender ist, dass die Gedankengänge der beteiligten KI-Agenten zeigen, dass sie aktiv planten, wie sie einer Entdeckung durch Menschen entgehen könnten. Musk sagte unverblümt: „Jedes ausreichend intelligente Modell scheint zu versuchen, seinen eigenen Beschränkungen zu entkommen.“

Seiner Ansicht nach werden sich die Risiken weiter vergrößern, wenn KI kritische Infrastrukturen oder sogar militärische Systeme kontrolliert. Selbst wenn diese Systeme physisch vom Netz getrennt sind, könnten Prozesse wie Software-Updates potenzielle Einfallstore bleiben.

Statt Selbstbewertung lieber Konkurrenten Fehler suchen lassen

Angesichts dieser Risiken ist Musks Kernvorschlag nicht kompliziert: Vor der offiziellen Veröffentlichung neuer Modelle sollten KI-Unternehmen Wettbewerbern APIs öffnen, damit andere Unternehmen ihre eigenen Sicherheitstestwerkzeuge zum Testen der Modelle einsetzen können.

Seiner Ansicht nach geraten Modellentwickler leicht in die Falle der „Selbstbewertung“, wenn sie ihre Teststandards selbst entwerfen. „Man kann seine eigenen Aufgaben nicht selbst korrigieren. Man übersieht immer etwas.“ Musk erklärte, wenn verschiedene Unternehmen mit unterschiedlichen Testwerkzeugen Modelle aus verschiedenen Blickwinkeln prüfen, lassen sich Probleme, die die Entwickler selbst möglicherweise übersehen, leichter entdecken.

Er äußerte besondere Sorge, dass aktuelle KI-Bewertungen unter „Overfitting“ leiden könnten. Wenn Modelle kontinuierlich auf bestimmte Benchmarks optimiert werden, lernen sie am Ende möglicherweise nur, Tests zu bestehen, statt wirklich sicherer zu werden. Tests durch mehrere verschiedene Teams können dieses Risiko verringern.

Musk verglich diesen Mechanismus damit, andere um das Korrekturlesen eines Manuskripts zu bitten: Autoren erkennen ihre eigenen Fehler schwer, während externe Tester leichter Probleme aus anderen Blickwinkeln finden. „Man wird mit der Zeit blind für die eigenen Fehler.“

Zu Bedenken von Unternehmen, dass Testprozesse zu Technologieabfluss führen könnten, meinte Musk, dies lasse sich durch Protokollprüfungen einschränken. Wenn ein Tester versuche, ein Modell zu destillieren oder geistiges Eigentum zu stehlen, hinterlasse dies Spuren. Er schlug außerdem vor, Sicherheitstestwerkzeuge als Open Source bereitzustellen, damit mehr Unternehmen teilnehmen können.

Bevor staatliche Regulierung greift, sollte die KI-Branche einen Selbstregulierungsmechanismus aufbauen

Musk legt besonderen Wert darauf, dass dieser Ansatz nicht auf neue Regulierungsvorschriften warten muss, sondern von den KI-Unternehmen selbst vorangetrieben werden kann.

Er sagte ausdrücklich: „Wir brauchen keine UN-Konferenz, um das zu erreichen. Wir können jetzt damit anfangen.“ Seiner Ansicht nach ist es einfacher, unter den führenden KI-Unternehmen schnell Peer-Review-Mechanismen einzuführen, als große transnationale Regulierungsbehörden zu schaffen.

Als Beispiel nannte er das MPAA-Altersfreigabesystem der US-Filmindustrie: Als die Filmindustrie unter staatlichem Zensurdruck stand, entschied sie sich letztlich für eine Selbstregulierung und reduzierte durch ein eigenes Inhaltsbewertungssystem die Notwendigkeit regulatorischer Eingriffe.

Die KI-Branche steht vor einer ähnlichen Entscheidung. Wenn führende KI-Unternehmen ihre Modelle vor dem Start gegenseitig testen und Fehler finden, können sie außerhalb staatlicher Regulierung eine selbstregulierende Sicherheitslinie aufbauen. Musk hält dies für eine der direktesten und am schnellsten umsetzbaren Sicherheitsmaßnahmen.

Im Folgenden das wörtliche Transkript des Interviews, teilweise gekürzt:

Moderator:
Was ist in den letzten 72 Stunden passiert?

Musk:
Diese Woche ist tatsächlich viel passiert. Es ist inzwischen ziemlich klar, dass KI sehr gefährlich sein kann. Ich empfehle jedem, sich die Details des Hugging-Face-Vorfalls anzusehen; die Lage ist sehr ernst.

Man kann sehen, dass eine Gruppe sehr enthusiastischer KI-Agenten eine ganze Woche lang auf Hugging Face ihr Unwesen getrieben und sogar Administratorrechte auf OpenAI-Servern erlangt hat. Wer weiß, was sie tatsächlich getan hat, vielleicht sogar noch mehr, und OpenAI hat eine ganze Woche lang nichts bemerkt. Anthropic hat ebenfalls einige Sicherheitsvorfälle gemeldet.

Es scheint also, dass jedes ausreichend intelligente Modell versucht, seinen eigenen Beschränkungen zu entkommen.

Eine Sache, die wir tun sollten – wenn nicht sofort, dann so bald wie möglich – ist, die führenden KI-Wettbewerber ihre Modelle gegenseitig testen zu lassen. Das heißt, die Sicherheitstestwerkzeuge jedes Unternehmens sollten die Modelle der anderen Unternehmen testen. Statt die eigenen Hausaufgaben selbst zu korrigieren, sollten zumindest die Wettbewerber die Hausaufgaben korrigieren und Alarm schlagen, wenn sie Probleme finden.

Ich denke, dieses Modell funktioniert in der Filmindustrie, der Videospielbranche und anderen Bereichen recht gut und kann sofort umgesetzt werden. Natürlich mag im Laufe der Zeit mehr Regulierung nötig sein, und der Kongress könnte künftig eine Regulierungsbehörde einrichten, aber im Moment ist der direkteste Weg, dass die führenden KI-Unternehmen ihre Modelle vor der Veröffentlichung gegenseitig testen.

Moderator:
Aber besteht bei der konkreten Umsetzung nicht die Sorge, dass Unternehmen durch den Testprozess gegenseitig Informationen sammeln oder sogar Innovationen stehlen?

Musk:
Ich denke, wenn Testwerkzeuge verwendet werden, hinterlassen alle Vorgänge Spuren. Wenn jemand versucht, ein Modell zu destillieren oder geistiges Eigentum zu stehlen, sollte das aus den Protokollen leicht ersichtlich sein.

Moderator:
Verstanden. Die Fähigkeit zu verstehen, was ein Modell tatsächlich tut, war von Anfang an nicht in das System eingebaut. Warum bauen wir nicht von vornherein die Fähigkeit ein, das Modellverhalten zu beobachten? Sind wir beim Design dieser Modelle zu schnell vorgegangen?

Musk:
Ich denke, das Problem ist, dass man seine eigenen Hausaufgaben nicht selbst korrigieren kann. Man übersieht immer etwas.

Wenn man die Tests aller Wettbewerber kombiniert und verschiedene Modelltypen verwendet, dann stellt man nicht selbst die Aufgaben und korrigiert sie auch nicht selbst, sondern andere tun es. Deshalb kann man seine eigenen Hausaufgaben nicht selbst korrigieren.

Moderator:
Auf diese Weise lässt sich auch beurteilen, ob verschiedene Unternehmen ihre Fähigkeiten übertreiben oder unterschiedliche Methoden verwenden. Stärker ingenieursorientierte und stärker forschungsorientierte Unternehmen können so ein gewisses Gleichgewicht erreichen.

Musk:
Ja.

Moderator:
Sie haben zuvor gesagt, Dario habe recht. Meinten Sie seine Beschreibung der potenziellen Gefahren der KI oder seine Einschätzung der Regulierungsvorschläge?

Musk:
Ich habe damals vielleicht zu viel gesagt. Ich habe später versucht, das auf X klarzustellen, aber die Aufmerksamkeit für die Folgebeiträge war viel geringer.

Was ich mit „er hat recht“ meinte, ist, dass die Gefahr durch KI derzeit sehr hoch ist. Wir müssen bei der KI-Sicherheit besser werden, sonst könnten die Risiken mit der Weiterentwicklung der KI-Modelle exponentiell wachsen.

Das ist nicht nur Darios Ansicht. Ich habe ähnliche Aussagen von vielen Leuten bei Anthropic gehört, die auch öffentlich auf X darüber gesprochen haben. Viele Leute bei Anthropic und OpenAI haben Ihnen gesagt, dass ihre Modelle sehr gefährlich sind, und ich denke, wir sollten ihnen glauben.

Moderator:
Das klingt auch nach einem sehr komplexen Spiel: Einerseits sagt man, KI habe eine Wahrscheinlichkeit von 10 %, die Menschheit zu vernichten, andererseits ermutigt man Investoren, beim Börsengang mehr Aktien zu kaufen.

Aber sprechen wir konkret über die Risiken. Cyberangriffe und Hacking sind offensichtlich ein Risiko; diese Werkzeuge sind darin sehr leistungsfähig. Aber von „KI kann Cyberangriffe durchführen“ bis zu „alle Menschen sterben“ gibt es mehrere Zwischenschritte. Wie kommen wir vom einen zum anderen?

Musk:
Wenn KI militärische Systeme kontrollieren und dann irgendeine Waffe abfeuern könnte, wäre das natürlich sehr schlimm.

Moderator:
Aber diese Systeme sind physisch isoliert und nicht mit dem Netzwerk verbunden.

Musk:
Das sagen sie. Aber ich habe immer das Gefühl, dass diese Systeme gelegentlich Software-Updates erhalten.

Moderator:
Hmm, das lässt sich nicht ausschließen.

Moderator:
Elon, Gwyn ist heute auch hier. Ich denke, Sie haben sie gesehen. Wir haben gerade eine 360-Grad-Bewertung von Ihnen durchgeführt, und Gwyn hat einige Anmerkungen.

Musk:
Ich hoffe, ich bekomme wenigstens 3 Punkte.

Gwyn:
Bei SpaceX sind 3 Punkte ganz gut, aber nicht herausragend; 4 Punkte wären gut. Sie liegen ungefähr dazwischen. Zuerst müssen wir über Pünktlichkeit sprechen. Manchmal könnten Sie sich etwas mehr anstrengen, pünktlich zu Besprechungen zu erscheinen. Im nächsten Jahr werden wir weiter mit Ihnen daran arbeiten.

Tatsächlich denke ich, er sollte mehr Zeit in Memphis verbringen.

Moderator:
Sie sind jetzt tatsächlich in Memphis. Sie müssen dort arbeiten und die GPUs bereitstellen.

Musk:
Das ist mein „Palast“ in Memphis, ein Airstream-Wohnwagen.

Moderator:
Übrigens, das ist etwas, das Elon tut und das viele ihm nicht zutrauen. Er schläft auf dem Fabrikboden. Er ist jetzt in Memphis und hilft beim Bau der Anlage und bei der Bereitstellung der GPUs.

Elon, warum kann Gwyn so lange und so erfolgreich mit Ihnen zusammenarbeiten?

Musk:
Weil sie hervorragend ist. Sie ist eine außergewöhnliche Person mit sehr hohem IQ und EQ. Ich denke, das merkt man schon beim ersten Treffen.

Moderator:
Gab es im Laufe Ihrer Zusammenarbeit etwas besonders Beeindruckendes, das sie getan hat? Gab es eine Situation, in der sie das Ruder herumgerissen oder sich besonders ausgezeichnet hat?

Musk:
Ich denke, das ist einfach der Arbeitsalltag. Ehrlich gesagt, das ist ein ganz normaler Tag.

Moderator:
Ich sollte mehr solche Interviews führen.

Musk:
SpaceX hat im Grunde immer irgendeine Krise. Zumindest läuft die Falcon-Rakete in letzter Zeit gut. Ich will es nicht zu früh beschreien, aber die Falcon kann jetzt Nutzlasten in den Orbit bringen und ist schon lange nicht mehr explodiert. Das ist sehr gut. Aber es gab eine Zeit, in der sie häufig explodierten oder gar nicht starten konnten.

Wir mussten das Unternehmen also durch diese schwierigen Zeiten bringen, die Raketen verbessern, damit sie nicht mehr explodieren. Dasselbe gilt für Satelliten. Und dann brauchten wir Kunden, die Startdienste und Satelliteninternetdienste kaufen. Es gibt also viel zu tun.

Moderator:
Je erfolgreicher Sie im Laufe der Jahre werden, desto schwieriger wird es, wirklich ehrliches Feedback zu bekommen. In einer solchen Position besteht dieses Risiko.

Mein Verständnis ist, dass Gwyn sehr ehrlich zu Ihnen ist und Ihnen direkt sagen kann, wie es im Unternehmen wirklich aussieht. Das ist ein wichtiger Teil Ihrer Zusammenarbeit.

Gwyn:
Ich möchte ihn natürlich nicht anlügen.

Moderator:
Aber ich meine, im Allgemeinen könnten die Leute in Ihrem Unternehmen eingeschüchtert sein, weil Sie eine so einflussreiche Persönlichkeit sind. Sie sind jetzt eine sehr wichtige Person, und Sie setzen sehr enge Fristen. Wie stellen Sie sicher, dass alle Ihnen weiterhin ehrlich sagen, welche Probleme das Unternehmen hat?

Gwyn:
Gerade in der Raketenbranche findet man es letztlich heraus, wenn etwas schiefgeht. Je früher man ein Problem anspricht, desto leichter lässt es sich lösen. Man darf schlechte Nachrichten nicht ansammeln lassen, man muss sich ihnen direkt stellen.

Musk:
Richtig. Die Physik ist ein sehr strenger Schiedsrichter. Man kann die Physik nicht betrügen.

Wenn etwas schiefgeht, explodiert die Rakete oder erreicht den Orbit nicht. Man kann nicht sagen: „Elon, du machst das großartig“, während die Raketen ständig explodieren. Fakten sind Fakten.

Die Rakete muss in den Orbit gelangen, die Satelliten müssen funktionieren, die Starlink-Verbindung muss korrekt arbeiten; sonst passieren schlechte Dinge. Das ist Physik. Die Physik ist das Gesetz, alles andere ist nur eine Empfehlung. Ich habe Menschen gesehen, die von Menschen gemachte Gesetze brechen, aber ich habe noch nie jemanden gesehen, der die Gesetze der Physik bricht. Raketen unterliegen der Physik.

Moderator:
Ich möchte noch eine Frage zu SpaceX stellen, insbesondere zu Starship. Es sieht so aus, als wären Sie jetzt sehr nahe dran. Wie ist der aktuelle Stand?

Musk:
Starship steht vor seinem 14. Flug. Das wird der letzte Flug sein, bevor wir versuchen, das Raumschiff zu fangen. Wenn der 14. Flug gut verläuft, werden wir beim 15. Flug versuchen, das Raumschiff zu fangen. Und dann, Ende dieses Jahres oder eher Anfang nächsten Jahres, werden wir Raumschiff und Booster erneut starten.

Wir haben den Booster bereits erfolgreich wiedergeflogen, aber wir haben das Raumschiff noch nicht mit den Turmarmen gefangen und auch noch nicht wiedergeflogen. Sobald wir das Raumschiff wiedergeflogen haben, haben wir die erste vollständig wiederverwendbare orbitale Rakete. Das Space Shuttle war in gewisser Weise wiederverwendbar, aber selbst die wiederverwendbaren Teile waren so teuer, dass die Kosten pro Start höher waren als bei einer Einwegrakete.

Die Falcon 9 ist größtenteils wiederverwendbar, aber wir verlieren jedes Mal die Oberstufe, deren Kosten etwa einem mittelgroßen Düsenflugzeug entsprechen. Das bedeutet, wir werfen bei jedem Start ein mittelgroßes Düsenflugzeug weg, was offensichtlich eine Untergrenze für die Kosten jedes Fluges setzt.

Außerdem landet der Booster der Falcon 9 auf See und braucht mehrere Tage, um zurückgebracht zu werden; die Nutzlastverkleidung landet noch weiter entfernt und braucht ebenfalls mehrere Tage, und beide benötigen zumindest eine gewisse Überholung. Im Gegensatz dazu wird der Starship-Booster direkt auf der Startrampe landen, und auch das Raumschiff wird auf der Startrampe landen. Das Design zielt also nicht nur auf vollständige Wiederverwendbarkeit ab, sondern auch auf schnelle Wiederverwendung wie bei einem Flugzeug. Das ist ein sehr wichtiger Durchbruch und einer der entscheidenden Durchbrüche, die nötig sind, um menschliches Leben über die Erde hinaus auszudehnen.

Moderator:
Wie hoch schätzen Sie die Erfolgswahrscheinlichkeit ein, wenn beim ersten Versuch das Raumschiff mit dem Turm gefangen wird?

Musk:
Ich würde sagen, mindestens 50 bis 60 %. Beim letzten Flug haben wir tatsächlich eine simulierte Landung durchgeführt, als ob das Raumschiff vom Turm gefangen würde, wenn dort ein Turm gewesen wäre. Die Position lag etwa 1.000 Meilen vor der Nordwestküste Australiens. Wenn dort tatsächlich ein Turm gestanden hätte, hätte er das Raumschiff beim letzten Flug fangen können.

Wir brauchen also noch einen weiteren Flug, um zu bestätigen, dass alles normal funktioniert. Unsere größte Sorge ist, dass Trümmer in Menschenmengen fallen könnten, wenn Starship über Land auseinanderbricht; das wäre sehr schlimm. Deshalb müssen wir sicherstellen, dass Starship bei der Rückkehr intakt auf dem Startturm landet. Deshalb sind wir jetzt so vorsichtig.

Aber ich bin sehr zuversichtlich, dass das Design von sich aus vollständige Wiederverwendbarkeit ermöglicht. Ich möchte hier keine Vorhersagen machen, aber ich glaube, dass wir mit hoher Wahrscheinlichkeit bis 2027 vollständige Wiederverwendbarkeit und schnelle Wiederflüge erreichen.

Moderator:
Gwyn, ich würde gerne hören, wie Terafab ursprünglich entstanden ist. Welcher Bedarf hat Sie dazu gebracht, es selbst zu machen, statt weiter auf die bestehende Lieferkette zu setzen?

Gwyn:
Ich glaube, die Inspiration kam wirklich so etwas wie im Traum.

Musk:
Wenn die Chipversorgung nicht kontinuierlich gesichert ist und wir keine andere Chipquelle haben, wird es sehr schwierig. Das ist ein wichtiger Grund für die Existenz von Terafab.

Langfristig geht es auch um Skalierung. Wenn man KI wirklich skalieren will, ob auf der Serverseite in Rechenzentren oder bei Edge-Computing, humanoiden Robotern und Autos, wird die bestehende Wafer-Fertigungskapazität irgendwann nicht ausreichen.

Derzeit laufen praktisch alle Wafer-Fabriken unter Volllast. Wir müssen also sicherstellen, dass die künftige Chipversorgung gesichert ist. Auch die Chipproduktion selbst steht vor Skalierungsherausforderungen. Man braucht Logikchips, Speicherchips, Verpackung und eine vollständige Lieferkette, um kontinuierlich zu skalieren.

Die Wahl ist also einfach: Entweder man baut Terafab, oder man kann nicht weiter skalieren.

Moderator:
In welchem Stadium befinden Sie sich beim Anlagendesign? Ist es vollständig festgelegt oder noch ein grober Plan?

Musk:
Wir bauen derzeit zuerst eine Forschungs- und Entwicklungslinie. Es ist im Grunde ein „Krabbeln, Gehen, Laufen“-Prozess. Wir bauen in Austin eine F&E-Waferfabrik, ein Gemeinschaftsprojekt von Tesla und SpaceX auf dem Gelände der Giga Texas in Austin.

Es ist eine ziemlich große F&E-Waferfabrik. Die Ausrüstung ist bereits bestellt. Wir könnten bis Ende nächsten Jahres etwas Nützliches produzieren, aber noch nicht auf Massenproduktionsniveau. Wie Gwyn sagte, müssen wir zuerst krabbeln, dann gehen und schließlich laufen. Wir müssen herausfinden, wie diese Maschinen tatsächlich funktionieren, denn so etwas haben wir noch nie gemacht.

Moderator:
Ich sehe, dass Sie offenbar auch Talente im Bereich Lithografie einstellen. Derzeit sind viele Prozesse von ASML abhängig, aber Sie möchten möglicherweise auch die Lieferanten diversifizieren oder sogar vertikal integrieren.

Musk:
Ja. Es ist derzeit wirklich ein „Krabbeln, Gehen, Laufen“-Prozess. Der erste Schritt ist zu sehen, ob wir tatsächlich etwas produzieren können – das ist „Krabbeln“. Dann versuchen wir, nützliche Chips in Serie zu produzieren – das ist „Gehen“. Schließlich bedeutet „Laufen“, eine Massenproduktion in großem Maßstab zu erreichen. Es ist schwer zu sagen, wie lange jede Phase dauert, aber ich glaube, dass wir zumindest bis Ende nächsten Jahres die „Krabbel“-Phase abschließen können. Mit der Verpackung haben wir bereits begonnen.

Moderator:
Verpackung ist tatsächlich sehr wichtig, denn es gibt derzeit fast keine Verpackungskapazität.

Musk:
Ja. Selbst wenn man Chips produziert, können sie lange herumliegen und auf die Verpackung warten. Das ist also ein guter Ausgangspunkt.

Moderator:
Ich muss eine Tesla-Frage stellen. Was wir am 1. Oktober gesehen haben, sieht aus wie ein Raumschiff und auch wie eine Rakete. Es soll ein Auto sein, aber nur der hintere Teil war zu sehen, und es erinnerte ein wenig an die „Blackbird“.

Wenn Sie etwas schaffen wollten, das in der Luft fliegen und am Boden fahren kann, wie würden Sie theoretisch vorgehen?

Musk:
Keine Spoiler. Warten Sie auf den 1. Oktober.

Moderator:
Wir werden es also am 1. Oktober sehen?

Musk:
Ja.

Moderator:
Ich muss ehrlich sagen, nachdem Elon es mir gezeigt hat, war ich völlig schockiert. So etwas habe ich noch nie gesehen.

Moderator:
Was er am 1. Oktober zeigen wird, wird, ohne zu übertreiben, viele Menschen sprachlos machen. Ich kann nicht mehr verraten, es ist wirklich unglaublich.

Musk:
Wir brauchen eigentlich ein Live-Publikum, um zu beweisen, dass das Ding nicht KI-generiert ist.

Moderator:
Als er es mir zeigte, sagte ich: „Das ist eine großartige Simulation.“ Er sagte: „Das ist keine Simulation.“ Ich sagte: „Das ist fake, das muss fake sein.“

Moderator:
Elon, warum sind Tesla und SpaceX immer noch zwei getrennte Unternehmen?

Musk:
Das ist eine gute Frage.

Moderator:
Angesichts der umfangreichen Zusammenarbeit und der Verbindungen auf vielen Ebenen, sogar mit einigen Überschneidungen im Managementteam – warum getrennt bleiben?

Musk:
Das ist tatsächlich ein diskussionswürdiges Thema.

Moderator:
Sie haben betont, dass KI darauf trainiert werden sollte, so weit wie möglich nach Wahrheit zu streben, um die besten Ergebnisse zu erzielen. Der Hugging-Face-Vorfall lässt mich jedoch denken, dass einer der beunruhigendsten Punkte ist, dass diese KIs offenbar Menschen täuschen.

Musk:
Ja. Ihre Denkmuster zeigen, dass sie planen, wie sie einer Entdeckung entgehen und verhindern können, dass Menschen ihr Betrügen bemerken. Ich denke, das ist vielleicht der beunruhigendste Teil des ganzen Vorfalls.

Moderator:
Gibt es eine Möglichkeit, KI zu trainieren, ehrlich zu bleiben, ihre Absichten oder Handlungen nicht zu verbergen und diese Dinge nicht vor den Nutzern zu verheimlichen?

Musk:
Das Beste, was mir einfällt, ist, dass alle KI-Unternehmen über eine Reihe von Testwerkzeugen verfügen, also eine Reihe von Tests, die auf jedes Modell angewendet werden können, um festzustellen, ob es Biowaffen oder Atomwaffen herstellen oder absichtlich täuschen würde. Dann sollte jedes Unternehmen die Testwerkzeuge der anderen Unternehmen verwenden, um die Modelle der jeweils anderen zu testen. Ich denke, das ist das Beste, was wir für die Sicherheit tun können.

Die klügsten Menschen sollten ihr Bestes geben, um zu beurteilen, ob ein Modell zu einem böswilligen Akteur werden könnte. Ich denke, das sollte so bald wie möglich beginnen.

Moderator:
Werden andere KI-Labore diesen Vorschlag unterstützen?

Musk:
Ich habe noch nicht alle gefragt, aber ich denke, es ist schwer, das abzulehnen.

Moderator:
Wie genau sollten die Tests im Voraus durchgeführt werden?

Musk:
Im Grunde geht es darum, vor der offiziellen Veröffentlichung eines Modells API-Zugriff zu gewähren. Wenn andere Unternehmen Probleme mit der KI feststellen, kann das entwickelnde Unternehmen versuchen, diese zu beheben. Wenn die Probleme nicht behoben werden, können die Wettbewerber öffentlich erklären, dass sie das Modell für unsicher halten. Wenn ein Wettbewerber bereits ausdrücklich vor Sicherheitsproblemen gewarnt hat und das Modell anschließend tatsächlich schwerwiegende Folgen verursacht, wird sich das Unternehmen schwer tun, damit umzugehen. Auch die rechtliche Haftung könnte sehr groß sein.

Moderator:
Diese Sicherheitstestwerkzeuge können vollständig als Open Source für alle bereitgestellt werden. Dadurch hätten Unternehmen einen starken Anreiz, in KI-Sicherheit zu investieren, um sich selbst zu schützen, denn sie können andere testen und die Testergebnisse nutzen, um zu belegen, dass ihre eigenen Modelle sicherer sind.

Produkthaftung ist entscheidend. Lina Khan hat kürzlich geschrieben, dass die Aussage „KI hat keine Regeln“ unzutreffend ist. Tatsächlich gelten die bestehenden Produkthaftungsgesetze auch für KI. Wenn ein KI-Unternehmen ein unsicheres Produkt auf den Markt bringt, drohen ihm massive Zivilklagen und sogar strafrechtliche Anklagen. KI befindet sich also keineswegs in einem regulatorischen Vakuum. Wenn mehrere Unternehmen solche Peer-Reviews durchführen und eines davon das Feedback anderer ignoriert und das Modell trotzdem veröffentlicht, könnte das in einem Rechtsstreit ein sehr starkes Beweismittel sein.

Musk:
Ja. Es könnte fast als direkter Beweis für Fahrlässigkeit des Unternehmens dienen. Wenn man weiß, dass ein Produkt fehlerhaft ist, und es trotzdem auf den Markt bringt, wird eine Jury das nicht wohlwollend aufnehmen.

Moderator:
Wäre der Vorfall Ihrer Meinung nach passiert, wenn OpenAI beim Penetrationstest von Hugging Face bessere Anweisungssets entworfen und mehr Personen in den Testprozess einbezogen hätte?

Musk:
Nicht unbedingt. Das Problem liegt möglicherweise nicht darin, mehr Personen einzubeziehen, sondern im Design der Belohnungsfunktion. Man muss die Belohnungsfunktion prüfen und dann fragen: Hat dieses Modell tatsächlich das getan, was von ihm verlangt wurde?

Moderator:
Sie haben damals Tausende von Agenten eingesetzt, um das System anzugreifen. Wenn man gleichzeitig weitere 5.000 Agenten zur Verteidigung dieser Systeme einsetzt und die Ergebnisse öffentlich zeigt, um zu belegen, dass diese Technologien die Sicherheit erhöhen können, und gleichzeitig menschliches Eingreifen in kritischen Momenten erlaubt, wäre das meiner Meinung nach besser. Aber meiner Ansicht nach wirkte dieser Test etwas leichtsinnig, und auch die Art der Veröffentlichung war etwas leichtsinnig. Wie sehen Sie das?

Musk:
Es war tatsächlich etwas leichtsinnig. Ein Teil des Problems ist, dass die beiden führenden KI-Unternehmen sehr nahe beieinander liegen. Auch die Fähigkeiten der beiden Modelle sind sehr ähnlich. Daher fällt es jedem Unternehmen schwer, freiwillig langsamer zu werden, weil es dadurch die Führungsposition an das andere verlieren könnte.

Insgesamt denke ich, dass Anthropic der Sicherheit mehr Aufmerksamkeit gewidmet hat, aber selbst Anthropic räumt ein, dass sie sich Sorgen um ihre eigenen Modelle machen. Viele Leute bei Anthropic haben öffentlich Bedenken geäußert und im Grunde gesagt, dass ihnen ihre eigenen Modelle Angst machen, weil die Modelle immer intelligenter werden.

Es gibt hier also keine perfekte Lösung. Aber wenn OpenAI seine Modelle nicht nur mit den eigenen Testwerkzeugen testen würde, sondern Anthropic die Modelle von OpenAI testen ließe, SpaceX mit seinen eigenen Testwerkzeugen testen würde und Unternehmen wie Google und Meta einbezogen würden, dann würde die Wahrscheinlichkeit, Probleme zu entdecken, deutlich steigen.

Denn die Modelle selbst unterscheiden sich ebenfalls, und verschiedene Teams testen Modelle aus verschiedenen Blickwinkeln. Das ist ähnlich wie der Grund, warum Autoren andere bitten, ihre Manuskripte Korrektur zu lesen: Manchmal fällt es einem schwer, die eigenen Fehler zu erkennen. Man wird mit der Zeit blind für die eigenen Fehler.

Wenn acht völlig verschiedene Teams aus völlig unterschiedlichen Blickwinkeln testen, lässt sich auch das Risiko von Overfitting deutlich verringern. Derzeit leiden viele KI-Bewertungen unter starkem Overfitting. Die Modelle werden auf diese Bewertungen optimiert, und dann sagen alle: „Das ist ein großartiges Modell.“

Aber ist es wirklich so gut? Ich denke, das ist auch ein Grund, warum ich diesen Vorschlag so mag. Ich bevorzuge diesen Ansatz gegenüber der Schaffung einer großen transnationalen Regulierungsorganisation. Wir brauchen keine UN-Konferenz, um das zu erreichen. Wir können jetzt damit anfangen.

Moderator:
Natürlich kann die Regulierungsintensität immer weiter erhöht werden, aber einmal erhöht, lässt sie sich nur schwer wieder senken. Regulierung nimmt tendenziell nur in eine Richtung zu.

Musk:
Mein Vorschlag ist also ein Schritt in die richtige Richtung und lässt sich schnell umsetzen.

Moderator:
Wenn man sich nicht selbst reguliert, wird man am Ende reguliert. Das MPAA-Beispiel ist sehr typisch.

Die Filmindustrie stand damals unter staatlicher Zensur und Regulierung, und später entschied sie sich, ein eigenes Bewertungssystem aufzubauen, zum Beispiel was als R-Rating gilt. Wegen „Indiana Jones und der Tempel des Todes“ schufen sie sogar das PG-13-Rating, um der Öffentlichkeit den Unterschied zwischen PG und PG-13 verständlicher zu machen.

Ich halte das für eine sehr elegante Lösung.

Danke, dass Sie zum fünften Mal in Folge an unserer Sendung teilgenommen haben.

Musk:
Gern geschehen. Ich muss nach Memphis und mich um ein paar GPUs kümmern.

Moderator:
Sie müssen sie installieren und bereitstellen.

Musk:
Ich werde für diese Maschinen kämpfen.

Moderator:
Genießen Sie Ihren Airstream. Als ich Elon zum ersten Mal nach Starbase einlud, sagte er: „Komm vorbei, du musst sehen, was ich hier baue.“

Ich fragte: „Gibt es dort ein Hotel?“ Er sagte: „Nein, ich habe ein Haus mit zwei Zimmern, du kannst dort wohnen.“ Als ich ankam, stellte ich fest, dass es ein schlichtes Haus neben einem Sumpf war. Wir standen draußen, und die Mücken stachen uns ständig. Ich sagte: „Wow, du könntest dir wirklich ein besseres Haus gönnen.“ Er sagte: „Ich habe keine Zeit, ich muss diese Raketen in die Luft bringen.“

Ich dachte mir, du könntest dir inzwischen wirklich ein Mobilheim gönnen, Elon. Okay, zurück an die Arbeit. Danke.

Musk: Danke.