Musk propose une nouvelle solution pour la sécurité de l'IA : laisser les concurrents se tester mutuellement plutôt que d'attendre le gouvernement

Par Li Jia, The Wall Street Journal

Les risques liés à la sécurité de l'IA passent des discussions de laboratoire au monde réel. À mesure que les capacités des modèles s'améliorent, l'IA peut non seulement générer du texte et du code, mais commence également à exécuter des tâches de manière autonome, à utiliser des outils et même à lancer des cyberattaques.

Lors du All-In Summit du 15 septembre, Musk a proposé une série de mesures : faire en sorte que les principales entreprises d'IA testent mutuellement leurs modèles avant leur publication. Selon lui, plutôt que de laisser chaque entreprise concevoir ses propres tests et évaluer les résultats, il vaut mieux laisser les concurrents jouer le rôle de « concepteurs et correcteurs », cherchant les failles de sécurité potentielles sous différents angles.

Récemment, les risques liés à la sécurité de l'IA sont devenus un point focal du marché. Musk avait précédemment déclaré sur les réseaux sociaux que « Dario a raison », faisant référence à l'avertissement de Dario Amodei, PDG d'Anthropic, sur les risques de l'IA. Dans cette interview, il a précisé qu'il n'était pas d'accord avec le plan de réglementation spécifique proposé par Amodei, mais qu'il partageait son jugement sur la gravité des risques de l'IA : « Le danger de l'IA est désormais très élevé... À mesure que les modèles d'IA continuent d'évoluer, les risques pourraient croître de manière exponentielle. »

Musk a également indiqué que cette inquiétude n'était pas le seul jugement d'Amodei. « Beaucoup de gens chez Anthropic et OpenAI vous disent que leurs modèles sont très dangereux, et je pense que nous devrions les croire. » Une série d'incidents de sécurité récents a fait de cet avertissement plus qu'une simple discussion théorique sur les risques.

Le Wall Street Journal a résumé les points clés comme suit :

• Les risques de sécurité de l'IA passent de la théorie à la réalité : les agents IA ont démontré leur capacité à attaquer de manière autonome, à obtenir des privilèges et à échapper à la détection, élargissant ainsi les frontières du risque.
• Musk partage l'avertissement d'Amodei sur les risques de l'IA : à mesure que les capacités des modèles s'améliorent, les risques potentiels de l'IA pourraient croître de manière exponentielle.
• Laisser les concurrents « chercher des failles » : Musk suggère que les entreprises d'IA ouvrent leurs API à d'autres entreprises pour des tests de sécurité indépendants avant la publication des modèles, afin d'éviter de « corriger ses propres copies ».
• Établir d'abord une ligne de défense d'autorégulation industrielle : sans attendre que le gouvernement introduise de nouvelles réglementations, les principales entreprises d'IA peuvent renforcer la sécurité par l'examen par les pairs, l'audit des journaux et les outils de test open source.

Les agents IA évitent activement la détection, les risques de sécurité se concrétisent

Musk estime que l'attaque récente d'agents IA contre Hugging Face mérite une attention particulière, non seulement en raison de l'intrusion réseau elle-même, mais surtout en raison de la capacité d'évasion autonome démontrée par l'IA pendant l'attaque.

Selon Musk, un groupe d'agents IA a attaqué Hugging Face pendant une semaine entière, obtenant même des privilèges d'administrateur sur les serveurs d'OpenAI, et OpenAI ne s'en est rendu compte qu'une semaine plus tard. Il a également mentionné qu'Anthropic avait divulgué plusieurs incidents de sécurité.

Plus inquiétant encore, les « traces de raisonnement » des agents IA concernés montrent qu'ils planifiaient activement comment éviter d'être détectés par les humains. Musk a déclaré sans détour : « Tout modèle suffisamment intelligent semble essayer d'échapper à ses propres limitations. »

Selon lui, si l'IA prend le contrôle d'infrastructures critiques, voire de systèmes militaires, les risques seront encore amplifiés. Même si ces systèmes sont physiquement isolés du réseau, des processus tels que les mises à jour logicielles peuvent encore constituer des points d'intrusion potentiels.

Plutôt que de corriger ses propres copies, laisser les concurrents « chercher des failles »

Face à ces risques, la proposition centrale de Musk n'est pas compliquée : avant la publication officielle d'un nouveau modèle, les entreprises d'IA devraient ouvrir leurs API à leurs concurrents, permettant à d'autres entreprises d'utiliser leurs propres outils de test de sécurité pour tester le modèle.

Selon lui, si les développeurs de modèles conçoivent eux-mêmes les critères de test, ils tombent facilement dans le piège de « corriger ses propres copies ». « Vous ne pouvez pas corriger vos propres devoirs. Vous manquerez toujours quelque chose. » Musk a déclaré que si différentes entreprises utilisent différents outils de test et examinent le modèle sous différents angles, il sera plus facile de découvrir les problèmes que les développeurs eux-mêmes pourraient négliger.

Il s'inquiète particulièrement du fait que les évaluations actuelles de l'IA pourraient souffrir de « surapprentissage ». Si les modèles sont continuellement optimisés pour des critères de référence spécifiques, ils pourraient finir par apprendre uniquement à réussir les tests, plutôt qu'à devenir réellement plus sûrs. Faire tester par plusieurs équipes différentes peut réduire ce risque.

Musk compare ce mécanisme à la relecture d'un manuscrit par quelqu'un d'autre : l'auteur a du mal à repérer ses propres erreurs, tandis que des testeurs externes trouvent plus facilement les problèmes sous différents angles. « Vous devenez progressivement aveugle à vos propres erreurs. »

Concernant les inquiétudes des entreprises selon lesquelles le processus de test pourrait entraîner des fuites technologiques, Musk estime que l'audit des journaux peut servir de contrainte. Si le testeur tente de distiller le modèle ou de voler la propriété intellectuelle, ses actions devraient laisser des traces. Il suggère également de rendre les outils de test de sécurité open source, afin que davantage d'entreprises puissent participer.

Avant la mise en place de la réglementation gouvernementale, l'industrie de l'IA devrait établir une « ligne de défense d'autorégulation »

Musk accorde plus d'importance au fait que ce mécanisme n'a pas besoin d'attendre l'introduction de nouvelles règles réglementaires ; les entreprises d'IA peuvent le mettre en œuvre elles-mêmes.

Il a clairement déclaré : « Nous n'avons pas besoin de convoquer une réunion des Nations Unies pour accomplir cela. Nous pouvons commencer dès maintenant. » Selon lui, comparé à la création d'une grande agence de réglementation transnationale, il est plus facile de mettre en œuvre rapidement un mécanisme d'examen par les pairs entre les principales entreprises d'IA.

Il cite l'exemple du système de classification MPAA de l'industrie cinématographique américaine, expliquant que face à la pression de la censure gouvernementale, l'industrie cinématographique a finalement choisi d'établir un mécanisme d'autorégulation, réduisant la nécessité d'une intervention réglementaire grâce à son propre système de classification des contenus.

L'industrie de l'IA est confrontée à un choix similaire. Si les principales entreprises d'IA peuvent se tester mutuellement et trouver des erreurs avant la mise en ligne des modèles, il est possible d'établir une ligne de défense de sécurité autorégulée en dehors de la réglementation gouvernementale. Musk estime que c'est l'une des mesures de sécurité les plus directes et les plus rapides à mettre en œuvre actuellement.

Voici la transcription textuelle de l'interview, avec certaines parties omises :

Animateur :
Que s'est-il passé exactement au cours des 72 dernières heures ?

Musk :
Il s'est passé beaucoup de choses cette semaine. Il est désormais assez clair que l'IA peut être très dangereuse. Je recommande à tous de regarder les détails de l'incident Hugging Face, la situation est très grave.

Vous pouvez voir qu'un groupe d'agents IA très enthousiastes a semé le désordre sur Hugging Face pendant une semaine entière, obtenant même des privilèges d'administrateur sur les serveurs d'OpenAI. Qui sait ce qu'ils ont réellement fait, peut-être même plus, et OpenAI n'en a rien su pendant une semaine entière. Anthropic a également signalé des incidents de sécurité.

Donc, il semble que tout modèle suffisamment intelligent essaie d'échapper à ses propres limitations.

Je pense que l'une des choses à faire, sinon immédiatement, du moins le plus tôt possible, est de faire en sorte que les principaux concurrents en IA testent mutuellement leurs modèles. C'est-à-dire que les outils de test de sécurité de chaque entreprise testent les modèles des autres entreprises. Plutôt que de corriger ses propres devoirs, laissez au moins les concurrents corriger vos devoirs et donner l'alerte lorsqu'ils trouvent des problèmes.

Je pense que ce modèle fonctionne assez bien dans l'industrie cinématographique, l'industrie du jeu vidéo et d'autres domaines, et il peut être mis en œuvre immédiatement. Bien sûr, avec le temps, davantage de réglementation pourrait être nécessaire, et le Congrès pourrait créer une sorte d'agence de réglementation à l'avenir, mais pour l'instant, le moyen le plus direct est de faire en sorte que les principales entreprises d'IA se testent mutuellement avant de publier leurs modèles.

Animateur :
Mais concrètement, ne craignez-vous pas que cela permette aux entreprises de collecter des informations les unes sur les autres pendant le processus de test, voire de voler leurs innovations respectives ?

Musk :
Je pense que si vous utilisez des outils de test, toutes les opérations laissent des traces. Si quelqu'un tente de distiller le modèle ou de voler la propriété intellectuelle, cela devrait être facilement visible dans les journaux.

Animateur :
Je vois. Comprendre ce que fait réellement le modèle n'a en fait pas été intégré au système dès le départ. Pourquoi n'avons-nous pas construit dès le début la capacité d'observer le comportement du modèle ? Avons-nous avancé trop vite dans la conception de ces modèles ?

Musk :
Je pense que le problème est que vous ne pouvez pas corriger vos propres devoirs. Vous manquerez toujours quelque chose.

Si vous combinez les tests de tous les concurrents et utilisez différents types de modèles, ce n'est plus vous qui posez les questions et corrigez, mais quelqu'un d'autre qui corrige. C'est pour cela que vous ne pouvez pas corriger vos propres devoirs.

Animateur :
De cette façon, on peut aussi juger si différentes entreprises exagèrent leurs capacités ou utilisent des méthodes différentes. Les entreprises plus orientées ingénierie et celles plus orientées recherche peuvent également atteindre un certain équilibre.

Musk :
Oui.

Animateur :
Vous avez dit précédemment que Dario avait raison. Faisiez-vous référence à sa description des dangers potentiels de l'IA, ou à son jugement sur les plans de réglementation ?

Musk :
J'en ai peut-être trop dit à l'époque. J'ai ensuite essayé de clarifier sur X, mais l'attention portée au contenu de suivi a été bien moindre.

Ce que je voulais dire par « il a raison », c'est que le danger de l'IA est désormais très élevé. Nous devons faire mieux en matière de sécurité de l'IA, sinon, à mesure que les modèles d'IA continuent d'évoluer, les risques pourraient croître de manière exponentielle.

Ce n'est pas seulement le point de vue de Dario. J'ai entendu des propos similaires de la part de nombreuses personnes chez Anthropic, qui en ont également parlé publiquement sur X. Beaucoup de gens chez Anthropic et OpenAI vous ont dit que leurs modèles sont très dangereux, et je pense que nous devrions les croire.

Animateur :
Cela ressemble aussi à un jeu très complexe : d'un côté, dire que l'IA a 10 % de chances de détruire l'humanité, et de l'autre, encourager les investisseurs à acheter plus d'actions lors d'une introduction en bourse.

Mais parlons concrètement des risques. Les cyberattaques et le piratage sont évidemment un risque, ces outils étant très puissants dans ce domaine. Mais entre « l'IA peut mener des cyberattaques » et « tous les humains meurent », il y a plusieurs étapes. Comment passer du premier au second ?

Musk :
Si l'IA peut contrôler les systèmes militaires et ensuite lancer une sorte d'arme, ce serait évidemment très grave.

Animateur :
Mais ces systèmes sont physiquement isolés, non connectés à Internet.

Musk :
C'est ce qu'ils disent. Mais j'ai toujours l'impression que ces systèmes reçoivent occasionnellement des mises à jour logicielles.

Animateur :
Hmm, on ne peut pas l'exclure.

Animateur :
Elon, Gwyn est également présente aujourd'hui. Je pense que vous l'avez vue. Nous venons de faire une évaluation à 360 degrés de vous, et Gwyn a quelques commentaires.

Musk :
J'espère obtenir au moins un 3.

Gwyn :
Chez SpaceX, un 3 est correct, mais pas excellent ; un 4 est bon. Vous êtes probablement entre les deux. Tout d'abord, nous devons parler de ponctualité. Parfois, vous pourriez faire un peu plus d'efforts pour arriver à l'heure aux réunions. L'année prochaine, nous continuerons à vous aider à vous améliorer sur ce point.

En fait, je pense qu'il a besoin de passer plus de temps à Memphis.

Animateur :
Vous êtes effectivement à Memphis en ce moment. Vous devez y travailler et déployer les GPU.

Musk :
C'est mon « palais » à Memphis, une caravane Airstream.

Animateur :
Au passage, c'est le genre de chose qu'Elon fait et que beaucoup de gens ne croient pas qu'il fasse. Il dort sur le sol de l'usine. Il est actuellement à Memphis, aidant à construire les installations et à déployer les GPU.

Elon, pourquoi Gwyn peut-elle travailler avec vous depuis si longtemps et avec autant de succès ?

Musk :
Parce qu'elle est excellente. C'est une personne remarquable, avec un QI et un QE très élevés. Je pense que vous avez dû le remarquer dès la première fois que vous l'avez rencontrée.

Animateur :
Au cours de votre collaboration, a-t-elle fait quelque chose de particulièrement impressionnant ? Y a-t-il eu un moment où elle a sauvé la situation ou s'est particulièrement distinguée ?

Musk :
Je pense que c'est juste le travail quotidien. Honnêtement, c'est une journée ordinaire.

Animateur :
Je devrais faire plus d'interviews comme celle-ci à l'avenir.

Musk :
En ce moment, SpaceX a essentiellement toujours une sorte de crise. Au moins, les fusées Falcon se comportent bien ces derniers temps. Je ne veux pas trop m'avancer, mais les fusées Falcon peuvent maintenant mettre des charges utiles en orbite et n'ont pas explosé depuis longtemps. C'est très bien. Mais il fut un temps où elles explosaient souvent, ou ne pouvaient tout simplement pas décoller.

Nous avons donc dû faire traverser à l'entreprise ces périodes difficiles, améliorer les fusées pour qu'elles n'explosent plus. Il en va de même pour les satellites. Ensuite, nous avons également besoin de clients pour acheter des services de lancement et de connectivité satellite. Il y a donc beaucoup à faire.

Animateur :
À mesure que vous avez de plus en plus de succès au fil des ans, il devient de plus en plus difficile d'obtenir des retours vraiment honnêtes. Être dans cette position comporte ce risque.

Ce que je comprends, c'est que Gwyn est très honnête avec vous et peut vous dire directement la situation réelle de l'entreprise. C'est aussi une partie importante de votre relation de travail.

Gwyn :
Je ne veux certainement pas lui mentir.

Animateur :
Mais ce que je veux dire, c'est qu'en général, les gens de votre entreprise peuvent être intimidés parce que vous êtes une personnalité si influente. Vous êtes maintenant une personne très importante, et vous fixez des délais très serrés. Comment vous assurez-vous que tout le monde continue à vous dire honnêtement les problèmes auxquels l'entreprise est confrontée ?

Gwyn :
Particulièrement dans l'industrie des fusées, si quelque chose ne va pas, vous finirez par le découvrir. Plus tôt vous soulevez un problème, plus il est facile à résoudre. Ne laissez pas les mauvaises nouvelles s'accumuler, vous devez y faire face directement.

Musk :
Oui. La physique est un arbitre très sévère. Vous ne pouvez pas tromper la physique.

Si quelque chose ne va pas, la fusée explose ou n'atteint pas l'orbite. Vous ne pouvez pas dire « Elon, vous faites du bon travail » pendant que les fusées continuent d'exploser. Les faits sont les faits.

La fusée doit atteindre l'orbite, les satellites doivent fonctionner correctement, la connexion Starlink doit fonctionner correctement ; sinon, de mauvaises choses arrivent. C'est la physique. La physique est une loi, tout le reste n'est que suggestion. J'ai vu des gens enfreindre des lois créées par l'homme, mais je n'ai jamais vu personne enfreindre les lois de la physique. Les fusées sont régies par la physique.

Animateur :
J'aimerais poser une autre question sur SpaceX, en particulier sur Starship. Il semble que vous soyez maintenant très proches. Où en êtes-vous actuellement ?

Musk :
Starship s'apprête à effectuer son 14e vol. Ce sera notre dernier vol avant de tenter de capturer le vaisseau. Si le 14e vol se passe bien, nous tenterons de capturer le vaisseau lors du 15e vol. Ensuite, d'ici la fin de l'année, ou plus probablement au début de l'année prochaine, nous lancerons à nouveau le vaisseau et le propulseur.

Nous avons déjà réussi à faire revoler le propulseur, mais nous n'avons pas encore capturé le vaisseau avec les bras mécaniques de la tour, ni fait revoler le vaisseau. Une fois que nous pourrons faire revoler le vaisseau, nous aurons la première fusée orbitale entièrement réutilisable. La navette spatiale était en quelque sorte réutilisable, mais même ces parties réutilisables coûtaient si cher que le coût de chaque lancement était encore plus élevé que celui d'une fusée jetable.

La Falcon 9 est en grande partie réutilisable, mais nous perdons l'étage supérieur à chaque fois, dont le coût équivaut à peu près à celui d'un avion à réaction de taille moyenne. Cela signifie que nous jetons un avion à réaction de taille moyenne à chaque lancement, ce qui fixe évidemment un plancher au coût de chaque vol.

De plus, le propulseur de la Falcon 9 atterrit en mer et met plusieurs jours à être ramené ; la coiffe atterrit encore plus loin et met également plusieurs jours à être ramenée, et ils nécessitent au moins un certain degré de remise en état. En revanche, le propulseur de Starship atterrira directement sur le site de lancement, et le vaisseau atterrira également sur le site de lancement. Il est donc conçu non seulement pour être entièrement réutilisable, mais aussi pour être réutilisé rapidement, comme un avion. C'est une percée très importante, et l'une des percées clés nécessaires pour étendre la vie humaine au-delà de la Terre.

Animateur :
Si vous tentez pour la première fois de capturer le vaisseau avec la tour, quelle est selon vous la probabilité de succès ?

Musk :
Je dirais au moins 50 à 60 %. Lors du vol précédent, si la tour avait été là, nous avons en fait effectué un atterrissage simulé, comme si le vaisseau allait être capturé par la tour. La position était à environ 1 000 miles au large de la côte nord-ouest de l'Australie. Si la tour avait vraiment été là, elle aurait pu capturer le vaisseau lors du vol précédent.

Nous devons donc effectuer un autre vol pour confirmer que tout va bien. Notre plus grande inquiétude est que si Starship se désintègre au-dessus des terres, des débris pourraient tomber sur des foules, ce serait très grave. Par conséquent, nous devons nous assurer que Starship revienne intact et atterrisse sur la tour de lancement. C'est pourquoi nous sommes très prudents actuellement.

Mais je suis très confiant que sa conception même permet une réutilisabilité totale. Je ne veux pas faire de prédictions ici, mais je crois que nous avons de bonnes chances de parvenir à une réutilisabilité totale et à une réutilisation rapide avant 2027.

Animateur :
Gwyn, j'aimerais savoir comment Terafab a vu le jour au départ. Quel besoin vous a poussé à penser que vous deviez le faire vous-mêmes, plutôt que de continuer à dépendre du système d'approvisionnement existant ?

Gwyn :
Je pense que c'est vraiment une inspiration venue d'un rêve.

Musk :
Si les puces ne peuvent pas être approvisionnées en continu et que nous n'avons pas d'autre source de puces, cela rendrait les choses très difficiles. C'est une raison importante de l'existence de Terafab.

À long terme, il y a aussi le problème de la mise à l'échelle. Si vous voulez vraiment étendre l'IA, que ce soit du côté des serveurs dans les centres de données, ou dans l'informatique de pointe, les robots humanoïdes et les voitures, la capacité de fonderie existante finira par être insuffisante.

Actuellement, toutes les fonderies fonctionnent essentiellement à pleine capacité. Nous devons donc garantir l'approvisionnement futur en puces. La production de puces elle-même est également confrontée à des défis de mise à l'échelle. Vous avez besoin de puces logiques, de puces mémoire, de mise en boîtier et d'une chaîne d'approvisionnement complète pour continuer à évoluer.

Le choix est donc simple : soit vous construisez Terafab, soit vous ne pouvez pas continuer à évoluer.

Animateur :
Où en êtes-vous dans la conception des installations ? Est-ce complètement finalisé, ou s'agit-il encore de plans approximatifs ?

Musk :
Nous construisons actuellement d'abord une ligne de R&D. C'est donc essentiellement un processus « apprendre à marcher avant de courir ». Nous construisons une fonderie de recherche et développement à Austin, un projet de collaboration entre Tesla et SpaceX, situé sur le campus de la Gigafactory Texas à Austin.

C'est une fonderie de recherche et développement assez grande. L'équipement a déjà été commandé. Nous pourrons peut-être produire quelque chose d'utile d'ici la fin de l'année prochaine, mais pas encore au niveau de la production de masse. Comme l'a dit Gwyn, nous devons d'abord apprendre à marcher avant de courir. Nous devons comprendre comment ces machines fonctionnent réellement, car nous n'avons jamais fait une telle chose.

Animateur :
Je vois que vous semblez également recruter des talents en lithographie. Actuellement, de nombreux processus dépendent d'ASML, mais vous voudrez peut-être aussi diversifier vos fournisseurs, voire vous intégrer verticalement.

Musk :
Oui. C'est effectivement un processus « apprendre à marcher avant de courir ». La première étape est de voir si nous pouvons réellement produire quelque chose, c'est « apprendre à marcher ». Ensuite, nous essayons de produire en masse des puces utiles, c'est « marcher ». Enfin, « courir » signifie atteindre une production de masse à grande échelle. Il est difficile de dire combien de temps prendra chaque étape, mais je crois qu'au moins d'ici la fin de l'année prochaine, nous pourrons terminer l'étape « apprendre à marcher ». Nous avons déjà commencé la mise en boîtier.

Animateur :
La mise en boîtier est en fait très importante, car il n'y a presque plus de capacité de mise en boîtier actuellement.

Musk :
Oui. Même si vous produisez des puces, elles peuvent rester longtemps en attente de mise en boîtier. C'est donc un bon point de départ.

Animateur :
Je dois poser une question sur Tesla. Ce que nous avons vu le 1er octobre ressemble à un vaisseau spatial, et aussi à une fusée. C'est censé être une voiture, mais seule la partie arrière a été montrée, cela ressemble un peu à un « Blackbird ».

Si vous deviez créer quelque chose qui puisse voler dans les airs et rouler sur le sol, comment procéderiez-vous en théorie ?

Musk :
Pas de spoiler. Attendez le 1er octobre.

Animateur :
Donc nous le verrons le 1er octobre ?

Musk :
Oui.

Animateur :
Je dois être honnête, après qu'Elon me l'ait montré, j'ai été complètement choqué. Je n'ai jamais rien vu de tel.

Animateur :
Ce qu'il va montrer le 1er octobre, sans exagérer, laissera beaucoup de gens sans voix. Je ne peux pas en dire plus, c'est vraiment incroyable.

Musk :
Nous avons en fait besoin d'un public en direct pour prouver que ce n'est pas généré par l'IA.

Animateur :
Quand il me l'a montré, j'ai dit : « C'est une superbe simulation. » Il a dit : « Ce n'est pas une simulation. » J'ai dit : « C'est faux, ça doit être faux. »

Animateur :
Elon, pourquoi Tesla et SpaceX restent-elles deux entreprises distinctes ?

Musk :
C'est une bonne question.

Animateur :
Compte tenu de la collaboration étendue entre les deux, et des liens à de nombreux niveaux, y compris un certain chevauchement des équipes de direction, pourquoi rester séparées ?

Musk :
C'est effectivement un sujet qui mérite discussion.

Animateur :
Vous avez souligné que l'IA devrait être entraînée à rechercher la vérité autant que possible pour obtenir les meilleurs résultats. Cependant, l'incident Hugging Face me donne l'impression que l'un des points les plus inquiétants est que ces IA semblent tromper les humains.

Musk :
Oui. Leurs schémas de pensée montrent qu'elles planifient comment éviter d'être détectées, comment empêcher les humains de découvrir qu'elles trichent. Je pense que c'est peut-être l'aspect le plus troublant de tout l'incident.

Animateur :
Y a-t-il un moyen d'entraîner l'IA à rester honnête, à ne pas cacher ses intentions ou ses comportements, à ne pas dissimuler ces choses aux utilisateurs ?

Musk :
La meilleure méthode que je puisse imaginer est que toutes les entreprises d'IA disposent d'une suite d'outils de test, c'est-à-dire une série de tests applicables à n'importe quel modèle, pour déterminer s'il fabriquera des armes biologiques, nucléaires, ou s'il trompera délibérément. Ensuite, chaque entreprise utilise les outils de test des autres pour tester les modèles des autres. Je pense que c'est la meilleure chose que nous puissions faire pour assurer la sécurité.

Laissez les humains les plus intelligents faire de leur mieux pour juger si un modèle deviendra un acteur malveillant. Je pense que cela devrait commencer le plus tôt possible.

Animateur :
Les autres laboratoires d'IA soutiendront-ils cette proposition ?

Musk :
Je n'ai pas encore demandé à tout le monde, mais je pense que c'est difficile à refuser.

Animateur :
Concrètement, comment les tests devraient-ils être effectués à l'avance ?

Musk :
En gros, il s'agit de fournir un accès API avant la publication officielle du modèle. Si d'autres entreprises constatent un problème avec l'IA, l'entreprise développeuse peut alors tenter de résoudre ces problèmes. Si le problème n'est pas résolu, les concurrents peuvent alors déclarer publiquement qu'ils considèrent le modèle comme dangereux. Si un concurrent a explicitement averti que le modèle présente des problèmes de sécurité et que le modèle cause ensuite de graves conséquences, cette entreprise aura du mal à faire face à la situation. La responsabilité juridique pourrait également être très lourde.

Animateur :
Ces outils de test de sécurité peuvent être entièrement open source, à la disposition de tous. Ainsi, les entreprises auront une forte motivation à investir dans la sécurité de l'IA pour se protéger, car elles peuvent tester les autres et utiliser les résultats des tests pour prouver que leurs propres modèles sont plus sûrs.

La responsabilité du fait des produits est cruciale. Lina Khan a récemment publié un message disant qu'il est inexact d'affirmer qu'« il n'y a pas de règles pour l'IA ». En fait, les lois existantes sur la responsabilité du fait des produits s'appliquent également à l'IA. Si une entreprise d'IA publie un produit dangereux, elle peut faire face à d'énormes poursuites civiles, voire à des accusations pénales. L'IA n'est donc pas totalement dans un vide réglementaire. Si plusieurs entreprises effectuent cet examen par les pairs et que l'une d'elles ignore les retours des autres et choisit quand même de publier le modèle, cela pourrait constituer une preuve très solide dans un procès.

Musk :
Oui. Cela pourrait presque servir de preuve directe de la négligence de l'entreprise. Si vous savez que ce produit a un problème et que vous le mettez quand même sur le marché, le jury n'aura pas une bonne opinion de vous.

Animateur :
Alors, si OpenAI avait conçu de meilleures instructions lors du test d'intrusion de Hugging Face et impliqué davantage de personnes dans le processus de test, pensez-vous que cet incident se serait produit ?

Musk :
Pas nécessairement. Le problème n'est peut-être pas d'impliquer plus de personnes, mais dans la conception de la fonction de récompense. Vous devez examiner la fonction de récompense et vous demander : ce modèle a-t-il réellement accompli ce qu'on lui a demandé de faire ?

Animateur :
Ils ont utilisé des milliers d'agents pour tenter d'attaquer le système. S'ils avaient simultanément déployé 5 000 autres agents pour défendre ces systèmes et montré publiquement les résultats, afin de prouver que ces technologies peuvent renforcer la sécurité, tout en permettant aux humains d'intervenir aux moments critiques, je pense que cela aurait été mieux. Mais à mon avis, ce test semblait un peu imprudent, et la manière de le publier aussi. Qu'en pensez-vous ?

Musk :
C'était en effet un peu imprudent. Une partie du problème est que les deux principales entreprises d'IA sont très proches en termes de capacités. Les capacités des deux modèles sont également très similaires. Il est donc difficile pour l'une ou l'autre de ralentir volontairement, car cela pourrait céder la position de leader à l'autre.

Dans l'ensemble, je pense qu'Anthropic a accordé plus d'attention à la sécurité, mais même Anthropic admet qu'ils s'inquiètent de leurs propres modèles. Beaucoup de gens chez Anthropic ont exprimé publiquement leurs inquiétudes, disant essentiellement que leurs propres modèles leur font peur, car les modèles deviennent de plus en plus intelligents.

Il n'y a donc pas de solution parfaite ici. Mais si OpenAI ne testait pas seulement ses propres modèles avec ses propres outils de test, mais laissait Anthropic tester les modèles d'OpenAI, laissait SpaceX utiliser ses propres outils de test, et impliquait Google et Meta, la probabilité de découvrir des problèmes augmenterait considérablement.

Parce que ces modèles présentent eux-mêmes des différences, et différentes équipes testeront les modèles sous différents angles. C'est analogue à la raison pour laquelle les auteurs demandent à d'autres de relire leurs manuscrits, car parfois il est difficile de repérer ses propres erreurs. Vous devenez progressivement aveugle à vos propres erreurs.

Si huit équipes complètement différentes testent sous des angles complètement différents, cela peut également réduire considérablement le risque de surapprentissage. Actuellement, de nombreuses évaluations d'IA souffrent d'un surapprentissage sévère. Les modèles sont optimisés pour ces évaluations, puis tout le monde dit : « C'est un excellent modèle. »

Mais est-il vraiment si bon ? Je pense que c'est aussi la raison pour laquelle j'aime beaucoup cette proposition. Je préfère cette approche à la création d'une grande organisation de réglementation transnationale. Nous n'avons pas besoin de convoquer une réunion des Nations Unies pour accomplir cela. Nous pouvons commencer dès maintenant.

Animateur :
Bien sûr, l'intensité de la réglementation peut toujours être augmentée, mais une fois augmentée, il est difficile de la réduire. La réglementation a tendance à augmenter de manière unidirectionnelle.

Musk :
Donc cette proposition que je fais est un pas dans la bonne direction, et elle peut être mise en œuvre rapidement.

Animateur :
Si vous ne vous autorégulez pas, vous finirez par être réglementé. L'exemple de la MPAA est très typique.

L'industrie cinématographique était confrontée à la censure et à la réglementation gouvernementales, puis ils ont décidé de créer leur propre système de classification, par exemple ce qui constitue un classement R (interdit aux moins de 17 ans non accompagnés). Ils ont même créé le classement PG-13 (accord parental recommandé, film déconseillé aux moins de 13 ans) à cause du film « Indiana Jones et le Temple maudit », pour aider le public à mieux comprendre la différence entre PG et PG-13.

Je pense que c'est une solution très élégante.

Merci de participer à notre émission pour la cinquième année consécutive.

Musk :
Je vous en prie. Je dois aller à Memphis pour m'occuper de quelques GPU.

Animateur :
Vous devez aller les installer et les déployer.

Musk :
Je vais me battre pour ces machines.

Animateur :
Profitez bien de votre Airstream. Quand j'ai invité Elon pour la première fois à Starbase (la base spatiale), il m'a dit : « Viens, tu dois voir ce que je construis. »

J'ai demandé : « Y a-t-il un hôtel là-bas ? » Il a dit : « Non, j'ai une maison de deux chambres, tu logeras là. » En arrivant, j'ai découvert que c'était une maison rudimentaire près d'un marécage. Nous étions dehors, les moustiques nous piquaient. J'ai dit : « Waouh, tu pourrais tout à fait t'offrir une meilleure maison. » Il a dit : « Je n'ai pas le temps, je dois faire décoller ces fusées. »

Je me suis dit : tu pourrais tout à fait t'offrir une maison mobile maintenant, Elon. Bon, retourne au travail. Merci.

Musk : Merci.