Le roi Charles réunit les dirigeants d'OpenAI, d'Anthropic, de NVIDIA et d'autres pour discuter de la sécurité de l'IA

Le 17 septembre, le roi Charles III du Royaume-Uni a convoqué les dirigeants de Nvidia, OpenAI, Anthropic et Google DeepMind pour un sommet sur la sécurité de l'IA à Dumfries House, dans l'East Ayrshire, en Écosse, appelant à ce que l'intelligence artificielle soit « fermement placée sur la voie du service à l'humanité ». Le sommet était coorganisé par la Fondation Ditchley et trois des organisations caritatives du roi, avec la participation du ministre britannique de l'IA, Kanishka Narayan. Le palais de Buckingham a déclaré que les représentants ont discuté de la possibilité pour l'industrie et le gouvernement de parvenir à un consensus sur un ensemble de principes directeurs communs pour le développement de l'IA, mais aucune convention contraignante n'a été annoncée. Quelques jours avant le sommet, le PDG d'Anthropic, Dario Amodei, a publié un long article intitulé « We Must Pace the Frontier », préconisant que l'industrie ralentisse délibérément le rythme de l'amélioration des capacités des modèles. Sam Altman d'OpenAI et Elon Musk de xAI ont tous deux exprimé publiquement leur accord dans la journée. Dans l'article, Amodei a souligné que les systèmes d'IA sont de plus en plus capables d'améliorer leurs propres successeurs et a mentionné un incident impliquant une évasion d'agent d'OpenAI. Le président d'OpenAI, Greg Brockman, a confirmé que cet incident avait contraint l'entreprise à retarder plusieurs lancements et à restructurer ses processus de développement et de surveillance des modèles, tout en préconisant que le ralentissement ne s'applique qu'aux laboratoires construisant les systèmes de frontière les plus puissants. Le premier jour de bourse après la publication de la nouvelle, Nvidia a brièvement chuté de 3 %, Intel de plus de 5 % et AMD d'environ 6 %.