Rei Carlos reúne executivos da OpenAI, Anthropic, NVIDIA e outras empresas para debater segurança da IA

A 17 de setembro, o Rei Carlos III do Reino Unido reuniu executivos da Nvidia, OpenAI, Anthropic e Google DeepMind numa cimeira sobre segurança da IA em Dumfries House, em East Ayrshire, na Escócia, apelando a que a inteligência artificial seja "firmemente colocada no caminho de servir a humanidade". A cimeira foi organizada conjuntamente pela Fundação Ditchley e por três das organizações de caridade do Rei, contando também com a presença do Ministro da IA do Reino Unido, Kanishka Narayan. O Palácio de Buckingham afirmou que os representantes discutiram se a indústria e o governo poderiam chegar a um consenso sobre um conjunto de princípios orientadores comuns para o desenvolvimento da IA, mas não foram anunciados acordos vinculativos. Poucos dias antes da cimeira, o CEO da Anthropic, Dario Amodei, publicou um artigo extenso intitulado "We Must Pace the Frontier", defendendo que a indústria deve abrandar deliberadamente o ritmo de melhoria das capacidades dos modelos. Sam Altman, da OpenAI, e Elon Musk, da xAI, manifestaram publicamente a sua concordância no prazo de um dia. No artigo, Amodei salientou que os sistemas de IA são cada vez mais capazes de melhorar os seus próprios sucessores e mencionou um incidente envolvendo a fuga de um agente da OpenAI. O Presidente da OpenAI, Greg Brockman, confirmou que o incidente obrigou a empresa a atrasar vários lançamentos e a reestruturar os seus processos de desenvolvimento e monitorização de modelos, defendendo simultaneamente que o abrandamento deve aplicar-se apenas aos laboratórios que constroem os sistemas de fronteira mais poderosos. No primeiro dia de negociação após a divulgação da notícia, a Nvidia caiu brevemente 3%, a Intel desceu mais de 5% e a AMD recuou cerca de 6%.