Jensen Huang e Amodei em lados opostos

Autor original: Su Yang

Editor original: Xu Qingyang

Fonte original: Tencent Technology

Se a IA de ponta deve continuar a acelerar ou travar tornou-se o tema mais controverso em Silicon Valley.

Em torno da controvérsia, os gigantes de Silicon Valley começaram a tomar partido. Amodei, Altman, Musk e Hassabis formaram o "campo da pausa". Jensen Huang é um firme defensor do "campo da aceleração", criticando a "teoria do apocalipse da IA" por falta de base científica; Yann LeCun continua a ridicularizar Amodei, dizendo: "(Amodei) quando ainda estava na OpenAI, já achava que o GPT-2 era demasiado perigoso para ser open source. Eu já gozava com ele na altura, e agora todos podem continuar."

Em comparação, Zuckerberg e Nadella, entre outros, mostram-se relativamente neutros.

O facto de os gigantes tomarem partido significa que Silicon Valley não chegou a consenso sobre a pausa dos modelos de ponta, o que decorre das diferenças de posicionamento no ecossistema de cada um na cadeia da indústria de IA. Os líderes ao nível dos modelos podem pedir uma pausa por razões diferentes, mas querer que empresas como a Oracle, a AWS, que detêm encomendas de poder computacional de centenas de milhares de milhões de dólares, e a NVIDIA, no topo da cadeia alimentar, parem, é impossível obter uma resposta positiva.

Em Washington, o apelo à "pausa" não só não obteve apoio, como suscitou uma série de questionamentos.

"Parece-me um pouco um cheiro de cavalo de Troia (It feels a little bit to me like a bit of a Trojan horse)." JD Vance disse numa entrevista, uma frase que reflete a visão real de Washington — quando as empresas que fabricam o cavalo insistem repetidamente em tornar a porta mais estreita, deve-se examinar para que empresas essa porta é realmente adequada.

Pausa, alerta e uma carta de demissão

O estopim desta controvérsia foi a demissão de um investigador da Anthropic, Jacob Coxon.

Ele tinha passado três anos a fazer investigação de pré-treino na OpenAI e na Anthropic, participando pessoalmente no treino dos modelos mais avançados. Num longo texto no X, quase não usou rodeios: "Nenhuma das duas empresas agiu de forma responsável. Estão a dirigir-se a toda a velocidade para uma superinteligência capaz de se autoaperfeiçoar, apostando as nossas vidas."

Afirmou diretamente que as pessoas dentro dos laboratórios acreditam genuinamente que a IA pode matar toda a humanidade dentro de dez anos, e que isto não é de forma alguma uma encenação de relações públicas. Muitos colegas já começaram a usar "momento crítico" e "fim de jogo" para descrever a fase atual. Coxon chegou mesmo a abdicar das ações que estavam prestes a ser-lhe atribuídas. Ele só esteve na Anthropic durante quatro meses, e segundo as regras da empresa, precisava de seis meses para exercer as opções.

Jacob Coxon, antigo investigador da Anthropic

Logo a seguir, Evan Hubinger, responsável pela ciência do alinhamento de IA na Anthropic, respondeu publicamente: o Jacob tem razão, nós acreditamos mesmo a sério que a IA pode matar toda a humanidade. Pessoalmente, acho que a probabilidade de isso acontecer dentro de dez anos é superior a 10%. A Anthropic está a fazer o seu melhor, mas ainda não temos um plano claro para resolver o alinhamento da superinteligência, e estamos longe de estar no caminho certo.

Estes dois tiros de partida trouxeram diretamente para a praça pública as preocupações que antes fermentavam sobretudo dentro dos laboratórios. Neste contexto, o fundador e CEO da Anthropic, Amodei, publicou de imediato um longo texto, propondo sistematicamente "abrandar a investigação de ponta". Deixou de falar apenas em "investir mais em segurança", passando a exigir explicitamente o controlo ativo do ritmo do salto de capacidades, para dar tempo aos mecanismos de segurança de o acompanharem.

Apresentou um plano em três passos: primeiro, a Anthropic introduz unilateralmente avaliadores independentes com permissões de nível de funcionário; depois, promover que as empresas de IA dos países democráticos estabeleçam normas de segurança comuns e limites máximos de crescimento de capacidades; finalmente, tentar uma coordenação global.

Altman, Musk e Hassabis rapidamente se manifestaram publicamente em apoio, formando o "campo da pausa".

Antes do aparecimento das teses de "abrandamento" de Jacob Coxon e Amodei, os "pioneiros da IA" como Yoshua Bengio e Geoffrey Hinton já vinham a lançar iniciativas de atenção ao risco.

Sobre a demissão de Coxon, Bengio afirmou que os cientistas dos laboratórios de IA de ponta conseguem muitas vezes ver as capacidades dos modelos mais recentes mais cedo do que o público, pelo que o seu julgamento sobre os riscos merece ser levado a sério.

Ao mesmo tempo, Bengio deu exemplos concretos, dizendo que os atuais sistemas de IA já possuem capacidades de ataques informáticos e de persuasão, e que, se forem usados para prejudicar os interesses humanos, podem causar consequências graves. Receia ainda que, à medida que a IA adquira capacidades de planeamento com horizontes temporais mais longos, estes riscos possam aumentar.

Questionado pela BBC sobre a probabilidade de a IA "matar toda a humanidade" nos próximos dez anos ser superior a 10%, Geoffrey Hinton também afirmou que esse número "não é irracional", mas sublinhou que ninguém sabe realmente como dar uma estimativa fiável, porque a humanidade nunca antes se confrontou com "a existência de uma espécie que pode em breve ser mais inteligente do que nós".

Hinton considera que a IA poderá no futuro ser usada para conceber vírus biológicos perigosos, vírus informáticos e lançar ciberataques em grande escala. Por isso, a humanidade precisa de encontrar métodos de controlo eficazes antes que os riscos fiquem fora de controlo.

Ao contrário dos proponentes da nova vaga da "tese da pausa" em Silicon Valley, os "pioneiros da IA" apelam sobretudo à atenção ao risco e à exploração de mecanismos de controlo do risco, em vez de travarem diretamente. Além disso, do ponto de vista da posição, as opiniões e sugestões do meio académico são mais puras, enquanto as iniciativas dos laboratórios de ponta, mesmo que ostentem publicamente o rótulo de "pela humanidade", dificilmente se conseguem dissociar a 100% de considerações comerciais.

É exatamente por isso que JD Vance diz que a "tese da pausa" parece um cavalo de Troia.

Divergências e tomada de partido

Os campos "aceleracionista", "partidários do abrandamento" e "centrista". Fonte: The New York Times

A 15 de setembro, vários líderes de empresas tecnológicas falaram sucessivamente na conferência Salesforce Dreamforce, e esta controvérsia começou a transformar-se num confronto direto de opiniões.

Nesse dia, Amodei, Jensen Huang e Altman falaram todos sobre segurança da IA, mas deram respostas diferentes sobre o ritmo de desenvolvimento, a responsabilidade pela segurança e as ações que as empresas devem tomar.

Quando Amodei partilhou o palco com o CEO da Salesforce, Marc Benioff, voltou a sublinhar que as empresas de IA devem estabelecer padrões de segurança mais elevados através das suas próprias ações. Considera que as empresas que adotam proativamente medidas de segurança mais rigorosas podem ser uma forma de impulsionar todo o setor.

Por outras palavras, a atitude de Amodei começou a mudar, passando do apelo ao abrandamento de todo o setor para a instalação autónoma de salvaguardas de segurança pelas empresas.

Jensen Huang afirmou que "não são necessárias novas leis, nem nova regulamentação". Na sua opinião, velocidade e segurança não são uma relação de tudo ou nada; as empresas podem avançar o mais rapidamente possível no desenvolvimento de modelos; se descobrirem que perderam o controlo, ou que o produto não pode garantir segurança, devem fazer uma pausa para resolver o problema.

A atitude de Benioff foi mais aberta e enfatizou a autonomia. Disse que, se uma empresa achar que deve abrandar, deve abrandar; se achar que deve acelerar, deve acelerar, e ao mesmo tempo deve assumir a responsabilidade pelas suas decisões.

O fundador e CEO da OpenAI, Altman, afirmou no Dreamforce que está muito confiante de que a OpenAI e toda a indústria de IA se podem desenvolver com segurança sem causar danos significativos ao público. Disse também que ficou desapontado por a sua opinião ter sido interpretada como um apoio ao abrandamento do ritmo de desenvolvimento da IA por todo o setor.

Por outras palavras, Altman também começou a mudar, sublinhando que o que queria expressar não era um apelo ao abrandamento do setor, mas sim que o trabalho de segurança e monitorização deve preceder o aumento das capacidades.

Zuckerberg, por seu lado, não defende que as ações de segurança de uma empresa se baseiem na premissa de que outras empresas de IA devem abrandar em simultâneo. Considera que a introdução de agências de avaliação independentes e consultores externos para testar a segurança dos modelos é a melhor prática do setor. Revelou ainda que a Meta já tinha abrandado por iniciativa própria o desenvolvimento da ferramenta de IA Muse, em vez de esperar que outras empresas chegassem primeiro a consenso sobre o abrandamento do desenvolvimento da IA.

A atitude do CEO da Microsoft, Satya Nadella, é em certa medida consistente com a de Altman, incentivando a instalação de salvaguardas de segurança e também a concorrência plena.

"A primeira coisa que temos de fazer é servir a humanidade e garantir que a tecnologia está sob controlo humano. Ao mesmo tempo, a difusão alargada da tecnologia de IA é o mais crítico; tem de haver escolha e concorrência. A segurança deve ser levada a sério, mas resolvida de forma engenhosa e transparente, e não mistificada." disse Nadella a 15 de setembro na cimeira All-In Summit 2026.

Além destes empresários, a voz de Washington juntou-se também à discussão.

Depois de Trump ter telefonado diretamente a Jensen Huang, expressando publicamente o seu apoio à continuação do desenvolvimento da indústria de IA, o copresidente do Conselho de Consultores de Ciência e Tecnologia do Presidente dos EUA, David Sacks, afirmou em seguida que as empresas tecnológicas podem continuar a avançar com a IA de ponta, questionando ao mesmo tempo os motivos por trás das propostas de "abrandamento" de algumas empresas.

Quem define as regras?

Com o alargamento da discussão, a controvérsia estendeu-se do próprio risco da IA para a questão de saber se as normas de segurança da IA de ponta devem ser definidas pelas próprias empresas ou se exigem a intervenção do governo e de instituições independentes.

A Bloomberg, citando fontes conhecedoras do assunto, noticiou que a Anthropic, a Google e a OpenAI já tinham discutido a criação de uma instituição de normas para a indústria da inteligência artificial.

Em julho, Hassabis publicou um artigo propondo a criação de uma instituição de normas de IA liderada pelos EUA, com um modo de funcionamento semelhante ao da Autoridade Reguladora da Indústria Financeira dos EUA (FINRA). Esta instituição poderia testar os modelos avançados de IA antes da sua implementação formal, para determinar se cumprem as normas de segurança correspondentes.

Segundo a visão de Hassabis, esta instituição não deve ser totalmente liderada pelo governo, mas sim adotar um modelo de parceria público-privada. O governo desempenharia um papel de supervisão, a indústria de IA forneceria o financiamento, e seriam integrados especialistas técnicos independentes de topo, bem como representantes da comunidade open source.

Hassabis tenta acrescentar uma verificação de segurança independente antes de os modelos entrarem no mundo real, o que se aproxima de uma lógica regulatória anunciada pelo governo dos EUA no início de junho: as empresas podem voluntariamente submeter os modelos à avaliação do governo antes da publicação pública, podendo dar acesso até 30 dias antes da publicação, deixando claro que não haverá aprovação obrigatória nem licença de publicação.

O que foi mais dramático foi o lançamento posterior do Fable 5 e do Mythos 5, que não seguiram este processo, mas foram descobertos como tendo capacidades extremamente fortes de ataque e defesa cibernética, acabando por ser temporariamente retirados do ar pelo BIS dos EUA sob a forma de controlo de exportações.

No entanto, mesmo assim, a atitude política limitou-se a exigir a instalação de salvaguardas de segurança, sem fazer qualquer declaração ou orientação de abrandamento.

Com uma opinião semelhante à de Hassabis está o cientista-chefe da OpenAI, Jakub Pachocki. No início de setembro, também sublinhou que a partilha de normas de segurança e a coordenação internacional em torno do desenvolvimento futuro da IA devem ser prioridades atuais.

Ninguém carregou realmente no travão

Até agora, esta controvérsia ainda não alterou verdadeiramente o ritmo de desenvolvimento das empresas de IA de ponta.

A Anthropic, a OpenAI, a Google, a xAI e outras empresas continuam a avançar com a investigação e desenvolvimento de modelos, e a competição em torno do poder computacional, dos centros de dados e da infraestrutura de IA também não parou por causa desta controvérsia. No mercado de capitais, surgiram mudanças diferentes: a Anthropic ainda está a preparar a sua IPO deste ano, enquanto a OpenAI adiou o plano de IPO para 2027.

Amodei quer arrastar todo o setor para uma paragem, acompanhando a Anthropic na procura de soluções para instalar salvaguardas de segurança quando as capacidades dos modelos ultrapassam os limites, o que pode, em certa medida, ser entendido como "ser generoso com o que é dos outros".

É também por isso que Amodei tem sido rotulado de "anjinho que finge ser imaculado".

Sobre este tema do controlo de riscos, o ponto de vista representado por Jensen Huang está, na verdade, mais de acordo com a situação atual: se uma empresa tem preocupações, ou descobre problemas, pode perfeitamente explorar soluções por si própria e partilhar com o setor as soluções eficazes que encontrar.

Fazer parar ao mesmo tempo uma equipa de 100 pessoas e uma equipa de 1000 pessoas não tem qualquer base de consenso. Até o próprio Amodei sabe muito bem que, se só ele parar, muito provavelmente será ultrapassado por concorrentes como a OpenAI.

Mais importante ainda, há divergências ao nível da governação empresarial. A Anthropic e a OpenAI são ambas empresas de benefício público (Public Benefit Company), podem gritar "pelo futuro da humanidade, abdicamos de interesses financeiros de curto prazo", podem dizer aos investidores "isto já foi consensualizado há muito tempo", mas empresas cotadas como a Google, a Microsoft e a Meta têm deveres fiduciários legais para com os acionistas do mercado secundário.

Empresas com dois tipos de interesses diferentes dificilmente chegarão a consenso neste ponto.

Há ainda um pormenor que pode ter sido ignorado. Antes da "tese da pausa", a Anthropic e a OpenAI lançaram sucessivamente os seus modelos mais fortes, um foi o Fable 5.1 e o outro o GPT-6 Astra.

Com todos estes apelos, os novos modelos das outras empresas serão ou não lançados?