New York Post questiona relação próxima entre METR e Anthropic

O CEO da Anthropic, Dario Amodei, defendeu recentemente que organizações de avaliação independentes como a METR tenham acesso de longo prazo a empresas de IA de ponta, obtendo permissões quase ao nível de funcionários para inspecionar medidas de segurança, incidentes e processos de treino de modelos. No entanto, uma investigação do New York Post descobriu que a relação entre a METR e o círculo de segurança de IA da Anthropic é muito mais próxima do que auditorias externas típicas. A METR chamava-se originalmente ARC Evals, incubada no Alignment Research Center fundado por Paul Christiano. Christiano trabalhou anteriormente com Amodei na OpenAI, e o New York Post noticiou que os dois foram também antigos colegas de quarto; mais tarde tornou-se um dos cinco administradores iniciais do Anthropic Long-Term Benefit Trust. A atual membro do pessoal técnico da METR, Ajeya Cotra, é esposa de Christiano e anteriormente geriu financiamento de segurança de IA na Coefficient Giving. Quando a METR avaliou a Anthropic, a OpenAI, a Google e a Meta este ano, não existia qualquer política aplicável de conflitos de interesses, nem foi realizado um processo formal de escusa. A METR revelou que, entre os funcionários e colaboradores diretamente envolvidos nos projetos, pelo menos seis tinham relações pessoais próximas com funcionários das empresas de IA. A METR afirmou que não aceita financiamento de empresas de IA de ponta e dos seus funcionários, nem cobra pelas avaliações de risco; no entanto, estas empresas fornecem um grande número de tokens de modelos gratuitamente.