New York Post hinterfragt enge Beziehung zwischen METR und Anthropic

Anthropic-CEO Dario Amodei hat kürzlich dafür plädiert, dass unabhängige Bewertungsorganisationen wie METR langfristigen Zugang zu führenden KI-Unternehmen erhalten und dabei Berechtigungen auf nahezu Mitarbeiterebene bekommen, um Sicherheitsmaßnahmen, Vorfälle und Modelltrainingsprozesse zu überprüfen. Eine Untersuchung der New York Post ergab jedoch, dass die Beziehung zwischen METR und dem KI-Sicherheitsumfeld von Anthropic viel enger ist als bei typischen externen Audits. METR hieß ursprünglich ARC Evals und wurde im von Paul Christiano gegründeten Alignment Research Center inkubiert. Christiano arbeitete zuvor mit Amodei bei OpenAI zusammen, und die New York Post berichtete, dass die beiden auch ehemalige Mitbewohner waren; später wurde er eines der ersten fünf Treuhänder des Anthropic Long-Term Benefit Trust. Der derzeitige technische Mitarbeiter von METR, Ajeya Cotra, ist Christianos Ehefrau und verwaltete zuvor KI-Sicherheitsförderungen bei Coefficient Giving. Als METR in diesem Jahr Anthropic, OpenAI, Google und Meta bewertete, gab es keine anwendbare Richtlinie zu Interessenkonflikten und auch kein formelles Vermeidungsverfahren. METR gab bekannt, dass unter den direkt an den Projekten beteiligten Mitarbeitern und Kooperationspartnern mindestens sechs enge persönliche Beziehungen zu Mitarbeitern der KI-Unternehmen hatten. METR erklärte, dass es keine Finanzierung von führenden KI-Unternehmen und deren Mitarbeitern annimmt und keine Gebühren für Risikobewertungen erhebt; diese Unternehmen stellen jedoch eine große Anzahl von Modell-Tokens kostenlos zur Verfügung.