Michael JohnsonEine externe Bewertung von KI-Risiken hängt davon ab, welche Informationen Forschende erhalten: Interne Tests, das Modelltraining und Schutzmechanismen sind dem Unternehmen in der Regel besser bekannt als externen Prüfenden. Am 15. Oktober 2026 teilte Anthropic mit, einem Team von METR Zugang zu seinen internen Tools und Systemen zu gewähren. Sechs Mitarbeitende der gemeinnützigen Organisation erhielten Geräte und Arbeitsplätze des Unternehmens; METR kann die Ergebnisse seiner Risikobewertungen eigenständig veröffentlichen.
Wie Anthropics Beschreibung der Vereinbarung erläutert, ist der Zugang der Gruppe ungefähr mit dem der internen Risikobewertungsteams des Unternehmens vergleichbar. Anthropic-Mitarbeitende sind dazu angehalten, Informationen mit den METR-Mitgliedern so zu teilen wie mit Kolleginnen und Kollegen, die an Risikobewertungen arbeiten. Dadurch lassen sich nicht nur das Verhalten der Modelle, sondern auch Informationen zu ihrem Training, den Bewertungsverfahren und den Schutzmechanismen untersuchen.
Was METR überprüfen kann
METR kann Analysen zu Risikostufen, Vorfällen und den Praktiken von Anthropic veröffentlichen. Das Unternehmen erklärt, kein Vetorecht gegen eine Veröffentlichung zu haben, darf jedoch die Schwärzung von Informationen aus zuvor festgelegten Kategorien verlangen – etwa Kundendaten, durch das Anwaltsgeheimnis geschützte Materialien und Angaben zur Modellarchitektur. Die Entscheidung, ob eine konkrete Passage unter diese Ausnahmen fällt, liegt bei Anthropic. METR behält seinerseits das Recht, den Umfang des erhaltenen Zugangs und die bereitgestellten Informationen zu beschreiben.
Die unabhängige Bewertung verbindet also den Zugang zu internen Materialien mit Einschränkungen bei der Offenlegung bestimmter Informationen. Für die Leserschaft sind sowohl die Erkenntnisse von METR als auch die Beschreibung relevant, welche Materialien die Gruppe untersuchen konnte und welche Einschränkungen sich auf die Veröffentlichung auswirkten. Anthropic begründet das Kooperationsmodell mit dem Ziel, die Wissenslücke zwischen externen Bewertenden und dem Labor selbst zu verringern.
Wie die Zugangsberechtigung geregelt ist
Anthropic bezeichnet die Vereinbarung mit METR als dritte Stufe seines eigenen Zugangsmodells für Bewertende. Sie sieht einen Zugang vor, der mit dem der internen Risikobewertungsteams vergleichbar ist, sowie Veröffentlichungsrechte ähnlich denen der zweiten Stufe. Die Arbeit ist auf eine kleine METR-Gruppe beschränkt, die an verbindliche Vereinbarungen gebunden ist; andere Mitarbeitende der Organisation, auch solche, die an anderen Projekten mit Anthropic arbeiten, sind von dieser Tätigkeit getrennt.
Das Unternehmen teilte mit, seit etwa einem Jahr mit METR zusammenzuarbeiten, unter anderem bei der Überprüfung von Risikoberichten. Andere Partnerschaften befinden sich in einem früheren Stadium: SecureBio prüft das Kapitel über chemische und biologische Waffen im Anthropic-Bericht vom August; nach Abschluss dieser Arbeit erwägt das Unternehmen, den Zugang auszuweiten. Mit Accenture und Faculty baut Anthropic eine separate Zusammenarbeit zu Modellbewertungen, Red Teaming und dem Testen von Schutzmaßnahmen auf. Mit weiteren Organisationen, darunter Hugging Face, führt das Unternehmen erste Gespräche.
Was das für Unternehmen bedeutet
Für Organisationen, die Modelle in sensiblen Prozessen einsetzen, wird sich der praktische Nutzen des Modells an den veröffentlichten Bewertungen zeigen: Welche Risiken wurden geprüft, welche Daten untersucht und welche Einschränkungen beeinflussten die Schlussfolgerungen? Anthropics Ankündigung beschreibt die Bedingungen für Zugang und Veröffentlichung, nennt aber keine neuen Ergebnisse einer Modellbewertung. Unternehmenskunden sollten künftige Materialien von METR daher als Belege für konkrete Prüfungen verstehen, nicht als abschließendes Urteil über die Sicherheit sämtlicher Modelle des Unternehmens.
Das Ereignis vom 15. Oktober erweitert den Zugang externer Bewertender zu internen Informationen und sichert METR die Möglichkeit, Erkenntnisse unter vereinbarten Ausnahmen zu veröffentlichen. Erst der Inhalt der späteren Bewertungen und eine klare Beschreibung ihrer Bedingungen werden zeigen, wie nützlich dieses Modell für die unabhängige Prüfung von KI-Risiken ist.