Michael JohnsonIn einem agentischen System übernimmt der Prozessor Aufgaben rund um das Modell: Er verwaltet Zustände und Warteschlangen, ruft Werkzeuge auf, verarbeitet Daten und startet Laufzeitumgebungen. Am 13. Oktober stellte Arm eine Methodik zur Bewertung von CPUs für solche Workloads vor, unterstützt von Fujitsu, Meta und OpenAI. Zugleich veröffentlichte das Unternehmen Vergleichsergebnisse der Arm AGI CPU mit Prozessoren von AMD EPYC.
Für Infrastrukturbetreiber zählt nicht nur die Leistung eines einzelnen Chips, sondern auch, wie viel Arbeit ein Server-Rack innerhalb festgelegter Grenzen für Stromverbrauch und Platzbedarf bewältigen kann. In der Analyse von Signal65 erzielte die AGI CPU bei sieben Workloads im Durchschnitt die 1,99-fache modellierte Leistung pro Rack im Vergleich zur AMD EPYC 9755. Der Wert bezieht sich auf ein modelliertes Gesamtrack und die ausgewählten Tests.
Was Arm messen lassen will
Die Methodik unterteilt die Arbeit eines agentischen Systems in Framework-Funktionen – etwa Zustandsverwaltung, Routing, Planung und Telemetrie – sowie Aufgaben von Werkzeugen wie Kompilierung, Codeausführung, Suche und Datenbankzugriff. Das Arm-Dokument zur Methodik schlägt zwei einander ergänzende Ansätze vor: Komponententests für wiederholbare CPU-Vergleiche und End-to-End-Tests zur Bewertung des Ergebnisses einer Aufgabe.
Diese Aufteilung hilft dabei, die Ursache von Verzögerungen zu bestimmen: Sie können bei der CPU, dem Modell, dem Netzwerk oder der Anwendung liegen. Komponententests können einzelne Vorgänge isolieren, während End-to-End-Tests die Ausführungszeit und den Durchsatz der gesamten Aufgabe sichtbar machen. Arm versteht das Dokument als Grundlage, um Messgrenzen und Workload-Kategorien festzulegen und Bereiche zu benennen, in denen sich die Branche noch auf ein gemeinsames Vorgehen einigen muss.
Wie die Vergleichsergebnisse zustande kamen
Die Analyse von Signal65 umfasst sieben CPU-Workloads, darunter agentische Ausführung, Werkzeuge, Suche und die Unterstützung beim Betrieb von Modellen. Signal65 nennt für die modellierte Leistung pro Rack im Durchschnitt den Faktor 1,99× gegenüber der EPYC 9755; die Einzelergebnisse der sieben Workloads reichten von 1,43× bis 3,19×. Die Rack-Berechnung stützt sich auf die gemessene Serverleistung und die Nennleistung der Systeme: In einem Rack mit 24 kW setzt das Modell 21 bis 23 Arm-Server gegenüber 13 AMD-Servern an.
Für drei Gruppen agentischer Aufgaben nennt Signal65 durchschnittliche Rack-Faktoren von 1,7× für Werkzeugnutzung, 2,0× für agentische Prozesse und Orchestrierung sowie 2,2× für Schlussfolgerungen und Planung. Bei einem separaten Test zur Erstellung isolierter Umgebungen wurde die AGI CPU mit der AMD EPYC 9965 verglichen. Signal65 berichtet von einer um 45 Prozent kürzeren Kaltstartzeit und einer um 27 Prozent kürzeren Warmstartzeit; im beschriebenen Fall mit vierfacher Überbuchung betrug die Verkürzung 41 Prozent. Dieser separate Vergleich betrifft einen anderen Prozessor und andere Messgrößen.
Was bei der Serverauswahl zu beachten ist
Selbst wenn die Modellberechnung auf einem Beschleuniger läuft, übernimmt die CPU einen beträchtlichen Teil des agentischen Arbeitszyklus: Sie führt Code und Werkzeuge aus, verarbeitet Daten und koordiniert parallele Aufgaben. Bei hoher Auslastung können diese Vorgänge die Ausführungszeit und die Auslastung der Beschleuniger beeinflussen.
Teams, die Server auswählen, sollten ihre eigenen Arbeitsabläufe profilieren: Welche Werkzeuge werden aufgerufen, wie oft werden Laufzeitumgebungen erstellt, wie viele Aufgaben laufen gleichzeitig und welche Latenzen sind akzeptabel? Anschließend lassen sich wiederholbare CPU-Vorgänge und das vollständige Szenario getrennt unter vergleichbaren Leistungsgrenzen messen. Ein solches Ergebnis lässt sich besser auf die konkrete Infrastruktur übertragen als ein Faktor aus einem fremden Test.
Signal65 weist darauf hin, dass die Ergebnisse auf frühen AGI-CPU-Systemen erzielt und die Rack-Werte anhand von Servermessungen und der Nennleistung berechnet wurden. Das Unternehmen plant weitere Tests mit Serienhardware und einem breiteren Spektrum an Workloads. Arms Ankündigung ist daher vor allem als Vorschlag relevant, den CPU-Anteil agentischer Systeme mithilfe einer Kombination aus wiederholbaren Komponenten und abgeschlossenen Aufgaben zu messen. Der Wert von 1,99× ist ein Anhaltspunkt für die beschriebene Modellierung, aber keine allgemeingültige Leistungsbewertung für jedes Rack.