Michael JohnsonDans un système agentique, le processeur prend en charge les opérations autour du modèle : il gère l’état et les files d’attente, appelle les outils, traite les données et lance les environnements d’exécution. Le 13 octobre, Arm a présenté une méthodologie d’évaluation des processeurs pour ces charges de travail, avec le soutien de Fujitsu, Meta et OpenAI. L’entreprise a également publié une comparaison entre l’Arm AGI CPU et les processeurs AMD EPYC.
Pour les opérateurs d’infrastructure, le résultat d’une seule puce ne fait pas tout : le volume de travail qu’une baie de serveurs peut accomplir dans les limites de puissance et d’espace disponibles compte également. Dans l’analyse de Signal65, l’AGI CPU affiche une performance par rack modélisée moyenne 1,99 fois supérieure à celle de l’AMD EPYC 9755 sur sept charges de travail. Ce chiffre concerne un modèle de baie complète et les tests sélectionnés.
Ce qu’Arm propose de mesurer
La méthodologie répartit le travail d’un système agentique entre les fonctions du framework — par exemple, la gestion de l’état, le routage, la planification et la télémétrie — et les tâches des outils, telles que la compilation, l’exécution de code, la recherche et les opérations sur bases de données. Dans son document consacré à la méthodologie, Arm propose deux approches complémentaires : des mesures par composant pour comparer les processeurs de manière reproductible, et des tests de bout en bout pour évaluer le résultat d’une tâche.
Cette distinction aide à déterminer l’origine de la latence : le processeur, le modèle, le réseau ou l’application. Les tests par composant peuvent isoler des opérations particulières, tandis que les tests de bout en bout révèlent le temps d’exécution et le débit de la tâche complète. Arm présente ce document comme un cadre pour définir les limites de mesure, les catégories de charges de travail et les domaines où le secteur doit encore s’accorder sur une approche commune.
Comment les résultats de la comparaison ont été obtenus
L’analyse de Signal65 porte sur sept charges de travail CPU, dont l’exécution agentique, les outils, la recherche et la prise en charge du service des modèles. Signal65 indique un facteur moyen de 1,99× pour la performance par rack modélisée par rapport à l’EPYC 9755 ; les résultats des sept charges de travail vont de 1,43× à 3,19×. Le calcul à l’échelle du rack s’appuie sur les performances mesurées des serveurs et leur puissance nominale : le modèle prévoit 21 à 23 serveurs Arm dans un rack de 24 kW, contre 13 serveurs AMD.
Pour trois groupes de tâches agentiques, Signal65 indique des facteurs moyens par rack de 1,7× pour les tâches faisant appel à des outils, de 2,0× pour les processus agentiques et l’orchestration, et de 2,2× pour le raisonnement et la planification. Lors d’un test distinct de création d’environnements isolés, l’AGI CPU a été comparé à l’AMD EPYC 9965 : Signal65 fait état d’une réduction de 45 % du temps de démarrage à froid, de 27 % à chaud et de 41 % dans le cas décrit avec une surallocation par quatre. Il s’agit d’une comparaison distincte, portant sur un autre processeur et d’autres métriques.
Ce qu’il faut prendre en compte dans le choix des serveurs
Même lorsque le modèle est calculé sur un accélérateur, le processeur prend en charge une part importante du cycle agentique : il lance le code et les outils, traite les données et coordonne les tâches parallèles. En cas de forte concurrence, ces opérations peuvent influer sur le temps d’exécution et l’utilisation des accélérateurs.
Les équipes qui choisissent des serveurs devraient profiler leurs propres processus : quels outils sont appelés, à quelle fréquence les environnements d’exécution sont créés, combien de tâches s’exécutent simultanément et quels délais sont acceptables. Elles peuvent ensuite mesurer séparément les opérations CPU reproductibles et le scénario complet, dans des conditions de puissance comparables. Ces résultats correspondront mieux à leur infrastructure qu’un facteur repris d’un test réalisé ailleurs.
Signal65 précise que les résultats ont été obtenus sur des systèmes AGI CPU préliminaires et calculés à l’échelle du rack à partir des mesures des serveurs et de leur puissance nominale ; l’entreprise prévoit des essais supplémentaires sur du matériel de série et avec un éventail plus large de charges de travail. L’annonce d’Arm vaut donc avant tout comme proposition de mesurer la part CPU des systèmes agentiques en combinant des composants reproductibles et des tâches menées à leur terme. Le chiffre de 1,99× constitue un repère pour la modélisation décrite, et non une évaluation universelle des performances de n’importe quel rack.