Michael JohnsonВ агентной системе процессор выполняет работу вокруг модели: управляет состоянием и очередями, вызывает инструменты, обрабатывает данные и запускает среды выполнения. 13 октября Arm представила методику оценки процессоров для таких нагрузок при поддержке Fujitsu, Meta и OpenAI. Вместе с ней компания опубликовала результаты сравнения Arm AGI CPU с процессорами AMD EPYC.
对于基础设施运营商而言，重要的不仅是单颗芯片的表现，还有服务器机架在既定功率和空间限制下可完成的工作量。Signal65 的分析显示，在七种工作负载中，AGI CPU 的每机架模拟性能平均是 AMD EPYC 9755 的 1.99 倍。该指标针对整机架模型和所选测试。
Arm 提议测量什么
该方法将智能体系统的工作分为框架功能——例如状态管理、路由、调度和遥测——以及工具任务，例如编译、代码执行、搜索和数据库操作。Arm 在方法白皮书中提出两种互为补充的方式：通过组件级测量，实现 CPU 的可重复比较；通过端到端测试，评估任务执行结果。
这种划分有助于确定延迟来自何处：CPU、模型、网络还是应用。组件测试可以隔离单项操作，端到端测试则能呈现整个任务的耗时和吞吐量。Arm 将该文件定位为确定测量边界、工作负载类别以及行业仍需就通用方法达成共识领域的基础。
比较结果如何得出
Signal65 的分析涵盖七种 CPU 工作负载，包括智能体执行、工具、搜索和模型服务支持。Signal65 给出的每机架模拟性能平均比值为 1.99×，参照对象是 EPYC 9755；七种工作负载的单项结果介于 1.43× 至 3.19×。机架计算采用服务器的实测性能和系统标称功率：在 24 千瓦机架中，模型可放置 21 至 23 台 Arm 服务器，而 AMD 服务器为 13 台。
在三类智能体任务中，Signal65 给出的每机架平均比值分别为：工具使用 1.7×、智能体流程与编排 2.0×、推理与规划 2.2×。在另一项隔离环境创建测试中，AGI CPU 的比较对象则是 AMD EPYC 9965：Signal65 报告称，冷启动时间缩短 45%，热启动时间缩短 27%；在所述四倍超额订阅场景下缩短 41%。这是与另一款处理器进行的独立比较，衡量指标也不同。
选择服务器时需要考虑什么
即使模型在加速器上运行，CPU 仍负责智能体循环中的大量工作：运行代码和工具、处理数据并协调并行任务。在竞争激烈的情况下，这些操作可能影响执行时间和加速器利用率。
选择服务器的团队应分析自身的工作流程：会调用哪些工具、创建运行环境的频率、同时执行的任务数量，以及可接受的延迟。随后，可以在可比的功率限制下，分别测量可重复的 CPU 操作和完整场景。与直接套用其他测试的比值相比，这类结果更贴合具体基础设施。
Signal65 指出，结果来自早期 AGI CPU 系统；每机架数据是根据服务器测量值和标称功率计算得出。该公司计划在量产设备上进行更多测试，并覆盖更广泛的工作负载。因此，Arm 的公告首先是一项方法建议：通过结合可重复的组件测试与完整任务，衡量智能体系统中的 CPU 部分。1.99× 可作为该模拟场景的参考，而非适用于所有机架的通用性能指标。