Michael Johnsonבמערכת סוכנית, המעבד מבצע את העבודה שמסביב למודל: מנהל מצב ותורים, קורא לכלים, מעבד נתונים ומפעיל סביבות ריצה. ב־13 באוקטובר הציגה Arm מתודולוגיה להערכת מעבדי CPU לעומסים כאלה, בתמיכת Fujitsu, Meta ו־OpenAI. לצד המתודולוגיה פרסמה החברה תוצאות השוואה בין Arm AGI CPU למעבדי AMD EPYC.
למפעילי תשתיות חשוב לא רק הביצוע של שבב יחיד, אלא גם היקף העבודה שארון שרתים מסוגל לבצע במסגרת מגבלות נתונות של הספק ומקום. בניתוח של Signal65, AGI CPU הציג ביצועים מדומים ממוצעים לשרתון הגבוהים פי 1.99 לעומת AMD EPYC 9755 בשבעה עומסי עבודה. המדד מתייחס למודל של ארון שלם ולמבחנים שנבחרו.
מה Arm מציעה למדוד
המתודולוגיה מחלקת את עבודת המערכת הסוכנית לפונקציות מסגרת העבודה — למשל ניהול מצב, ניתוב, תזמון וטלמטריה — ולמשימות של כלים, כגון קומפילציה, הרצת קוד, חיפוש ועבודה עם מסדי נתונים. במסמך של Arm על המתודולוגיה מוצעות שתי גישות משלימות: מדידות רכיבים להשוואה חוזרת של מעבדי CPU, ומבחנים מקצה לקצה להערכת תוצאות ביצוע המשימה.
חלוקה כזאת מסייעת לזהות היכן נוצרת השהיה: בעבודת המעבד, במודל, ברשת או ביישום. מבחני רכיבים יכולים לבודד פעולות מסוימות, ואילו מבחנים מקצה לקצה יכולים להציג את משך הביצוע ואת התפוקה של המשימה כולה. Arm מציגה את המסמך כבסיס להגדרת גבולות המדידה, קטגוריות עומסי העבודה והתחומים שבהם הענף עדיין צריך להסכים על גישה משותפת.
כיצד התקבלו תוצאות ההשוואה
הניתוח של Signal65 כולל שבעה עומסי עבודה של CPU, ובהם ביצוע סוכני, כלים, חיפוש ותמיכה בהגשת מודלים. Signal65 מדווחת על יחס ממוצע של 1.99× בביצועים מדומים לשרתון לעומת EPYC 9755; התוצאות הבודדות בשבעת עומסי העבודה נעו בין 1.43× ל־3.19×. חישוב השרתון משתמש בביצועי שרתים שנמדדו ובהספק הנקוב של המערכות: המודל מציב בשרתון של 24 קילוואט 21–23 שרתי Arm, לעומת 13 שרתי AMD.
בשלוש קבוצות של משימות סוכניות, Signal65 מדווחת על יחסים ממוצעים לשרתון של 1.7× לעבודה עם כלים, 2.0× לתהליכים סוכניים ולתזמור, ו־2.2× להסקה ולתכנון. במבחן נפרד ליצירת סביבות מבודדות, AGI CPU הושווה ל־AMD EPYC 9965: לפי Signal65, זמן ההפעלה הקרה התקצר ב־45%, זמן ההפעלה החמה ב־27%, ובמקרה המתואר עם ריבוי־מנויים פי ארבעה — ב־41%. זו השוואה נפרדת למעבד אחר, עם מדדים אחרים.
מה להביא בחשבון בבחירת שרתים
גם כשהמודל מחושב במאיץ, המעבד מטפל בחלק ניכר מהמחזור הסוכני: הוא מריץ קוד וכלים, מעבד נתונים ומתאם משימות מקבילות. כאשר התחרות על המשאבים גבוהה, פעולות אלה עשויות להשפיע על זמן הביצוע ועל ניצול המאיצים.
לצוותים שבוחרים שרתים כדאי לאפיין את מחזורי העבודה שלהם: אילו כלים מופעלים, באיזו תדירות נוצרות סביבות ריצה, כמה משימות פועלות במקביל ואילו זמני השהיה מותרים. לאחר מכן אפשר למדוד בנפרד פעולות CPU שחוזרות על עצמן ואת התרחיש המלא, תחת מגבלות הספק דומות. תוצאה כזאת תהיה קרובה יותר לתשתית מסוימת מאשר העתקת יחס ממבחן של מערכת אחרת.
Signal65 מציינת שהתוצאות התקבלו במערכות AGI CPU מוקדמות, וחושבו עבור שרתון על בסיס מדידות שרתים וההספק הנקוב; החברה מתכננת בדיקות נוספות בחומרה מסחרית ובמגוון רחב יותר של עומסי עבודה. לכן חשיבותה העיקרית של הודעת Arm היא בהצעה למדוד את רכיב ה־CPU במערכות סוכניות באמצעות שילוב של רכיבים חוזרים ומשימות שהושלמו. מדד 1.99× מספק נקודת ייחוס למידול המתואר, אך אינו הערכת ביצועים אוניברסלית לכל שרתון.