מיקרוסופט מתארת ארבע שכבות בקרה לסוכן בינה מלאכותית שמשנה הגדרות רשת

סוכן בינה מלאכותית יכול לזהות מדוע חיבור רשת אינו יציב, ואז להציע תיקון שמשפיע על תשתית ייצור. במאמר הנדסי מ־13 באוקטובר מיקרוסופט תיארה ארכיטקטורה רב־שכבתית, שבה כללים תוכנתיים נפרדים מגבילים את גישת הסוכן ובודקים את פעולותיו.

מחבר המאמר, ארון מאליק, מהנדס ראשי ב־Azure Networking במיקרוסופט, מתאר תרחיש של חיבור לא יציב במרכז נתונים. הסוכן אוסף מידע על מצב ההתקנים וטלמטריה, משווה שינויים אחרונים, מסווג את התקלה ומכין סיכום. לאחר מכן המערכת יכולה לעבור לתיקון — למשל, להשבית הפעלת BGP בהתקן שמעביר תעבורת משתמשים — באמצעות אמצעי הבקרה שהארכיטקטורה מספקת.

מיקרוסופט מתארת ארבעה גבולות: זהות, כלים, שינויים וזמן. הסוכן פועל במסגרת ההרשאות של האדם שהפעיל אותו, ניגש למערכות דרך ממשק מבוקר, נעצר לפני שינוי מצב בסביבת הייצור וממתין לאישור אנושי, ונהלים חוזרים שהצליחו אפשר בהמשך לקבע כתהליכים דטרמיניסטיים.

הרשאות הסוכן נגזרות מהרשאות המשתמש

הגבול הראשון הוא פרטי הכניסה. בתכנון המוצע, הסוכן פועל בשם המשתמש ואינו מקבל יותר הרשאות ממנו. אם נדרש חשבון שירות, יש להגביל את הרשאותיו אף יותר. הדבר מצמצם את השלכותיהן של שגיאות או של טקסט זדוני ביומנים ובתגובות הכלים: המודל אינו יכול לקבל הרשאות יתר שאין למשתמש או לחשבון ייעודי.

הגבול השני הוא הכלים. כל פעולה מוגדרת באמצעות ממשק מטיפוס מוגדר, עוברת הרשאה נפרדת, מקבלת נתוני קלט מובְנים ומשאירה רשומה ביומן. מאליק מבהיר שההגבלה אינה נוגעת לשורת הפקודה עצמה, אלא לגישה לא מבוקרת למעטפת: אפשר לספק פקודה מצומצמת ככלי מבוקר, בעוד שמעטפת חופשית מקשה על חלוקת הרשאות ועל ביקורת.

קריאה ושינוי מחייבים כללים שונים

בארכיטקטורה המתוארת, ניתן לבצע אבחון באופן אוטומטי. פעולה שמשנה את מצב מערכת הייצור נעצרת עד לקבלת אישור מאדם. לדברי המחבר, יש לאכוף את ההגבלה באמצעות קוד סביבת ההרצה, ולא להסתמך רק על הוראות למודל. המודל יכול לנתח פלט לא מובנה מהתקן, אך ההחלטה על הפעולה ובדיקת ההרשאות נותרות בידי הלוגיקה התוכנתית.

המאמר מציג דוגמה עם ממשק רשת: המודל ממיר פלט פקודה לשדות מובְנים, מאמת בודק אותם מול סכימה, ותנאי דטרמיניסטי בוחר את הפעולה הבאה. אם שלב מסוים משנה את התצורה, הביצוע ממתין לאישור. כך מופרד נוסח המשימה מההרשאות לשנות את הרשת.

הגבול הרביעי עוסק בחזרתיות. מיקרוסופט מציעה לקבע מסלולי אבחון שנבדקו כתהליכים דטרמיניסטיים, שבמקרים מוכרים יכולים לפעול ללא הפעלה נוספת של המודל. לטענת החברה, הדבר מפחית את העלות של חשיבה חוזרת, משפר את יכולת השחזור ומצמצם את שטח התקיפה ואת הסיכון לשגיאות. בפרסום לא מוצגות תוצאות כמותיות של הטמעה תעשייתית.

מה כדאי לבדוק בעת ההטמעה

המאמר של מיקרוסופט הוא תיאור הנדסי של ארכיטקטורה ותרחיש, ולא הערכה עצמאית של מהימנות מוצר מוגמר. סדר הפעולות המעשי לצוותים שמתכננים סוכנים משלהם הוא לקשור את הפעולות לזהות המשתמש, להגדיר רשימה של פעולות מותרות, להשתמש בקריאות מטיפוסים מוגדרים ולתעד אותן, להפריד בין קריאה לכתיבה ולדרוש אישור מפורש לשינויים. לאחר בדיקת תנאי ההפעלה והתוצאות, אפשר להעביר מקרים חוזרים לתהליכים רגילים.

המסקנה העיקרית נוגעת להפרדת תפקידים: המודל מסייע בניתוח תקלה לא מוכרת ובהפקת פלט מובנה, ואילו מערכת ההרצה קובעת אילו פעולות מותרות ומתי נדרש אישור. זו ההפרדה שמיקרוסופט מציעה בדרך מהצעות למפעיל לאוטומציה מוגבלת של תשתית רשת.