Microsoft beschrijft vier controleniveaus voor een AI-agent die netwerkinstellingen wijzigt

Een AI-agent kan vaststellen waarom een netwerkverbinding uitvalt en vervolgens een oplossing voorstellen die de productie-infrastructuur raakt. In een technisch artikel van 13 oktober beschreef Microsoft een gelaagde architectuur waarin afzonderlijke programmaregels de toegang van de agent begrenzen en zijn handelingen controleren.

De auteur, Arun Malik, hoofdingenieur Azure Networking bij Microsoft, bespreekt een scenario waarin een verbinding in een datacenter instabiel is. De agent verzamelt de status van apparaten en telemetrie, vergelijkt recente wijzigingen, classificeert de storing en stelt een samenvatting op. Vervolgens kan het systeem overgaan tot herstel — bijvoorbeeld door een BGP-sessie op een apparaat met gebruikersverkeer uit te schakelen — met behulp van de beheersmaatregelen waarin de architectuur voorziet.

Microsoft beschrijft vier grenzen: identiteit, hulpmiddelen, wijzigingen en tijd. De agent handelt binnen de rechten van de gebruiker die hem heeft aangeroepen, benadert systemen via een gecontroleerde interface, wacht op menselijke goedkeuring voordat hij de productiestatus wijzigt en kan succesvolle, herhaalbare procedures na verloop van tijd vastleggen als deterministische procedures.

De rechten van de agent volgen die van de gebruiker

De eerste grens betreft inloggegevens. In het voorgestelde ontwerp handelt de agent namens de gebruiker en krijgt hij niet meer rechten dan die gebruiker. Als een serviceaccount nodig is, moeten de rechten daarvan nog beperkter zijn. Dit beperkt de gevolgen van fouten of schadelijke tekst in logbestanden en antwoorden van hulpmiddelen: het model kan geen bevoegdheden verkrijgen die de gebruiker of het toegewezen account niet heeft.

De tweede grens betreft hulpmiddelen. Elke bewerking verloopt via een getypeerde interface, krijgt afzonderlijke autorisatie, accepteert gestructureerde invoer en wordt vastgelegd in een logboek. Malik verduidelijkt dat niet de opdrachtregel zelf wordt beperkt, maar ongecontroleerde toegang tot de shell: een specifieke opdracht kan als gecontroleerd hulpmiddel beschikbaar worden gesteld, terwijl een vrije shell het moeilijker maakt bevoegdheden af te bakenen en handelingen te auditen.

Voor lezen en wijzigen gelden verschillende regels

Diagnostiek kan in de beschreven architectuur automatisch worden uitgevoerd. Een handeling die de status van productiesystemen wijzigt, wordt opgeschort totdat een mens goedkeuring geeft. Volgens de auteur moet deze beperking worden afgedwongen door de code van de uitvoeringsomgeving, en niet alleen door een instructie aan het model. Het model kan ongestructureerde uitvoer van een apparaat interpreteren, maar de programmatische logica bepaalt welke handeling wordt uitgevoerd en controleert de bevoegdheden.

Het artikel geeft een voorbeeld met een netwerkinterface: het model zet de uitvoer van een opdracht om in gestructureerde velden, een validator vergelijkt die met een schema en een deterministische voorwaarde bepaalt de volgende stap. Als die stap de configuratie wijzigt, wacht de uitvoering op goedkeuring. Zo wordt de taaktekst gescheiden van de bevoegdheid om het netwerk aan te passen.

De vierde grens betreft herhaalbaarheid. Microsoft stelt voor om geteste diagnostische stappen vast te leggen als deterministische procedures, die in bekende situaties zonder een nieuwe aanroep van het model kunnen worden uitgevoerd. Volgens het bedrijf verlaagt dit de kosten van herhaald redeneren, vergroot het de reproduceerbaarheid en verkleint het de kans op fouten en aanvallen. De publicatie bevat geen kwantitatieve resultaten van implementatie in productie.

Wat u bij de implementatie kunt controleren

Het artikel van Microsoft is een technische beschrijving van een architectuur en een scenario, geen onafhankelijke beoordeling van de betrouwbaarheid van een kant-en-klaar product. Een praktische aanpak voor teams die eigen agents ontwerpen: koppel handelingen aan de identiteit van de gebruiker, som toegestane bewerkingen op, geef aanroepen een vast type en leg ze vast, scheid lezen van schrijven en eis expliciete goedkeuring voor wijzigingen. Herhaalbare gevallen kunnen na controle van de startvoorwaarden en het resultaat worden omgezet in reguliere procedures.

De belangrijkste conclusie betreft de scheiding van rollen: het model helpt een onbekend incident te analyseren en een gestructureerde uitvoer op te stellen, terwijl het uitvoeringssysteem bepaalt welke handelingen zijn toegestaan en wanneer goedkeuring nodig is. Die scheiding stelt Microsoft voor als basis voor de overstap van suggesties aan operators naar begrensde automatisering van netwerkinfrastructuur.