Microsoft beskriver fyra kontrollnivåer för en AI-agent som ändrar nätverksinställningar

En AI-agent kan avgöra varför en nätverksanslutning inte fungerar och sedan föreslå en åtgärd som påverkar produktionsinfrastrukturen. I en ingenjörsartikel den 13 oktober beskrev Microsoft en lagerindelad arkitektur där separata programregler begränsar agentens åtkomst och kontrollerar dess åtgärder.

Artikelns författare, Arun Malik, chefsingenjör för Azure Networking på Microsoft, går igenom ett scenario med en instabil anslutning i ett datacenter. Agenten samlar in enheternas status och telemetri, jämför nyliga ändringar, klassificerar felet och sammanställer en översikt. Därefter kan systemet gå vidare till en åtgärd – till exempel att inaktivera en BGP-session på en enhet som hanterar användartrafik – via arkitekturens inbyggda kontrollmekanismer.

Microsoft beskriver fyra gränser: identitet, verktyg, ändringar och tid. Agenten agerar inom ramen för den anropande personens behörigheter, kommunicerar med systemen via ett kontrollerat gränssnitt och stannar före ändringar av produktionsmiljön i väntan på mänskligt godkännande. Med tiden kan framgångsrika, återkommande procedurer låsas fast som deterministiska arbetsflöden.

Agentens behörigheter följer användarens

Den första gränsen gäller autentiseringsuppgifter. I det föreslagna upplägget agerar agenten på användarens vägnar och får inte fler behörigheter än användaren. Om ett tjänstekonto behövs bör dess behörigheter vara ännu snävare. Det begränsar följderna av fel eller skadlig text i loggar och verktygssvar: modellen kan inte få privilegier som saknas hos användaren eller det särskilda kontot.

Den andra gränsen gäller verktyg. Varje åtgärd utformas via ett typat gränssnitt, genomgår separat behörighetskontroll, tar emot strukturerade indata och loggas. Malik förtydligar att det inte är själva kommandoraden som begränsas, utan okontrollerad åtkomst till skalet: ett avgränsat kommando kan tillhandahållas som ett kontrollerat verktyg, medan ett fritt skal försvårar behörighetsstyrning och granskning.

Läsning och ändringar kräver olika regler

Diagnostik kan enligt den beskrivna arkitekturen köras automatiskt. En åtgärd som ändrar produktionssystemets tillstånd pausas tills en människa har godkänt den. Enligt författaren ska begränsningen upprätthållas av exekveringsmiljöns kod, inte bara av en instruktion till modellen. Modellen kan tolka ostrukturerade utdata från en enhet, men beslutet om åtgärd och kontrollen av behörigheter ligger kvar hos programlogiken.

Artikeln ger ett exempel med ett nätverksgränssnitt: modellen omvandlar kommandoutdata till strukturerade fält, en validator jämför dem med ett schema och ett deterministiskt villkor väljer nästa åtgärd. Om steget ändrar konfigurationen väntar körningen på godkännande. På så sätt skiljs uppgiftens text från behörigheten att ändra nätverket.

Den fjärde gränsen handlar om återkommande förlopp. Microsoft föreslår att beprövade diagnostikvägar låses fast som deterministiska arbetsflöden, som i välkända fall kan köras utan ett nytt modellanrop. Enligt företaget minskar det kostnaden för upprepat resonerande, ökar reproducerbarheten och minskar utrymmet för fel och angrepp. Publikationen redovisar inga kvantitativa resultat från produktionsanvändning.

Vad som är värt att kontrollera vid införande

Microsofts artikel är en teknisk beskrivning av en arkitektur och ett scenario, inte en oberoende utvärdering av en färdig produkts tillförlitlighet. En praktisk arbetsordning för team som utformar egna agenter är att knyta åtgärder till användarens identitet, lista tillåtna operationer, typa och logga anrop, skilja läsning från skrivning och kräva uttryckligt godkännande för ändringar. Återkommande fall kan överföras till vanliga arbetsflöden efter att startvillkoren och resultatet har kontrollerats.

Huvudslutsatsen gäller rollfördelningen: modellen hjälper till att analysera okända incidenter och ta fram strukturerade resultat, medan exekveringssystemet avgör vilka operationer som är tillåtna och när godkännande krävs. Det är den rollfördelning Microsoft föreslår för att gå från rekommendationer till operatörer till begränsad automatisering av nätverksinfrastruktur.