Michael JohnsonEn KI-agent kan finne ut hvorfor en nettverkstilkobling svikter, og deretter foreslå en løsning som påvirker produksjonsinfrastrukturen. I en ingeniørartikkel fra 13. oktober beskrev Microsoft en lagdelt arkitektur der separate programregler begrenser agentens tilgang og kontrollerer handlingene dens.
Artikkelens forfatter, Arun Malik, sjefsingeniør for Azure Networking hos Microsoft, beskriver et scenario med ustabil tilkobling i et datasenter. Agenten samler inn enhetenes tilstand og telemetri, sammenholder dette med nylige endringer, klassifiserer feilen og utarbeider et sammendrag. Deretter kan systemet gå videre til utbedring – for eksempel å deaktivere en BGP-økt på en enhet med brukert trafikk – ved hjelp av kontrollmekanismene i arkitekturen.
Microsoft beskriver fire kontrollgrenser: identitet, verktøy, endringer og tid. Agenten handler innenfor rettighetene til personen som startet den, kommuniserer med systemer gjennom et kontrollert grensesnitt, stanser før den endrer produksjonstilstanden for å be om menneskelig godkjenning, og kan etter hvert få vellykkede, gjentakbare prosedyrer fastlagt som deterministiske rutiner.
Agentens rettigheter følger brukerens
Den første grensen gjelder påloggingsopplysninger. I den foreslåtte modellen handler agenten på vegne av brukeren og får ikke flere tillatelser enn brukeren har. Hvis en tjenestekonto er nødvendig, bør rettighetene dens være enda mer begrensede. Dette begrenser konsekvensene av feil eller ondsinnet tekst i logger og verktøysvar: Modellen kan ikke skaffe seg privilegier som verken brukeren eller den dedikerte kontoen har.
Den andre grensen gjelder verktøy. Hver operasjon utføres gjennom et typet grensesnitt, autoriseres separat, tar imot strukturerte inndata og loggføres. Malik presiserer at det ikke er selve kommandolinjen som begrenses, men ukontrollert tilgang til skallet: En avgrenset kommando kan tilbys som et kontrollert verktøy, mens fri tilgang til skallet gjør det vanskeligere å avgrense fullmakter og føre revisjonsspor.
Lesing og endringer krever ulike regler
Diagnostikk kan i den beskrevne arkitekturen utføres automatisk. En handling som endrer tilstanden til et produksjonssystem, settes på pause til et menneske har godkjent den. Ifølge forfatteren må denne begrensningen håndheves av kjøretidsmiljøets kode, ikke bare av en instruks til modellen. Modellen kan tolke ustrukturert utdata fra en enhet, men beslutningen om å handle og kontrollen av tillatelser ligger hos programlogikken.
Artikkelen viser et eksempel med et nettverksgrensesnitt: Modellen gjør kommandoutdata om til strukturerte felt, en validator kontrollerer dem mot et skjema, og en deterministisk betingelse velger neste handling. Hvis et trinn endrer konfigurasjonen, venter utførelsen på godkjenning. Dermed holdes oppgaveteksten atskilt fra fullmakten til å endre nettverket.
Den fjerde grensen handler om gjentakbarhet. Microsoft foreslår å gjøre utprøvde diagnostikkforløp til deterministiske rutiner som kan kjøres uten et nytt modellkall i kjente situasjoner. Ifølge selskapet reduserer dette kostnadene ved gjentatt resonnering, øker reproduserbarheten og minsker flaten for feil og angrep. Publikasjonen oppgir ingen kvantitative resultater fra industriell implementering.
Hva det er nyttig å kontrollere ved implementering
Microsofts artikkel er en teknisk beskrivelse av en arkitektur og et scenario, ikke en uavhengig vurdering av påliteligheten til et ferdig produkt. En praktisk fremgangsmåte for team som utvikler egne agenter, er å knytte handlinger til brukerens identitet, liste opp tillatte operasjoner, bruke typede og loggførte kall, skille mellom lesing og skriving og kreve uttrykkelig godkjenning av endringer. Gjentatte tilfeller kan gjøres om til vanlige rutiner etter at vilkårene for oppstart og resultatet er kontrollert.
Hovedpoenget er rollefordelingen: Modellen bidrar til å analysere ukjente hendelser og lage strukturert utdata, mens kjøretidssystemet avgjør hvilke operasjoner som er tillatt og når godkjenning kreves. Det er denne arbeidsdelingen Microsoft foreslår for overgangen fra tips til operatøren til begrenset automatisering av nettverksinfrastruktur.