Michael JohnsonBir yapay zekâ ajanı, ağ bağlantısının neden aksadığını belirleyip ardından üretim altyapısını etkileyen bir düzeltme önerebilir. 13 Ekim tarihli mühendislik yazısında Microsoft katmanlı bir mimariyi anlattı; bu mimaride ayrı yazılım kuralları, ajanın erişimini sınırlandırıyor ve eylemlerini denetliyor.
Yazının yazarı, Microsoft Azure Networking'de baş mühendis olan Arun Malik, bir veri merkezindeki kararsız bağlantı senaryosunu inceliyor. Ajan cihazların durumunu ve telemetriyi topluyor, yakın zamanda yapılan değişiklikleri karşılaştırıyor, arızayı sınıflandırıyor ve bir özet hazırlıyor. Ardından sistem, örneğin kullanıcı trafiği taşıyan bir cihazdaki BGP oturumunu kapatmak gibi bir düzeltmeye, mimaride öngörülen kontrol mekanizmaları aracılığıyla geçebiliyor.
Microsoft dört sınır tanımlıyor: kimlik, araçlar, değişiklikler ve zaman. Ajan, kendisini çağıran kişinin izinleri dahilinde çalışıyor; sistemlere denetimli bir arayüz üzerinden erişiyor; üretim ortamının durumunu değiştirmeden önce insan onayı için duruyor. Başarılı ve tekrarlanabilir işlemler ise zamanla deterministik iş akışları olarak sabitlenebiliyor.
Ajanın izinleri kullanıcının izinlerini aşmıyor
İlk sınır kimlik bilgileri. Önerilen düzende ajan, kullanıcı adına çalışıyor ve kullanıcının sahip olduğundan daha fazla yetki almıyor. Bir hizmet hesabı gerekiyorsa bu hesabın yetkileri daha da dar olmalı. Böylece günlüklerdeki veya araç yanıtlarındaki hatalı ya da kötü amaçlı metnin sonuçları sınırlanıyor: model, kullanıcıda veya özel hizmet hesabında bulunmayan ayrıcalıkları elde edemiyor.
İkinci sınır araçlar. Her işlem türlendirilmiş bir arayüz üzerinden yürütülüyor, ayrı bir yetkilendirmeden geçiyor, yapılandırılmış girdiler alıyor ve günlüğe kaydediliyor. Malik, kısıtlamanın komut satırının kendisine değil, denetlenmeyen kabuk erişimine yönelik olduğunu belirtiyor: dar kapsamlı bir komut denetimli bir araç olarak sunulabilirken, serbest kabuk yetki ayrımını ve denetimi zorlaştırıyor.
Okuma ve değişiklik farklı kurallar gerektiriyor
Anlatılan mimaride tanılama otomatik olarak yapılabiliyor. Üretim sisteminin durumunu değiştiren bir eylem ise insan onayı verilene kadar bekletiliyor. Yazara göre bu kısıtlama, yalnızca modelin talimatlarına bırakılmamalı; yürütme ortamındaki kod tarafından uygulanmalı. Model, bir cihazın yapılandırılmamış çıktısını yorumlayabilir; ancak eylem kararı ve izin denetimi yazılım mantığının sorumluluğunda kalıyor.
Yazıda bir ağ arayüzü örneği veriliyor: model, komut çıktısını yapılandırılmış alanlara dönüştürüyor; bir doğrulayıcı bunları şemayla karşılaştırıyor ve deterministik bir koşul sonraki eylemi seçiyor. Adım yapılandırmayı değiştiriyorsa yürütme onay gelene kadar bekliyor. Böylece görev metni, ağı değiştirme yetkisinden ayrılmış oluyor.
Dördüncü sınır tekrarlanabilirlikle ilgili. Microsoft, doğrulanmış tanılama adımlarının, bilinen durumlarda modele yeniden başvurmadan yürütülebilecek deterministik iş akışları olarak sabitlenmesini öneriyor. Şirkete göre bu yaklaşım, aynı akıl yürütmenin tekrarına ilişkin maliyetleri düşürüyor, tutarlılığı artırıyor ve hata ve saldırılara açık alanı daraltıyor. Yayında, endüstriyel ölçekte uygulamaya ilişkin sayısal sonuçlar sunulmuyor.
Uygulamaya geçerken neler gözden geçirilmeli?
Microsoft'un yazısı, hazır bir ürünün güvenilirliğine ilişkin bağımsız bir değerlendirme değil; mimari ve senaryo odaklı bir mühendislik açıklaması. Kendi ajanlarını tasarlayan ekipler için pratik bir yol haritası şöyle: eylemleri kullanıcı kimliğine bağlamak, izin verilen işlemleri listelemek, çağrıları türlendirmek ve günlüğe kaydetmek, okuma ile yazmayı ayırmak ve değişiklikler için açık onay istemek. Tekrarlanan durumlar, çalıştırma koşulları ve sonuç doğrulandıktan sonra olağan iş akışlarına dönüştürülebilir.
Temel çıkarım, rollerin ayrılmasıyla ilgili: model, bilinmeyen bir olayı incelemeye ve yapılandırılmış bir çıktı oluşturmaya yardımcı oluyor; hangi işlemlere izin verildiğini ve ne zaman onay gerektiğini ise yürütme sistemi belirliyor. Microsoft'un ağ altyapısında operatöre öneri sunmaktan sınırları belirlenmiş otomasyona geçiş için önerdiği ayrım bu.