Michael Johnson14 Ekim’de Google DeepMind ve Singapur’un devlet teknoloji kurumu GovTech, dolandırıcılık içeren mesajlaşmaları doğrudan akıllı telefonda tespit etmek üzere ortaklaşa geliştirdikleri bir modeli tanıttı. Sistem mesajların bağlamını yerel olarak analiz ediyor ve uygulamalara entegre edilmek üzere tasarlandı; kullanıma sunulması aşamalı ilerleyecek ve kullanıcı onayı gerektirecek.
Çözümün temelinde, yerel dolandırıcılık örnekleriyle uyarlanmış hafif bir Gemma modeli bulunuyor. Google DeepMind’ın açıklamasına göre eğitimde dolandırıcılık bildirimleri ve istihbarat bilgilerinden elde edilen anonimleştirilmiş veri kümeleri kullanıldı. Şirket, modelin GovTech tarafından yönetilen bir bulut ortamında uyarlandığını ve eğitimde vatandaşların kişisel verilerinin kullanılmadığını belirtiyor.
Önce filtre, sonra konuşma analizi
Sistem iki aşamada çalışıyor. Hafif bir sınıflandırıcı gelen mesajları hızla tarıyor ve şüpheli görünenleri sonraki aşamaya aktarıyor. Ardından uyarlanmış Gemma, manipülatif bir senaryoyu tanımak veya yanlış alarmı gidermek için konuşmanın daha geniş bir bölümünü analiz ediyor. Bu yöntem, telefonun pilini korumanın önemini de gözeterek kapsamlı analizi yalnızca seçilen durumlara yöneltiyor.
Model manipülatif örüntüler saptarsa cihazda bir uyarı göstermesi ve kullanıcıya para göndermeden ya da hassas bilgileri açıklamadan önce durup düşünmesini önermesi bekleniyor. Dolandırıcılar önce güven oluşturup para transferi veya kod isteme aşamasına daha sonra geçebildiğinden, konuşmanın tamamını analiz etmek önem taşıyor.
Yerel işleme ne anlama geliyor?
Model, mesajlaşma içeriğini kontrol amacıyla sunucuya göndermek yerine cihazda işleyecek şekilde tasarlandı. Google DeepMind, uygulamaya entegre edildikten sonra şirketin de Singapur hükümetinin de model aracılığıyla mesajlara erişemeyeceğini söylüyor. Mesajlara erişim, kullanıcının onayına ve ilgili uygulamanın koşullarına bağlı olacak.
Yerel analiz, uçtan uca şifreleme kullanan uygulamalar için yararlı olabilir: hesaplama kullanıcının cihazında yapılırken mesajlaşma içeriği kontrol edilmek üzere sunucuya gönderilmiyor. Google DeepMind entegrasyonu uygulamalar için gelecekte mümkün olabilecek bir seçenek olarak tanımlıyor; belirli mesajlaşma uygulamaları veya iş ortakları açıklanmadı.
Hazırlık aşaması hakkında bilinenler
Google DeepMind, 14 Ekim tarihli duyurusunda farklı dolandırıcılık kategorilerini kapsayan sentetik konuşmalar ve yerel veri kümeleri üzerinde testler yapıldığını bildiriyor. Şirket, gelecekteki entegrasyonu Singapur hükümetiyle aşamalı olarak yürütülecek bir çalışma şeklinde tanımlıyor. Duyuruda belirli uygulamalar, kullanıcıların erişebileceği bir tarih ya da doğruluk ve yanlış uyarı oranlarına ilişkin ölçümler belirtilmiyor.
Şimdilik doğrulananlar, herkese açık ve yüklenebilir bir özellik değil; mimari ve uygulamaya geçişin yönü. Entegrasyonun ardından gerçek mesajlaşmalardaki uyarıların kalitesi, dil desteği ve analizin pil tüketimine etkisi, sistemin pratik yararını değerlendirmeye yardımcı olacak. Açıklanan yaklaşım, mesajların kendisini cihazda tutarken yerel bir modelin konuşma bağlamını nasıl inceleyebileceğini gösteriyor.