Michael JohnsonGoogle DeepMind ja Singaporen valtion teknologiavirasto GovTech esittelivät 14. lokakuuta yhdessä kehitetyn mallin huijausviestien tunnistamiseen suoraan älypuhelimessa. Järjestelmä analysoi viestien asiayhteyttä paikallisesti, ja se on suunniteltu integroitavaksi sovelluksiin; käyttöönotto etenee vaiheittain ja edellyttää käyttäjän suostumusta.
Ratkaisun perustana on Gemma-mallin versio, jota on hienosäädetty paikallisten huijausesimerkkien avulla. Google DeepMindin kuvauksen mukaan koulutuksessa käytettiin anonymisoituja aineistoja, jotka oli koottu huijausilmoituksista ja tiedustelutiedoista. Yhtiön mukaan mallia hienosäädettiin GovTechin hallinnoimassa pilviympäristössä, eikä koulutuksessa käytetty kansalaisten henkilötietoja.
Ensin suodatus, sitten keskustelun analyysi
Järjestelmä toimii kahdessa vaiheessa. Kevyt luokitin tarkistaa saapuvat viestit nopeasti ja välittää jatkokäsittelyyn ne, jotka vaikuttavat epäilyttäviltä. Sen jälkeen hienosäädetty Gemma analysoi laajemman osan keskustelusta tunnistaakseen manipuloivan toimintamallin tai poistaakseen väärän hälytyksen. Näin vaativampi analyysi kohdistuu valittuihin tapauksiin ja ottaa samalla huomioon puhelimen akun säästämisen tärkeyden.
Jos malli havaitsee manipuloivia toimintamalleja, sen on tarkoitus näyttää laitteessa varoitus ja kehottaa käyttäjää pysähtymään ennen rahan lähettämistä tai arkaluonteisten tietojen paljastamista. Keskustelun koko kulun analysointi on tarpeen, koska huijarit voivat ensin rakentaa luottamusta ja pyytää vasta myöhemmin rahansiirtoa tai koodia.
Mitä paikallinen käsittely tarkoittaa
Malli on suunniteltu käsittelemään keskustelut laitteessa sen sijaan, että niiden sisältö lähetettäisiin tarkistettavaksi palvelimelle. Google DeepMindin mukaan sen enempää yhtiö kuin Singaporen hallituskaan ei voisi sovellukseen integroinnin jälkeen saada viestejä käyttöönsä mallin kautta. Keskusteluihin pääsy edellyttää käyttäjän suostumusta, ja siihen sovelletaan kunkin sovelluksen ehtoja.
Paikallinen analyysi voi olla hyödyllinen päästä päähän -salatuissa sovelluksissa: laskenta tapahtuu käyttäjän laitteessa, eikä keskustelujen sisältöä lähetetä palvelimelle tarkistettavaksi. Google DeepMind kuvailee integrointia sovelluksiin tulevaisuuden mahdollisuutena; yksittäisiä viestisovelluksia tai kumppaneita ei ole nimetty.
Mitä valmiudesta tiedetään
Google DeepMind kertoo 14. lokakuuta julkaisemassaan kirjoituksessa, että mallia on testattu synteettisillä keskusteluilla ja paikallisilla aineistoilla, jotka kattavat erilaisia huijaustyyppejä. Yhtiö kuvailee tulevaa integrointia vaiheittain eteneväksi työksi Singaporen hallituksen kanssa. Julkistuksessa ei mainita tiettyjä sovelluksia, käyttäjille saataville tulon ajankohtaa eikä tarkkuus- tai väärien hälytysten määrän mittareita.
Tähän mennessä on vahvistettu järjestelmän rakenne ja käyttöönoton suunta, ei kaikille saatavilla olevaa asennettavaa toimintoa. Integroinnin jälkeen käytännön hyötyä voi arvioida todellisten keskustelujen varoitusten laadun, kielituen ja akunkulutukseen kohdistuvan vaikutuksen perusteella. Esitelty toimintamalli osoittaa, miten paikallinen malli voi tarkistaa keskustelun asiayhteyden viestien pysyessä laitteessa.