Michael JohnsonIl 14 ottobre Google DeepMind e l’agenzia tecnologica governativa di Singapore GovTech hanno presentato un modello sviluppato congiuntamente per individuare le conversazioni truffaldine direttamente sullo smartphone. Il sistema analizza localmente il contesto dei messaggi ed è pensato per essere integrato nelle app; la sua implementazione sarà graduale e richiederà il consenso dell’utente.
La soluzione si basa su una versione leggera di Gemma, adattata a esempi locali di truffe. Secondo la descrizione di Google DeepMind, per l’addestramento sono stati usati insiemi di dati anonimizzati ricavati dalle segnalazioni di truffe e da informazioni di intelligence. L’azienda afferma che l’adattamento del modello è stato svolto in un ambiente cloud gestito da GovTech e che i dati personali dei cittadini non sono stati utilizzati nell’addestramento.
Prima il filtro, poi l’analisi della conversazione
Il sistema opera in due fasi. Un classificatore leggero controlla rapidamente i messaggi in arrivo e inoltra quelli che sembrano sospetti. Gemma, nella versione adattata, analizza quindi una porzione più ampia della conversazione per riconoscere uno schema manipolatorio o escludere un falso allarme. In questo modo l’analisi più complessa viene riservata ai casi selezionati, tenendo conto dell’importanza di risparmiare la batteria del telefono.
Se il modello rileva schemi manipolatori, dovrebbe mostrare un avviso sul dispositivo e invitare l’utente a fermarsi prima di inviare denaro o divulgare dati sensibili. Analizzare l’intero svolgimento della conversazione è importante perché i truffatori possono prima conquistare la fiducia e chiedere solo in seguito un bonifico o un codice.
Cosa significa elaborazione locale
Il modello è progettato per elaborare la conversazione sul dispositivo, anziché inviarne il contenuto a un server per i controlli. Google DeepMind afferma che, una volta integrato in un’app, né l’azienda né il governo di Singapore potranno accedere ai messaggi tramite il funzionamento del modello. L’accesso alla conversazione sarà consentito con il consenso dell’utente e secondo le condizioni della singola app.
L’analisi locale può essere utile alle app con crittografia end-to-end: l’elaborazione avviene sul dispositivo dell’utente, mentre il contenuto della conversazione non viene inviato a un server per essere controllato. Google DeepMind presenta l’integrazione come una possibilità futura per le app; non sono stati indicati servizi di messaggistica o partner specifici.
Cosa si sa sullo stato di sviluppo
Nella pubblicazione del 14 ottobre, Google DeepMind riferisce di test condotti su conversazioni sintetiche e insiemi di dati locali che coprono diverse categorie di truffe. L’azienda descrive la futura integrazione come un lavoro graduale con il governo di Singapore. L’annuncio non specifica app, una data di disponibilità per gli utenti né dati sull’accuratezza o sulla frequenza dei falsi allarmi.
Per ora sono state confermate l’architettura e la direzione dell’implementazione, non una funzione pubblicamente disponibile da installare. Dopo l’integrazione, l’utilità pratica potrà essere valutata in base alla qualità degli avvisi nelle conversazioni reali, al supporto linguistico e all’impatto dell’analisi sulla batteria. Lo schema descritto mostra come un modello locale possa esaminare il contesto della conversazione lasciando i messaggi sul dispositivo.