Michael JohnsonA 14 de outubro, a Google DeepMind e a agência governamental de tecnologia de Singapura, GovTech, apresentaram um modelo desenvolvido em conjunto para detetar conversas fraudulentas diretamente no smartphone. O sistema analisa localmente o contexto das mensagens e foi concebido para ser integrado em aplicações; a implementação será gradual e dependerá do consentimento do utilizador.
A solução tem por base uma versão leve do modelo Gemma, ajustada com exemplos locais de fraude. De acordo com a Google DeepMind, foram usados no treino conjuntos de dados anonimizados, obtidos a partir de denúncias de fraude e de informações de inteligência. A empresa afirma que o ajuste do modelo decorreu num ambiente na nuvem gerido pela GovTech e que os dados pessoais dos cidadãos não foram utilizados no treino.
Primeiro, o filtro; depois, a análise do diálogo
O sistema funciona em duas etapas. Um classificador leve verifica rapidamente as mensagens recebidas e encaminha as que parecem suspeitas. Em seguida, o Gemma ajustado analisa um excerto mais amplo da conversa para identificar um esquema de manipulação ou descartar um falso alarme. Esta abordagem reserva a análise mais complexa para os casos selecionados, tendo em conta a importância de poupar a bateria do telemóvel.
Se o modelo detetar padrões de manipulação, deverá apresentar um aviso no dispositivo e sugerir que o utilizador pare antes de enviar dinheiro ou revelar dados sensíveis. Analisar toda a conversa é importante porque os burlões podem começar por criar confiança e só mais tarde pedir uma transferência ou um código.
O que significa o processamento local
O modelo foi concebido para processar as conversas no dispositivo, em vez de enviar o seu conteúdo para um servidor para verificação. A Google DeepMind afirma que, depois de integrado numa aplicação, nem a empresa nem o Governo de Singapura poderão aceder às mensagens através do funcionamento do modelo. O acesso às conversas dependerá do consentimento do utilizador e das condições da aplicação em causa.
A análise local pode ser útil em aplicações com encriptação de ponta a ponta: o processamento ocorre no dispositivo do utilizador, enquanto o conteúdo da conversa não é enviado para um servidor para verificação. A Google DeepMind descreve a integração como uma possibilidade futura para aplicações; não foram identificados serviços de mensagens ou parceiros específicos.
O que se sabe sobre a prontidão
Na publicação de 14 de outubro, a Google DeepMind refere testes com diálogos sintéticos e conjuntos de dados locais que abrangem diferentes categorias de fraude. A empresa descreve a integração futura como um trabalho gradual com o Governo de Singapura. O anúncio não identifica aplicações específicas, uma data de disponibilização aos utilizadores nem indicadores de precisão ou de frequência de falsos avisos.
Até ao momento, foram confirmadas a arquitetura e a orientação da implementação, não uma funcionalidade disponível ao público para instalação. Depois da integração, a qualidade dos avisos em conversas reais, o suporte de idiomas e o impacto da análise na bateria ajudarão a avaliar a utilidade prática. A abordagem anunciada mostra como um modelo local pode analisar o contexto de um diálogo, mantendo as próprias mensagens no dispositivo.