Michael JohnsonLe 14 octobre, Google DeepMind et l’agence publique singapourienne chargée des technologies, GovTech, ont présenté un modèle développé conjointement pour détecter les conversations frauduleuses directement sur un smartphone. Le système analyse localement le contexte des messages et est conçu pour être intégré à des applications ; son déploiement sera progressif et nécessitera le consentement de l’utilisateur.
La solution repose sur une version légère de Gemma adaptée à des exemples locaux de fraude. Selon Google DeepMind, l’entraînement a utilisé des jeux de données anonymisés issus de signalements de fraude et de renseignements. L’entreprise indique que l’adaptation du modèle a été menée dans un environnement cloud contrôlé par GovTech et que les données personnelles des citoyens n’ont pas été utilisées pour l’entraînement.
D’abord un filtre, puis l’analyse de la conversation
Le système fonctionne en deux étapes. Un classificateur léger vérifie rapidement les messages entrants et transmet ceux qui semblent suspects. Gemma, adaptée à cette tâche, analyse ensuite un extrait plus large de la conversation afin de repérer un scénario de manipulation ou d’écarter une fausse alerte. Cette architecture réserve l’analyse approfondie aux cas sélectionnés, tout en tenant compte de l’importance d’économiser la batterie du téléphone.
Si le modèle détecte des signes de manipulation, il doit afficher un avertissement sur l’appareil et inviter l’utilisateur à faire une pause avant d’envoyer de l’argent ou de divulguer des données sensibles. L’analyse de l’ensemble de la conversation est nécessaire, car les fraudeurs peuvent d’abord instaurer un climat de confiance, puis demander plus tard un virement ou un code.
Ce que signifie le traitement local
Le modèle est conçu pour analyser les conversations sur l’appareil, plutôt que d’en transmettre le contenu à un serveur pour vérification. Google DeepMind affirme qu’après son intégration à une application, ni l’entreprise ni le gouvernement de Singapour ne pourront accéder aux messages par l’intermédiaire du modèle. L’accès aux conversations sera accordé avec le consentement de l’utilisateur et selon les conditions propres à chaque application.
L’analyse locale peut être utile aux applications dotées du chiffrement de bout en bout : le calcul s’effectue sur l’appareil de l’utilisateur, tandis que le contenu des conversations n’est pas envoyé à un serveur pour vérification. Google DeepMind présente l’intégration comme une possibilité future pour les applications ; aucun service de messagerie ni partenaire précis n’a été nommé.
Ce que l’on sait de l’état de préparation
Dans sa publication du 14 octobre, Google DeepMind fait état de tests menés sur des conversations synthétiques et des jeux de données locaux couvrant différentes catégories de fraude. L’entreprise décrit l’intégration future comme un travail progressif mené avec le gouvernement de Singapour. L’annonce ne précise ni les applications concernées, ni la date de mise à disposition aux utilisateurs, ni les taux de précision et de fausses alertes.
À ce stade, l’architecture et les grandes lignes du déploiement sont confirmées, mais pas la disponibilité d’une fonctionnalité publique à installer. Après l’intégration, la qualité des avertissements dans des conversations réelles, la prise en charge des langues et l’effet de l’analyse sur la batterie permettront d’en évaluer l’utilité pratique. L’approche annoncée montre comment un modèle local peut examiner le contexte d’une conversation tout en laissant les messages sur l’appareil.