Michael Johnson14 жовтня Google DeepMind і державне технологічне агентство Сінгапуру GovTech представили спільно розроблену модель для виявлення шахрайських переписок безпосередньо на смартфоні. Система локально аналізує контекст повідомлень і призначена для інтеграції в застосунки; її розгортання відбуватиметься поетапно й потребуватиме згоди користувача.
В основі рішення — налаштована на місцевих прикладах шахрайства легка модель Gemma. За описом Google DeepMind, для навчання використовували знеособлені набори, сформовані на основі повідомлень про шахрайство та розвідувальної інформації. Компанія повідомляє, що налаштування моделі відбувалося в керованому GovTech хмарному середовищі, а особисті дані громадян для навчання не використовувалися.
Спочатку фільтр, потім аналіз діалогу
Система працює у два етапи. Легкий класифікатор швидко перевіряє вхідні повідомлення й передає далі ті, що видаються підозрілими. Потім налаштована Gemma аналізує ширший фрагмент переписки, щоб розпізнати маніпулятивний сценарій або відхилити хибну тривогу. Така схема спрямовує складний аналіз на відібрані випадки, зважаючи на важливість заощадження заряду телефона.
Якщо модель виявить маніпулятивні патерни, вона має показати на пристрої попередження й запропонувати користувачеві зупинитися, перш ніж надсилати гроші або розкривати конфіденційні дані. Аналіз усієї розмови потрібен, оскільки зловмисники можуть спочатку вибудовувати довіру, а до прохання переказати кошти чи повідомити код переходити пізніше.
Що означає локальна обробка
Модель призначена для обробки переписки на пристрої, а не для передавання її вмісту на сервер для перевірки. Google DeepMind заявляє, що після інтеграції в застосунок ані компанія, ані уряд Сінгапуру не зможуть отримувати доступ до повідомлень через роботу моделі. Доступ до переписки надаватиметься за згодою користувача й відповідно до умов конкретного застосунку.
Локальний аналіз може бути корисним застосункам зі наскрізним шифруванням: обчислення відбуваються на пристрої користувача, а вміст переписки не надсилається на сервер для перевірки. Google DeepMind описує інтеграцію як можливість для застосунків у майбутньому; конкретні месенджери чи партнери не названі.
Що відомо про готовність
У публікації від 14 жовтня Google DeepMind повідомляє про випробування на синтетичних діалогах і місцевих наборах даних, що охоплюють різні категорії шахрайства. Компанія описує майбутню інтеграцію як поетапну роботу з урядом Сінгапуру. В анонсі не вказано конкретних застосунків, дати доступності для користувачів чи показників точності та частоти хибних попереджень.
Наразі підтверджено архітектуру й напрям упровадження, а не загальнодоступну функцію для встановлення. Після інтеграції оцінити практичну користь допоможуть якість попереджень у реальних переписках, підтримка мов і вплив аналізу на заряд батареї. Заявлена схема показує, як локальна модель може перевіряти контекст діалогу, залишаючи самі повідомлення на пристрої.