Michael Johnson14 октября Google DeepMind и государственное технологическое агентство Сингапура GovTech представили разработанную совместно модель для выявления мошеннических переписок прямо на смартфоне. Система анализирует контекст сообщений локально и рассчитана на встраивание в приложения; её развёртывание будет поэтапным и потребует согласия пользователя.
В основе решения — настроенная на местные примеры мошенничества лёгкая модель Gemma. По описанию Google DeepMind, для обучения использовали обезличенные наборы, полученные из сообщений о мошенничестве и разведывательной информации. Компания сообщает, что настройка модели проходила в управляемой GovTech облачной среде, а личные данные граждан в обучении не использовались.
Сначала фильтр, затем анализ диалога
Система работает в два этапа. Лёгкий классификатор быстро проверяет входящие сообщения и передаёт дальше те, которые выглядят подозрительно. Затем настроенная Gemma анализирует более широкий фрагмент переписки, чтобы распознать манипулятивный сценарий или снять ложную тревогу. Такая схема направляет сложный анализ на отобранные случаи, учитывая важность экономии заряда телефона.
Если модель обнаружит манипулятивные паттерны, она должна показать на устройстве предупреждение и предложить пользователю остановиться, прежде чем отправлять деньги или раскрывать чувствительные данные. Анализ всего хода разговора нужен потому, что злоумышленники могут сначала выстраивать доверие, а к просьбе о переводе или коде переходить позже.
Что означает локальная обработка
Модель задумана для обработки переписки на устройстве, а не для передачи её содержания на сервер ради проверки. Google DeepMind заявляет, что после интеграции в приложение ни компания, ни правительство Сингапура не смогут получать доступ к сообщениям через работу модели. Доступ к переписке будет предоставляться с согласия пользователя и на условиях конкретного приложения.
Локальный анализ может быть полезен приложениям со сквозным шифрованием: вычисление происходит на устройстве пользователя, тогда как содержание переписки не отправляется на сервер для проверки. Google DeepMind описывает интеграцию как будущую возможность для приложений; конкретные мессенджеры или партнёры не названы.
Что известно о готовности
В публикации от 14 октября Google DeepMind сообщает об испытаниях на синтетических диалогах и местных наборах данных, охватывающих разные категории мошенничества. Компания описывает будущую интеграцию как поэтапную работу с правительством Сингапура. В анонсе не названы конкретные приложения, дата доступности для пользователей или показатели точности и частоты ложных предупреждений.
Пока подтверждены архитектура и направление внедрения, а не общедоступная функция для установки. После интеграции оценить практическую пользу помогут качество предупреждений на реальных переписках, поддержка языков и влияние анализа на заряд батареи. Заявленная схема показывает, как локальная модель может проверять контекст диалога, оставляя сами сообщения на устройстве.