Michael Johnson14 października Google DeepMind i singapurska agencja rządowa ds. technologii GovTech przedstawiły opracowany wspólnie model do wykrywania oszukańczych rozmów bezpośrednio na smartfonie. System analizuje kontekst wiadomości lokalnie i ma być integrowany z aplikacjami; wdrażanie będzie stopniowe i wymagać zgody użytkownika.
Podstawą rozwiązania jest lekki model Gemma dostrojony do lokalnych przykładów oszustw. Jak opisuje Google DeepMind, do trenowania wykorzystano zanonimizowane zbiory pochodzące ze zgłoszeń oszustw i informacji wywiadowczych. Firma informuje, że dostrajanie modelu odbywało się w zarządzanym przez GovTech środowisku chmurowym, a dane osobowe obywateli nie były wykorzystywane podczas treningu.
Najpierw filtr, potem analiza rozmowy
System działa w dwóch etapach. Lekki klasyfikator szybko sprawdza przychodzące wiadomości i przekazuje dalej te, które wyglądają podejrzanie. Następnie dostrojony model Gemma analizuje szerszy fragment rozmowy, by rozpoznać manipulacyjny scenariusz albo wykluczyć fałszywy alarm. Dzięki temu złożona analiza dotyczy wybranych przypadków, a jednocześnie uwzględnia potrzebę oszczędzania baterii telefonu.
Jeśli model wykryje wzorce manipulacji, ma wyświetlić na urządzeniu ostrzeżenie i zasugerować użytkownikowi, by się zatrzymał, zanim wyśle pieniądze lub ujawni poufne dane. Analiza całego przebiegu rozmowy jest potrzebna, ponieważ oszuści mogą najpierw budować zaufanie, a dopiero później poprosić o przelew lub kod.
Co oznacza przetwarzanie lokalne
Model zaprojektowano z myślą o przetwarzaniu rozmów na urządzeniu, a nie przesyłaniu ich treści na serwer w celu weryfikacji. Google DeepMind deklaruje, że po integracji z aplikacją ani firma, ani rząd Singapuru nie będą mogły uzyskiwać dostępu do wiadomości za pośrednictwem działania modelu. Dostęp do rozmów będzie udostępniany za zgodą użytkownika, na warunkach określonych przez daną aplikację.
Analiza lokalna może być przydatna w aplikacjach korzystających z szyfrowania end-to-end: obliczenia odbywają się na urządzeniu użytkownika, a treść rozmowy nie jest wysyłana na serwer do sprawdzenia. Google DeepMind przedstawia integrację jako przyszłą możliwość dla aplikacji; nie wymieniono konkretnych komunikatorów ani partnerów.
Co wiadomo o gotowości
W publikacji z 14 października Google DeepMind informuje o testach na syntetycznych dialogach i lokalnych zbiorach danych obejmujących różne kategorie oszustw. Firma opisuje przyszłą integrację jako stopniowe przedsięwzięcie realizowane z rządem Singapuru. W zapowiedzi nie podano konkretnych aplikacji, daty udostępnienia użytkownikom ani wskaźników dokładności i częstości fałszywych ostrzeżeń.
Na razie potwierdzono architekturę i kierunek wdrożenia, a nie powszechnie dostępną funkcję do zainstalowania. Po integracji praktyczną przydatność pomogą ocenić jakość ostrzeżeń w rzeczywistych rozmowach, obsługa języków i wpływ analizy na baterię. Opisane rozwiązanie pokazuje, jak lokalny model może sprawdzać kontekst rozmowy, pozostawiając same wiadomości na urządzeniu.