Michael Johnsonב-14 באוקטובר הציגו Google DeepMind והסוכנות הטכנולוגית הממשלתית של סינגפור, GovTech, מודל שפיתחו יחד לזיהוי התכתבויות הונאה ישירות בסמארטפון. המערכת מנתחת את הקשר ההודעות באופן מקומי ומיועדת לשילוב באפליקציות; פריסתה תהיה הדרגתית ותדרוש את הסכמת המשתמש.
הפתרון מבוסס על מודל Gemma קל משקל, שהותאם לדוגמאות מקומיות של הונאות. לפי התיאור של Google DeepMind, לצורך האימון נעשה שימוש במערכי נתונים שעברו אנונימיזציה, ונגזרו מדיווחים על הונאות וממידע מודיעיני. החברה מציינת שההתאמה בוצעה בסביבת ענן מנוהלת של GovTech, ושהמידע האישי של אזרחים לא שימש לאימון.
תחילה סינון, ואז ניתוח השיחה
המערכת פועלת בשני שלבים. מסווג קל משקל בודק במהירות הודעות נכנסות ומעביר הלאה את אלה שנראות חשודות. לאחר מכן Gemma, שהותאם למשימה, מנתח חלק רחב יותר מההתכתבות כדי לזהות תרחיש מניפולטיבי או לשלול התרעת שווא. כך הניתוח המורכב מתמקד במקרים שנבחרו, תוך התחשבות בחשיבות החיסכון בסוללת הטלפון.
אם המודל יזהה דפוסים מניפולטיביים, הוא אמור להציג אזהרה במכשיר ולהציע למשתמש לעצור לפני שליחת כסף או חשיפת מידע רגיש. ניתוח מהלך השיחה כולו נחוץ משום שנוכלים עשויים לבנות תחילה אמון, ורק בהמשך לבקש העברה או קוד.
מה המשמעות של עיבוד מקומי
המודל נועד לעבד את ההתכתבות במכשיר, ולא להעביר את תוכנה לשרת לצורך בדיקה. Google DeepMind מציינת שלאחר שילובו באפליקציה, לא החברה ולא ממשלת סינגפור יוכלו לקבל גישה להודעות באמצעות פעולת המודל. הגישה להתכתבות תינתן בהסכמת המשתמש ובהתאם לתנאי האפליקציה המסוימת.
ניתוח מקומי עשוי להועיל לאפליקציות עם הצפנה מקצה לקצה: העיבוד מתבצע במכשיר המשתמש, ותוכן ההתכתבות אינו נשלח לשרת לבדיקה. Google DeepMind מתארת את השילוב כאפשרות עתידית לאפליקציות; שמות של אפליקציות מסרים או שותפים מסוימים לא נמסרו.
מה ידוע על מידת המוכנות
בפרסום מ-14 באוקטובר מדווחת Google DeepMind על בדיקות שנערכו באמצעות שיחות סינתטיות ומערכי נתונים מקומיים המכסים קטגוריות שונות של הונאה. החברה מתארת את השילוב העתידי כתהליך הדרגתי בשיתוף ממשלת סינגפור. בהודעה לא צוינו אפליקציות מסוימות, מועד זמינות למשתמשים או נתונים על דיוק ועל שיעור התרעות השווא.
בשלב זה אושרו הארכיטקטורה וכיוון ההטמעה, אך לא הוצגה תכונה זמינה לציבור להתקנה. לאחר השילוב, איכות ההתרעות בהתכתבויות אמיתיות, תמיכה בשפות והשפעת הניתוח על הסוללה יסייעו להעריך את התועלת בפועל. המתווה המוצע מדגים כיצד מודל מקומי יכול לבדוק את הקשר השיחה תוך השארת ההודעות עצמן במכשיר.