Michael Johnson10月14日，Google DeepMind 与新加坡政府科技局 GovTech 介绍了双方共同开发的一款模型，可直接在智能手机上检测诈骗聊天。系统在本地分析消息上下文，并计划集成到应用中；部署将分阶段进行，且须征得用户同意。
该方案的核心是针对当地诈骗案例调整的轻量级 Gemma 模型。根据Google DeepMind 的介绍，训练使用了从诈骗举报和情报信息中整理出的匿名数据集。该公司表示，模型调整工作在 GovTech 管理的受控云环境中进行，训练未使用公民个人数据。
先过滤，再分析对话
系统分两步运行。轻量级分类器会快速检查收到的消息，并将看起来可疑的内容送交下一步处理。随后，经过调整的 Gemma 分析更大范围的聊天内容，以识别操纵性骗局或排除误报。这种方案只对筛选出的案例进行复杂分析，同时考虑到节省手机电量的重要性。
如果模型检测到操纵模式，就会在设备上显示警告，并建议用户在转账或透露敏感信息前停下来。分析整个对话过程十分必要，因为诈骗者可能先建立信任，之后才提出转账或索要验证码。
本地处理意味着什么
该模型旨在直接在设备上处理聊天内容，而不是将内容传到服务器进行检查。Google DeepMind 表示，将模型集成到应用后，该公司和新加坡政府都无法通过模型运行过程获取消息。用户将根据具体应用的条款，自愿授权访问聊天内容。
本地分析可能适用于采用端到端加密的应用：计算在用户设备上进行，聊天内容不会为检查而发送到服务器。Google DeepMind 将应用集成描述为未来的可能性，但尚未公布具体的即时通信应用或合作伙伴。
目前已知的进展
在10月14日发布的文章中，Google DeepMind 表示，测试使用了合成对话和涵盖不同诈骗类别的本地数据集。该公司称，未来将与新加坡政府分阶段推进集成。公告没有列出具体应用、面向用户的上线日期，也未提供准确率或误报率数据。
目前得到确认的是系统架构和部署方向，而非已向公众开放安装的功能。集成后，实际聊天中的警告质量、语言支持情况以及分析对电池续航的影响，将有助于评估其实际效用。所公布的方案展示了本地模型如何在消息留在设备上的同时检查对话上下文。