Michael Johnson10월 14일 Google DeepMind와 싱가포르 정부 기술 기관 GovTech는 스마트폰에서 사기 대화를 찾아내는 공동 개발 모델을 공개했다. 시스템은 메시지 맥락을 기기에서 분석하며 앱에 통합하는 것을 목표로 한다. 배포는 단계적으로 진행되고 사용자 동의가 필요하다.
해결책의 핵심은 현지 사기 사례에 맞게 조정한 경량 Gemma 모델이다. Google DeepMind의 설명에 따르면, 학습에는 사기 신고와 정보 자료에서 수집한 비식별 데이터 세트를 사용했다. 회사는 모델 조정이 GovTech가 관리하는 클라우드 환경에서 이뤄졌으며, 시민의 개인정보는 학습에 사용되지 않았다고 밝혔다.
먼저 걸러내고, 그다음 대화 분석
시스템은 두 단계로 작동한다. 경량 분류기가 수신 메시지를 빠르게 확인해 의심스러워 보이는 메시지를 다음 단계로 넘긴다. 이후 조정된 Gemma가 더 넓은 대화 맥락을 분석해 조작 수법을 식별하거나 오탐을 걸러낸다. 이 방식은 복잡한 분석을 선별된 사례에 집중해 휴대전화 배터리 절약을 고려한다.
모델이 조작 패턴을 발견하면 기기에 경고를 표시하고, 사용자가 돈을 보내거나 민감한 정보를 공개하기 전에 잠시 멈추도록 안내한다. 사기범은 먼저 신뢰를 쌓은 뒤 나중에 송금이나 인증 코드를 요구할 수 있으므로 대화 전체를 분석하는 것이 중요하다.
기기 내 처리의 의미
이 모델은 확인을 위해 대화 내용을 서버로 보내는 대신 기기에서 처리하도록 설계됐다. Google DeepMind는 앱에 통합된 뒤에는 회사나 싱가포르 정부가 모델 작동을 통해 메시지에 접근할 수 없다고 밝혔다. 대화 접근은 사용자의 동의와 각 앱의 조건에 따라 이뤄진다.
기기 내 분석은 종단 간 암호화를 사용하는 앱에 유용할 수 있다. 계산은 사용자 기기에서 이뤄지고 대화 내용은 검사를 위해 서버로 전송되지 않기 때문이다. Google DeepMind는 앱 통합을 향후 가능성으로 설명했으며, 구체적인 메신저나 파트너는 공개하지 않았다.
현재까지 알려진 준비 상황
10월 14일 발표에서 Google DeepMind는 다양한 사기 유형을 다루는 합성 대화와 현지 데이터 세트로 시험했다고 밝혔다. 회사는 싱가포르 정부와 단계적으로 통합을 추진할 계획이라고 설명했다. 발표에는 구체적인 앱이나 사용자 대상 출시일, 정확도 및 오경보 빈도 지표가 언급되지 않았다.
현재 확인된 것은 아키텍처와 도입 방향이지, 누구나 설치할 수 있는 기능이 아니다. 통합 이후에는 실제 대화에서 경고가 얼마나 정확한지, 지원 언어와 배터리 사용량에 미치는 영향을 살펴봐야 실효성을 평가할 수 있다. 제시된 방식은 메시지 자체를 기기에 남겨둔 채 대화 맥락을 확인하는 로컬 모델의 가능성을 보여준다.