Dos filtros en el móvil: así plantea DeepMind la detección de estafas con Singapur
El anuncio del 14 de octubre describe un clasificador ligero y un modelo Gemma que analiza más conversación. El despliegue en aplicaciones será gradual y requiere consentimiento.
Google DeepMind explicó el 14 de octubre su colaboración con GovTech Singapur para adaptar Gemma a conversaciones de estafa del contexto local. El anuncio propone analizar mensajes en el dispositivo y desplegar el modelo por fases dentro de aplicaciones. No identifica una disponibilidad general en España.
El diseño tiene dos etapas. Un clasificador ligero examina mensajes entrantes y selecciona posibles amenazas con poco consumo. Después, el modelo Gemma ajustado analiza una porción mayor de la conversación para confirmar el riesgo o descartar una falsa alarma. La salida descrita es una advertencia que invita a detenerse antes de compartir información sensible o dinero.
DeepMind afirma que el modelo accederá a conversaciones con consentimiento, conforme a los términos de cada aplicación, y que ni Google ni el Gobierno singapurense podrán verlas a través de este despliegue local. Esa afirmación se refiere al modelo anunciado: no describe por sí sola todos los tratamientos de datos de una aplicación que lo incorpore.
Una manera de evaluar una futura integración es separar tres preguntas. La primera es qué contenido puede leer; la segunda, dónde se analiza; la tercera, qué ocurre tras una alerta. Son cuestiones diferentes: procesar localmente no aclara automáticamente qué permisos concede el usuario, y mostrar un aviso tampoco demuestra que se bloquee una operación. La ficha de una aplicación debería permitir resolver cada cuestión por separado.
También conviene distinguir una descripción de arquitectura de una prueba de eficacia. El anuncio no ofrece una tasa numérica de acierto para que el lector calcule cuántas alertas serían falsas. Por ello, comparar este proyecto con otra herramienta exigiría conocer conjuntos de evaluación, idiomas, tipos de conversación y el coste de equivocarse en cada dirección. Aquí se explica el mecanismo comunicado; no se ha ensayado una aplicación ni se certifica que una conversación sin aviso sea segura.