- Etapa 1: Un clasificador ligero y eficiente que procesa los mensajes entrantes, utilizando la menor cantidad de energía posible, con el objetivo de detectar amenazas potenciales.
- Etapa 2: Evaluación contextual con nuestro modelo Gemma mejorado, donde analizamos una imagen más amplia de la conversación para confirmar una amenaza o descartar una alarma falsa.
Construido sobre una gobernanza estricta
Presentado en la Semana Internacional de Cibertecnología de Singapur (SICW 2026), esta colaboración proporciona un modelo para plataformas de mensajería que equilibran la protección de usuarios con el cifrado end-to-end. Se mantuvo una gobernanza estricta durante todo el desarrollo:
Sovereign Sandbox: El ajuste fino se realizó en el entorno GCP gestionado y mantenido por GovTech, manteniendo los datos de entrenamiento aislados.
No hay datos de ciudadanos: La capacitación excluye estrictamente la información privada o que permita identificar a personas, utilizando conjuntos de datos anonimizados obtenidos de informes de estafas y fuentes de inteligencia.
Pruebas de estrés: El modelo fue probado contra diálogos sintéticos y corpus locales para cubrir diversas categorías de estafas y tácticas envejecidas de suplantación.
El futuro de la seguridad en el dispositivo
El proyecto demuestra cómo la IA puede ayudar a los servicios de mensajería a combatir la criminalidad, y muestra que la seguridad ni la privacidad no deben verse comprometidas al ejecutar una IA protectora directamente en el dispositivo. También muestra cómo gobiernos y proveedores de modelos pueden colaborar para desarrollar tecnología en beneficio público. Las plataformas de mensajería y los vendedores de sistemas operativos pueden integrar directamente estos modelos ligeros para proteger a los usuarios localmente, asegurando que las interacciones de chat sean seguras sin exponer datos privados.