- Étape 1 : Un classificateur léger et efficace détecte les messages entrants, utilisant le minimum d’énergie, en se concentrant sur la récupération des menaces potentielles.
- Étape 2 : Évaluation contextuelle avec notre modèle Gemma affiné, où nous analysons une vue d’ensemble plus large de la conversation pour confirmer une menace ou rejeter une alerte fausse.
Construit sur une gouvernance stricte
Présenté lors de la Singapore International Cyber Week (SICW 2026), cette collaboration constitue un modèle pour les plateformes de messagerie qui équilibrent la protection des utilisateurs et l’encryption end-to-end. Une gouvernance stricte a été maintenue tout au long du développement :
Sovereign Sandbox : Le fine-tuning s’est déroulé dans l’environnement GCP géré et maintenu par GovTech, en conservant les données d’entraînement isolées.
Aucune donnée citoyenne : La formation exclut strictement les informations privées ou identifiables personnellement, en utilisant des jeux de données anonymisées issues de rapports de fraude et de flux d’information.
Test de stress : Le modèle a été testé contre des dialogues synthétiques et des corpus locaux afin de couvrir diverses catégories de arnaques et des tactiques d’imitation en évolution.
L’avenir de la sécurité sur le dispositif
Le projet montre comment l’IA peut aider les services de messagerie à lutter contre la criminalité, et démontre que la sécurité ou la confidentialité ne doivent pas être compromises en mettant directement des modèles d’IA protecteurs sur le appareil. Il illustre également comment les gouvernements et les fournisseurs de modèles peuvent collaborer pour développer des technologies au service du bien public. Les fournisseurs de plateformes de messagerie et de systèmes d’exploitation peuvent intégrer directement ces modèles légers afin de protéger les utilisateurs localement, garantissant que les interactions de chat restent sécurisées sans exposer des données privées.