- Stadium 1: Ein leichtes, effizientes Klassifizierungsmodul verarbeitet eingegangene Nachrichten mit minimaler Energieverbrauch und ist darauf ausgerichtet, potenzielle Bedrohungen zu erkennen.
- Stadium 2: Kontextbewertung mit unserem feinjustierten Gemma-Modell, bei der wir einen umfassenderen Ausschnitt der Konversation analysieren, um eine Bedrohung zu bestätigen oder eine falsche Alarmierung auszuschließen.
Basiert auf einer strengen Regierung
Vorgestellt auf der Singapore International Cyber Week (SICW 2026), bietet diese Zusammenarbeit ein Modell für Nachrichtendienste, die sowohl Benutzergeschütze als auch End-to-End-Verschlüsselung balancieren. Eine strenge Überwachung wurde während des Entwicklungsprozesses beibehalten:
Sovereign Sandbox: Die Feinjustierung erfolgte in der von GovTech verwalteten und gepflegten GCP-Umgebung, wobei die Trainingsdaten isoliert blieben.
Keine Bürgerdaten: Die Ausbildung ausschließt strikt private oder personenbezogene Informationen und verwendet anonymisierte Datensätze, die aus Betrugsberichten und Geheimdienstinformationen entnommen wurden.
Stress-Testung: Das Modell wurde gegen synthetische Dialoge und lokale Korpus verwendet, um verschiedene Betrugskategorien sowie sich entwickelnde Taktiken der Identitätsbetrügereien abzudecken.
Die Zukunft der Sicherheit auf dem Gerät
Das Projekt zeigt, wie KI den Messengerdiensten helfen kann, Kriminalität zu bekämpfen, und dass Sicherheit und Privatsphäre nicht beeinträchtigt werden müssen, indem die schützende KI direkt auf dem Gerät ausgeführt wird. Es zeigt auch, wie Regierungen und Modelleigberwerber zusammenarbeiten können, um Technologie für das Gemeinwohl zu entwickeln. Messengerplattformen und Betriebssystemanbieter können diese leichten Modelle direkt integrieren, um die Nutzer lokal zu schützen und die Chatinteraktionen sicher zu halten, ohne private Daten preiszugeben.