- ステージ1：低消費電力で効率的な分類器がインバウンドメッセージを処理し、潜在的な脅威を検出することに焦点を当てる。
- ステージ2：フィーチャー調整されたGemmaモデルを用いたコンテキスト評価。会話のより大きなスナップショットを分析し、脅威を確認するか、誤報を排除する。
厳格な統治に基づいて構築される
シンガポール国際サイバーウィーク（SICW 2026）で発表されたこの協力プロジェクトは、ユーザーの保護とエンドツーエンドの暗号化を両立させるメッセージングプラットフォームのモデルとなっています。開発期間中、厳格なガバナンスが維持されました：
主権サンドボックス：トレーニングデータを隔離した状態で、GovTechが管理・維持するGCP環境内で微調整が行われた。
市民データなし：トレーニングでは、個人または身元が明らかな情報を厳格に排除し、詐欺報告や情報提供から得られた匿名化されたデータセットを使用しています。
ストレステスト：モデルは合成対話や地域のコーパスを用いてテストされ、さまざまな詐欺種類と進化する偽装戦術を対象としています。
デバイス上の安全の未来
このプロジェクトは、AIがメッセージングサービスが犯罪行為に対処するのにどのように役立つかを示しています。また、保護的なAIをデバイス上で直接実行することで、安全性やプライバシーを損なう必要はないことを示しています。さらに、政府とモデル提供業者が協力して公共の利益のために技術を構築する方法も示されています。メッセージングプラットフォームやオペレーティングシステムベンダーは、これらの軽量モデルを直接統合することで、ユーザーのデータを局地的に保護し、プライベートデータを公開せずにチャット交流が安全に行われるようにすることができます。