- 阶段 1：一种轻量、高效的分类器，用于筛选入站消息，消耗最少能量，旨在发现潜在的威胁。
- 阶段 2：使用我们优化后的 Gemma 模型进行情境评估，通过分析更全面的对话内容来确认威胁或排除误报。
建立在严格的治理基础上
在新加坡国际网络周（SICW 2026）上展示的这项合作项目，为消息平台平衡用户保护与端到端加密提供了范例。整个开发过程中都严格遵循了管理规范：
主权沙盒：微调是在 GovTech 管理的 GCP 环境中进行的，同时使训练数据保持独立。
无公民数据：训练严格排除私人或可识别个人信息的提供，使用来自诈骗报告和情报信息的匿名数据集。
压力测试：该模型通过合成对话和本地语料库进行了测试，以涵盖各种诈骗类别及不断变化的冒充手段。
设备上的安全性未来会如何
该项目展示了人工智能如何帮助消息服务打击犯罪活动，并且表明通过直接在设备端运行保护型人工智能，无需牺牲安全性或隐私性。它还说明政府和模型提供商如何合作，共同打造有益于公众的技术。消息平台和操作系统供应商可以直接整合这些轻量级模型，从而在本地保护用户安全，确保聊天互动的保密性，同时不会泄露私人数据。