- 단계 1: 최소한의 전력만 사용하여 잠재적 위협을 감지하는 데 중점을 두고, 가벼우며 효율적인 분류기 스크린이 인바운드 메시지를 처리합니다.
- 2단계: 우리가 미세화한 Gemma 모델을 이용한 맥락 기반 평가로, 대규모 대화 내용을 분석하여 위협이 있는지 확인하거나 잘못된 경보를 제거합니다.
엄격한 거버넌스에 기반하여 구축됨
싱가포르 국제 사이버 주간(SICW 2026)에서 발표된 이 협력은 사용자 보호와 엔드투엔드 암호화를 조화시키는 메시지 플랫폼의 모델을 제시합니다. 개발 전반에 엄격한 관리 체계가 유지되었습니다.
주권 샌드박스: 트레이닝 데이터를 분리된 상태로 유지하면서, GovTech이 관리 및 유지하는 GCP 환경 내에서 미세 조정 작업이 이루어졌습니다.
시민 데이터 없음: 훈련 과정에서는 사적인 또는 개인을 식별할 수 있는 정보를 엄격히 제외했으며, 사기 신고 및 정보 공유 자료로부터 얻은 익명화된 데이터 세트를 사용했습니다.
스트레스 테스트: 이 모델은 다양한 사기 범주와 발전하는 위장 전략을 다루기 위해 합성 대화 및 지역 코퍼스로 테스트되었습니다.
기기 내 안전의 미래
이 프로젝트는 AI가 메시지 서비스가 범죄를 억제하는 데 어떻게 도움이 될 수 있는지를 보여줍니다. 또한 보호용 AI를 기기 자체에서 직접 실행함으로써 안전성이나 개인정보 보호가 해당되지 않아도 된다는 것을 보여줍니다. 또한 정부와 모델 제공업체가 공공의 이익을 위한 기술을 함께 개발할 수 있다는 점도 보여줍니다. 메시지 플랫폼과 운영 체제 공급업체는 이러한 경량 모델을 직접 통합하여 사용자들을 지역적으로 보호할 수 있으며, 개인 정보를 노출하지 않으면서도 채팅 상호작용이 안전하게 유지될 수 있습니다.