Nos asociamos con @fmf_org y sus empresas miembro en un nuevo marco para ayudar a identificar cuándo eludir las salvaguardas de un sistema de IA podría permitir daños cibernéticos graves, y priorizar protecciones más fuertes.
"...Este marco es un paso importante hacia una metodología común para evaluar y comparar la gravedad de los jailbreaks cibernéticos, incluidas las capacidades que desbloquean y la facilidad con la que pueden utilizarse. Enfoques compartidos como este pueden ayudar a las comunidades de IA y seguridad a construir una base de evidencia más clara y priorizar mejoras en las salvaguardas." - Sasha Baker de OpenAI, Jefa de Política de Seguridad Nacional
https://www.frontiermodelforum.org/updates/introducing-the-fmf-jailbreak-rating-framework-for-frontier-cyber-threats/