我们与@fmf_org及其成员公司合作,制定了一个新框架,以帮助识别何时绕过AI系统的安全防护措施可能导致严重的网络危害,并优先采取更强的保护措施。
"……该框架是朝着评估和比较网络越狱严重性(包括其解锁的能力及其被使用的容易程度)的通用方法论迈出的重要一步。像这样的共享方法可以帮助AI和安全界建立更清晰的证据基础,并优先改进安全防护措施。" —— OpenAI国家安全政策负责人Sasha Baker
https://www.frontiermodelforum.org/updates/introducing-the-fmf-jailbreak-rating-framework-for-frontier-cyber-threats/