Wir haben mit @fmf_org und seinen Mitgliedsfirmen einen neuen Rahmen entwickelt, der dabei helfen soll, zu erkennen, wann die Umgehung der Schutzmaßnahmen eines KI-Systems schweren Cyber-Schaden ermöglichen könnte, und stärkere Schutzmaßnahmen priorisieren.
"...Dieser Rahmen ist ein wichtiger Schritt hin zu einer gemeinsamen Methodik zur Bewertung und zum Vergleich des Schweregrads von Cyber-Jailbreaks, einschließlich der Fähigkeiten, die sie freischalten, und wie leicht sie eingesetzt werden können. Geteilte Ansätze wie dieser können der KI- und Sicherheits-Community helfen, eine klarere Beweisgrundlage aufzubauen und Verbesserungen der Schutzmaßnahmen zu priorisieren." - Sasha Baker, Head of National Security Policy bei OpenAI
https://www.frontiermodelforum.org/updates/introducing-the-fmf-jailbreak-rating-framework-for-frontier-cyber-threats/