Anthropic entwickelt ein Open-Source-Validierungssystem namens FlashProve, das direkt auf ein Problem zielt: Ob die von Ihnen erhaltene AI-Antwort tatsächlich von dem Modell stammt, das Sie verwenden. Laut dem Blog des Unternehmens am Dienstag soll die von FlashProve ermöglichte „beweisbare Räumlichkeit“ durch Kryptographie mathematische Garantien für jede Ausgabe bereitstellen, um zu beweisen, dass sie tatsächlich vom angegebenen Modell stammt – ähnlich wie eine verschlüsselte E-Mail-Signatur den Empfänger dazu bringt, den Absender zu erkennen. FlashProve ist speziell dafür gedacht, „Modelle, die als Modelle B verkleidet werden, zu verhindern“.
Blockieren der Betrügereien bei den Kosten und enthüllen der „Überlauf“-Noten
Forscher enthüllen langfristige Geheimnisse: Mit diesem Mechanismus fällt es AI-Unternehmen schwer, hinter den Kulissen günstigere Modelle anstelle von teureren Modelle zu verwenden, um Kosten zu sparen. Umgekehrt können Unternehmen auch günstige Modelle als teure Modelle tarnen und die Leistung manuell erhöhen. Zudem kann es dazu dienen, die Werbung von Drittanbietern zu überprüfen – beispielsweise wenn ein Entwickler behauptet, dass das Code-Archiv bereits durch Sicherheitsmodelle überprüft wurde, oder wenn ein Unternehmen seinen Geschäftsplan mit entsprechenden Modelle-Unterschriften belegt. Dadurch haben Nutzer die Möglichkeit, zu fragen: „Warum vertraust du mir?“
Die Fingerabdrücke werden öffentlich gemacht und das Gewicht bleibt geheim – das lokale Gerät kann sie somit überprüfen.
Kerndesign: Das AI-Labor muss nur für jedes Modell ein „Fingerabdruck“ bereitstellen, der anschließend mit dem Ausgang verglichen und durch Kryptografie validiert wird; der Fingerabdruck enthüllt nicht die Gewichtparameter des Modells – jene internen Parameter, die das Verhalten bestimmen, sind der Kern des geschlossenen Codes. Das Labor kann den Fingerabdruck öffentlich bereitstellen, ohne seine Kernressourcen preiszugeben, sodass FlashProve auch kommerzielle geschlossene Modelle unterstützen kann. Das System ist bewusst leicht gestaltet, sodass die Nutzer es lokally überprüfen können. Anthropic hat die technischen Spezifikationen und den lauffähigen Code (open source auf GitHub) veröffentlicht, betont jedoch, dass die Forschung weiterhin läuft und es vorerst nicht geplant ist, selbst zu deployen.