Da Entscheidungsmodelle im gesamten Industriebereich verbreitet sind, hat das Unternehmen Musubi eine neue Idee, wie man sie einsetzen kann: die Moderation von Inhalten. Am Dienstag gab Musubi ein leichteres Entscheidungsmodell bekannt, das für die Echtzeit-Moderation entwickelt wurde der als PolicyLM-1.7B bezeichnet wird, der mit offenen Gewichten veröffentlicht wurde.
Die Idee besteht darin, eine Inhaltsrichtlinie, die in einfacher englischer Sprache verfasst ist, auf Nachrichten zu anzuwenden – und das in weniger als 50 Millisekunden. Das Modell von Musubi ist so konzipiert, dass es hinsichtlich Kosten und Geschwindigkeit den AI-Klassifikationssystemen ähnelt, die auf den meisten sozialen Plattformen für die Moderation verwendet werden – aber da es die Flexibilität eines modernen LLM besitzt, kann es komplexe Richtlinien ohne spezielle Trainierung anwenden. Noch wichtiger ist, dass das Modell keine neue Ausbildung benötigt, wenn die Politik ändert, sodass menschliche Politikgestalter so oft iterieren können, wie sie müssen.
Wie Filip Jankovic, Mitbegründer von Musubi und Chief AI-Offizier, sieht es, gibt dies den Plattformverwaltern eine Möglichkeit, den Inhalt proaktiv zu kennzeichnen.
„Produktteams wollen einfach eine bessere Vorstellung davon haben, was auf ihrer Plattform geschieht – besonders da die Menge an Inhalten exponentiell zunimmt“, sagt Jankovic. „Es ist äußerst nützlich, all das auf eine sehr skalierbare und anpassbare Weise zu labeln.“
Entscheidungsmodelle sind seit dem Release von Jev von Typesafe AI im September ein heißes Thema in der KI-Welt geworden sind. Kurz darauf kamen kompetitive Entscheidungsmodelle von OpenAI und Amazon. Anstatt Text auszugeben, liefern Entscheidungsmodelle Wahrscheinlichkeiten für Ergebnisse, allerdings gibt das Modell in diesem Fall eine binäre Bewertung aus: entweder gehört der Inhalt zur Kategorie oder nicht. Durch die Beschränkung der Modellausgabe auf eine bestimmte Anzahl von vordefinierten Optionen können Entscheidungsmodelle schneller und kostengünstiger arbeiten als große Sprachmodelle, ohne dabei die Flexibilität der Transformer-Architektur zu verlieren.
Eine frühe Anwendungsfall ist die Eindämmung unangemessenen Verhaltens durch AI-Agenten – daher ist es natürlich, die gleiche Technologie auch auf menschliches unangemessenes Verhalten anzuwenden.
Besonders hebt Jankovic hervor, dass sein Interesse an Entscheidungsmodellen bereits vor Jev besteht und es bis zu ihm zurückreicht. Ein Projekt aus dem Jahr 2024 mit dem Namen GLiNER (Generalist-Modell für die Erkennung von Bezeichnungsobjekten), das viele der gleichen Techniken verwendet.
Dennoch ist Musubi nicht misstrauisch gegenüber der Vergleichung. Vielmehr ist das Unternehmen begierig darauf, den neuen Interesse an Entscheidungsmodellen zu nutzen, um die Inhaltskontrolle zu verbessern. „Falls Jev Ihre Aufmerksamkeit erregt hat, ist PolicyLM-1.7B ein ähnliches Modell, das speziell für die Inhaltskontrolle trainiert wurde und Sie selbst nutzen können“, heißt es in der Produktankündigung.