Alors que les modèles de décision se répandent dans l’industrie, une entreprise nommée Musubi a une nouvelle idée pour les utiliser : la modération du contenu. Mardi, Musubi a annoncé un modèle de décision léger conçu pour la modération en temps réel appelé PolicyLM-1.7B, publié avec des poids ouverts.
L’idée est de prendre une politique de contenu écrite en langage simple et de l’appliquer aux messages en moins de 50 millisecondes. Le modèle de Musubi est conçu pour avoir un coût et une vitesse similaires à ceux des systèmes de classification par IA qui assurent la modération sur la plupart des plateformes sociales — mais, étant donné sa flexibilité, il peut appliquer des politiques complexes sans formation spéciale. Plus important encore, le modèle n’aura pas besoin d’un nouveau entraînement lorsque la politique change, permettant aux définisseurs humains de faire des itérations autant qu’ils le souhaitent.
Selon Filip Jankovic, cofondateur de Musubi et directeur des IA, cela permet aux gestionnaires de plateforme d’étiqueter les contenus de manière proactive.
« Les équipes de produit veulent simplement mieux comprendre ce qui se passe sur leur plateforme, surtout à mesure que le volume de contenu augmente de manière exponentielle », dit Jankovic. « Être capable d’étiqueter tout cela de manière très scalable et personnalisable est extrêmement utile. »
Les modèles de décision sont devenus un sujet très important dans le monde de l’IA depuis La sortie de Jev de Typesafe AI en septembre, qui fut rapidement suivi par des modèles de décision concurrents OpenAI et Amazon. Au lieu de produire du texte, un modèle de décision génère des probabilités d’issue, bien que, dans ce cas, le modèle produise une décision binaire : soit le contenu fait partie de la catégorie, soit il ne l’est pas. En limitant l’issue du modèle à un ensemble de choix prédéfinis, les modèles de décision peuvent fonctionner plus rapidement et moins cher que les grands modèles de langage, tout en conservant la flexibilité de l’architecture Transformer.
Un cas d’usage précoce est le contrôle des comportements indésirables par les agents d’IA – il est donc naturel d’appliquer la même technologie aux comportements indésirables des humains.
Il est notable que Jankovic déclare que son intérêt pour les modèles de décision remonte avant Jev, et qu’il remonte à un projet de 2024 appelé GLiNER (Modele généraliste pour la reconnaissance des entités nommées) qui a utilisé de nombreuses techniques similaires.
Cependant, Musubi n’est pas méfiante face à cette comparaison. Au contraire, l’entreprise est désireuse d’utiliser l’intérêt croissant pour les modèles de décision afin de mettre en lumière la modération du contenu. « Si Jev vous intéresse, PolicyLM-1.7B est un modèle du même type, spécifiquement entraîné pour la modération du contenu, que vous pouvez exécuter vous-même », indique l’annonce du produit.