A medida que los modelos de decisión se difunden en toda la industria, una empresa llamada Musubi tiene una nueva idea para utilizarlos: la moderación de contenido. El martes, Musubi anunció un modelo de decisión ligero diseñado para la moderación en tiempo real denominado PolicyLM-1.7B, lanzado con pesos abiertos.
La idea es tomar una política de contenido escrita en inglés sencillo y aplicarla a los mensajes en menos de 50 milisegundos. El modelo de Musubi está diseñado para tener costos y velocidad similares a los sistemas de clasificación de IA que permiten la moderación en la mayoría de las plataformas sociales — pero, debido a que tiene la flexibilidad de un LLM moderno, puede aplicar políticas complejas sin entrenamiento especial. Aún más importante, el modelo no necesitará entrenamiento nuevo cuando cambie la política, lo que permite a los diseñadores humanos iterar tanto como necesiten.
Según Filip Jankovic, cofundador de Musubi y director ejecutivo de IA, esto permite a los administradores de plataformas etiquetar el contenido de manera proactiva.
“Los equipos de producto solo quieren tener una mejor comprensión de lo que está sucediendo en su plataforma, especialmente debido al aumento exponencial de la cantidad de contenido”, dice Jankovic. “Poder etiquetar todo eso de una manera muy escalable y personalizable es extremadamente útil”.
Los modelos de decisión se han convertido en un tema muy importante en el mundo de la IA desde la publicación de Jev de Typesafe AI en septiembre, que fue poco después seguida por modelos de decisión competidores de OpenAI y Amazon. En lugar de generar texto, un modelo de decisión genera probabilidades de resultado, aunque en este caso el modelo emite un juicio binario: o el contenido pertenece a la categoría o no lo hace. Al limitar la salida del modelo a un conjunto de opciones predeterminadas, los modelos de decisión pueden ejecutarse más rápido y económicamente que los grandes modelos de lenguaje, mientras mantienen la flexibilidad de la arquitectura de transformador.
Un caso de uso temprano es controlar el comportamiento inadecuado de los agentes de IA; por lo tanto, es natural aplicar la misma tecnología al comportamiento inadecuado de los seres humanos.
Cabe mencionar que Jankovic dice que su interés en los modelos de decisión es anterior a Jev, y lo remonta a Un proyecto de 2024 llamado GLiNER (Model generalista para el reconocimiento de entidades nombradas) que implementó muchas de las mismas técnicas.
Sin embargo, Musubi no teme la comparación. De hecho, la empresa está ansiosa por utilizar el nuevo interés en los modelos de toma de decisiones para destacar la moderación de contenido. “Si Jev te llamó la atención, PolicyLM-1.7B es un modelo del mismo tipo, entrenado específicamente para la moderación de contenido, que puedes ejecutar tú mismo”, dice el anuncio del producto.