随着决策模型在行业中的普及，Musubi公司提出了一种利用这些模型的新方法：内容 moderation。周二，Musubi宣布推出了一个用于实时 moderation的轻量级决策模型名为 PolicyLM-1.7B，该模型采用开放权重形式发布。
其原理是将用简单英语撰写的内容政策应用于消息中，耗时不到 50 毫秒。Musubi 模型在成本和速度方面与大多数社交平台用于审核的 AI 分类系统相似——但由于它具有现代大语言模型的灵活性，因此无需特殊训练即可应用复杂的政策。 更为重要的是，当策略发生变化时，模型无需进行新的训练，从而让人类策略制定者能够按需反复调整。
作为 Musubi 的联合创始人及首席人工智能官 Filip Jankovic 认为，这让平台管理者能够主动对内容进行标签标注。
“产品团队只是希望能更清楚地了解其平台上发生的情况，尤其是随着内容数量呈指数级增长的情况下，”扬科维奇说。“能够以非常可扩展且可定制的方式对所有内容进行标记，是非常有用的。”
自9月 Typesafe AI的Jev发布之后，决策模型在人工智能领域成为了一个热门话题。不久之后，OpenAI和亚马逊也推出了各自的决策模型。与输出文本不同，决策模型输出的是结果概率，不过在这种情况下，该模型输出的是二元判断：内容属于该类别或不属于该类别。通过将模型的输出限制在一组预设选项内，决策模型能够比大型语言模型运行得更快、成本更低，同时还能保持Transformer架构的灵活性。
一种早期的应用案例是通过人工智能代理来约束不当行为——因此，将相同技术应用于人类的不当行为也是很自然的。
值得注意的是，詹科维奇表示他对决策模型的兴趣早于杰夫，可以追溯到2024年的一项名为GLiNER的项目（命名实体识别通用模型），该项目使用了许多相同的技术。
不过，Musubi并不害怕这种比较。实际上，该公司希望利用对决策模型的新兴趣来推动内容审核工作。“如果Jev引起了你的兴趣，PolicyLM-1.7B就是那种专为内容审核而训练的模型，你可以自己运行它，”产品公告中写道。