決定モデルが業界全体に広がる中、Musubiという会社はそれらを活用する新しいアイデアを持っています。それはコンテンツの管理です。火曜日、Musubiはリアルタイムの管理用に作られた軽量な決定モデルPolicyLM-1.7Bと呼ばれるものを、オープンウェイトで公開したと発表しました。
英語で書かれたコンテンツポリシーを取り入れ、50ミリ秒未満でメッセージに適用するというものです。Musubiのモデルは、ほとんどのソーシャルプラットフォームでモデレーションを行うAI分類器システムと同じように、コストと速度が同等になるように設計されています。しかし、現代のLLMのような柔軟性を持っているため、特別なトレーニングを必要とせずに複雑なポリシーを適用することができます。 さらに重要なのは、ポリシーが変更されたときにモデルに新たなトレーニングが必要ないことで、人間のポリシー設定者が必要なだけ繰り返し実験することができるという点です。
Musubiの創設者でありAI担当チーフであるフィリップ・ヤンコヴィッチによれば、これによりプラットフォーム管理者はコンテンツにラベルを付ける方法を積極的に確保できるという。
「製品チームは、特にコンテンツの量が指数関数的に増加している中で、自分たちのプラットフォームで何が起こっているかをよりよく理解したいのです」とヤンコヴィッチは言います。「それら全てを非常にスケーラブルでカスタマイズ可能な方法で分類できることは、非常に有用です。」
9月にTypesafe AIのJevが公開された以降、決定モデルはAI界で熱い話題となっている。その直後には、OpenAIやAmazonからも競合する決定モデルが登場した。テキストを出力するのではなく、決定モデルは結果の確率を出力するが、この場合は二値の判断を出力する：内容が該当カテゴリーに属するかどうかである。モデルの出力を予め定められた選択肢の範囲に限定することで、決定モデルは大規模言語モデルよりも速く安く動作できる。同時に、トランスフォーマーアーキテクチャの柔軟性も保持される。
最初の利用例の一つは、AIエージェントによる悪行の抑制です。したがって、同じ技術を人間の悪行にも適用するのは自然なことです。
特に、ヤンコビッチは、決定モデルへの関心がジェヴよりも前にあると述べています。その起源は、同じ技術を活用した2024年に発表されたGLiNER（Named Entity Recognitionの汎用モデル）プロジェクトに遡るということです。
それでも、Musubiはこの比較を警戒していません。むしろ、決定モデルへの新たな関心を利用してコンテンツ管理の仕組みを明らかにしたいと考えています。「Jevに興味を持ったら、PolicyLM-1.7Bはコンテンツ管理のために特別に訓練された同じ種類のモデルであり、自分で実行することができます」と製品発表文には書かれています。