데이터 모델이 업계 전반에 확산됨에 따라, Musubi라는 회사는 이를 활용하는 새로운 방안을 제시했습니다. 바로 콘텐츠 모니터링입니다. 화요일에 Musubi는 실시간 모니터링을 위해 만들어진 가벼운 데이터 모델인 PolicyLM-1.7B를 공개했으며, 이 모델은 오픈 가중치로 배포되었습니다.
원하는 것은 간단한 영어로 작성된 콘텐츠 정책을 가져와서 50밀리초 이내에 메시지에 적용하는 것입니다. Musubi 모델은 대부분의 소셜 플랫폼에서 moderation를 담당하는 AI 분류 시스템과 비용 및 속도 면에서 유사하게 설계되었지만, 현대 LLM의 유연성을 가지고 있어 특별한 훈련 없이 복잡한 정책을 적용할 수 있습니다. 더욱 중요하게는, 정책이 변경될 때 모델에 새로운 훈련이 필요하지 않아 인간의 정책 설정자가 필요한 만큼 반복할 수 있습니다.
무스비의 공동 창립자이자 최고 인공지능 책임자인 필립 야노비치에 따르면, 이는 플랫폼 관리자들이 콘텐츠를 선제적으로 라벨링할 수 있는 방법을 제공한다.
“제품 팀들은 특히 콘텐츠의 양이 기하급수적으로 증가함에 따라, 자사 플랫폼에서 어떤 일이 일어나고 있는지 더 잘 이해하고 싶습니다,”라고 야니코비치는 말합니다. “그 모든 것을 매우 확장 가능하고 맞춤형으로 표시할 수 있다면 매우 유용합니다.”
결정 모델은 9월에 Typesafe AI의 Jev가 출시된 이후 AI 세계에서 뜨거운 주제가 되었습니다. 이에 곧바로 OpenAI와 아마존에서도 경쟁적인 결정 모델이 출시되었습니다. 결정 모델은 텍스트를 출력하는 대신 결과 확률을 출력하지만, 이 경우 모델은 이진 판단을 출력합니다. 즉, 콘텐츠가 해당 범주에 속하는지 아닌지를 판단하는 것입니다. 모델의 출력을 사전에 정해진 선택지들로 제한함으로써 결정 모델은 대규모 언어 모델보다 더 빠르고 저렴하게 실행될 수 있으며, 변환기 아키텍처의 유연성을 유지할 수 있습니다.
한 가지 초기 사용 사례는 AI 에이전트의 잘못된 행동을 통제하는 것입니다 — 그래서 인간의 잘못된 행동에도 같은 기술을 적용하는 것이 당연합니다.
특히 야노비코브는 의사결정 모델에 대한 자신의 관심이 제브보다 먼저 시작되었다고 말하며, 그 기원을 거슬러 올라간다고 한다. GLiNER라는 2024년 프로젝트 (명명된 실체 인식용 일반 모델)은 동일한 기술들을 많이 활용했습니다.
그럼에도 불구하고 Musubi는 이러한 비교를 두려워하지 않습니다. 오히려 회사는 의사결정 모델에 대한 새로운 관심을 활용하여 콘텐츠 모니터링을 더욱 잘 보여주고자 합니다. “Jev에 관심이 있다면, PolicyLM-1.7B는 콘텐츠 모니터링을 위해 특별히 훈련된 모델로, 직접 실행할 수 있습니다.”라고 제품 공지문에는 적혀 있습니다.