ByteDance legt dem eigenen großen Modell eine noch festere Leine an. Am 13. Oktober gab die AI-Modellabteilung Seed intern bekannt, eine neue Abteilung zu gründen, die sich eigens der Kontrolle der Sicherheitsrisiken großer Modelle widmen soll. Diese neue Abteilung hat es in sich: Ihre Leitung berichtet nicht mehr über mehrere Zwischenebenen, sondern direkt und unter Umgehung der mittleren Hierarchie an Wu Yonghui persönlich, die "Nummer Eins" der großen Modelle von ByteDance – ein deutliches Zeichen dafür, welches Gewicht diese Angelegenheit im Unternehmen hat.
Die neue Abteilung trägt den Namen "Seed Model - Alignment & Preparedness" und steht unter der Führung von Yan Lin. Yan Lin ist eine der führenden Persönlichkeiten des Seed-Teams von ByteDance und hütete in den vergangenen Jahren stets die Torwache in Sachen "Ausrichtung" (Alignment) des Doubao-Großmodells. ByteDance erklärte nach außen, die Absicht hinter der Gründung dieser Abteilung sei, in die Bereiche Sicherheit und Ausrichtung noch gewichtigere Investitionen zu stecken. "Ausrichtung" bedeutet, schlicht gesagt, dass das Verhalten eines Modells stets an der tatsächlichen Absicht des Menschen und an den Sicherheitsgrenzen entlanggeht und nicht selbst vom Weg abkommt; auf Produktebene spürt man ihre Existenz direkt an der Regelkonformität der Antworten, der Qualität der Antworten und sogar an der Wertausrichtung von Chatbots wie Doubao.
Diese Leine soll nicht nur bei Ausrutschern im Plaudermodus anziehen. ByteDance hat die Verbesserung der Sicherheitsfähigkeiten von Agent Model (Agentenmodellen) in die Ziele der Abteilung aufgenommen und ausdrücklich die Prävention von CBRN – also chemischen, biologischen, radiologischen und nuklearen Fähigkeiten, den gefährlichsten Grenzleistungen – zum Hauptüberwachungsgegenstand erklärt. Je besser Agenten zunehmend selbst Werkzeuge aufrufen und selbst langkettige Aufgaben erledigen können, desto größer wird auch ihr potenzieller Wirkungsradius bei Schäden. Einem solchen System ein eigenes Team von "Sicherheitswächtern" zur Seite zu stellen, bedeutet, dass Bremse und Lenkrad in menschlicher Hand bleiben, bevor das Modell wirklich eigenständig zu handeln lernt.