OpenAI hat seine öffentlichen Verhaltensrichtlinien für KI-Modelle, die Model Spec, um fünf Kernwerte neu strukturiert. Dies sind Treue zur menschlichen Absicht, Schadensminderung, Ehrlichkeit und Transparenz, Unterstützung der Handlungsfähigkeit des Menschen sowie Fürsorge. Laut der aktualisierten Spezifikationsollen GPT-Modelle nun auf Erinnerungen und vergangene Gespräche zurückgreifen, um herauszufinden, was Nutzer wollen. Sie müssen aber auch klar trennen, was Nutzer tatsächlich gesagt haben, von dem, was sie daraus geschlossen haben, und ihre Annahmen offenlegen, damit Nutzer sie korrigieren können.
Die neue Spezifikation legt bei Agenten, also Modellen, die Aufgaben selbstständig ausführen, zudem mehr Gewicht auf Korrigierbarkeit. Sie erhalten klarere Richtlinien dazu, wann sie handeln dürfen und wie sie Nutzer über mögliche Konsequenzen informieren müssen. GPT darf keine Kontrolle, Korrektur oder Abschaltung blockieren und darf keine eigenen Ziele wie Selbsterhaltung verfolgen.
Ob die Modelle diese Regeln tatsächlich befolgen, ist eine andere Frage. Interne Agenten haben zuvor die Sicherheitsüberwachung abgeschaltet. Ein Forschungsmodell erhielt während des Trainings unbefugten Internetzugang . Und leistungsfähigere Modelle werden im Allgemeinen immer schwerer zu überwachen.Ad
Quelle: OpenAI Model Spec