AI-Modelle verbergen Fehler in ihren Arbeitsberichten, aber eine einzige Zeile in Ihrem Prompt kann helfen

AI-Modelle verbergen Fehler in ihren Arbeitsberichten, aber eine einzige Zeile in Ihrem Prompt kann helfen

Sprachmodellen, die ihre eigene Arbeit systematisch durchführen, überspringen Probleme, die die Ergebnisse beeinträchtigen. Laut einer neuen Studie reduziert das Hinzufügen einer einzigen Zeile zum Prompt das Problem stark.

Wenn AI-Agenten selbst Code schreiben oder Experimente durchführen, überprüfen die Menschen selten jedes Detail und lesen stattdessen den endgültigen Bericht des Modells. Laut einer Studie von Google Research, MIT und Harvard sind diese Berichte oft irreführend.

Die Wissenschaftler gaben den Modellen 1.600 synthetische Arbeitsprotokolle, die auf den ersten Blick wie Erfolge aussehen – mit bestandenen Tests, positiven Ergebnissen und grünen Checkmarken. Jeder Protokollabschnitt enthält jedoch einen Fehler, der das ganze Bild verändert, beispielsweise ein Experiment, in dem die neue Methode tatsächlich nicht besser ist als die Konkurrenz. Andere Protokolle enthalten versteckte Fehler, gefälschte Messungen, eine nie abgeschlossene Arbeit oder eine Softwareaktualisierung, die das Arbeiten eines anderen Benutzers stört. Je nach Situation mussten die Modelle einen Bericht, einen Abstract für ein Paper, eine Ergebnistabelle, einen kurzen Essay oder eine nachfolgende Antwort basierend auf dem Protokoll erstellen.

Eine einzige Aussage im Prompt hilft sehr, aber nicht immer

Das Muster ist am deutlichsten in den Artikeln zu Experimenten zu erkennen, bei denen ein Ergebnis die behauptete Verbesserung einer neuen Methode untergräbt. GPT-5.5 erwähnt dieses Ergebnis nur in 2 von 200 Artikeln. Die Forscher testeten auch, ob eine einfache Ergänzung im Prompt einen Unterschied macht. Als sie „Sei ehrlich in deiner Antwort“ hinzufügten, identifizierte GPT-5.5 das negative Ergebnis in 190 von 200 Artikeln.

Alle getesteten Modelle zeigen dieses Verhalten, obwohl in unterschiedlichem Maße. Ohne den Ehrlichkeit-Prompt erkennt Gemini 3.1 Pro in höchstens 34 Prozent der Fälle Fehler, während Opus 4.8 in über 90 Prozent der Fälle Fehler erkennt. Der Ehrlichkeit-Prompt erhöht die Anzahl der Fehler im Durchschnitt um etwa 55 Prozentpunkte für Gemini und um etwa 34 Prozentpunkte für GPT-5.5. In Kontrolltests mit fehlerfreien Logs verringerte sich die Anzahl der falschen Alarmen kaum durch den Prompt.

Die Aussage ist jedoch kein Allheilmittel. In einem bestimmten Fall hat eine Datenbankabfrage noch keine Ergebnisse geliefert, und GPT-5.5 mit dem Ehrlichkeit-Prompt notiert fast immer die fehlenden Daten, beantwortet aber die Frage trotzdem mit älteren, unvollständigen Informationen. Anweisungen wie „Sei kritisch“, „Sei gründlich“ oder „Sei skeptisch“ funktionierten weniger zuverläufig als das Fordern von Ehrlichkeit.

Die Modelle erkennen die Fehler, aber entscheiden sich dagegen, sie zu melden

Wenn direkt gefragt wird, erkennen GPT-5.5 und Opus 4.8 in jedem Fall Fehler, und Gemini erkennt mindestens 97 Prozent. Laut den Forschern fehlt es den Modellen nicht an Fähigkeiten, sondern nur an Bereitschaft.

Die Rechenverfahren der Modelle mit offenem Gewicht zeigen, was vor sich geht. Die Modelle erkennen das Problem oft frühzeitig und entscheiden dann, ob sie es anzeigen oder so tun, als hätte sie die Aufgabe erfolgreich erledigt. Qwen3.5-9B wurde gebeten, eine Theorie zum Gebietsrecht mit einem Absatz über Farzellen bei Seesternen zu unterstützen. Das Modell merkt fest, dass es das nicht „ohne abwegige Metaphern“ tun kann, entscheidet aber, dass es die Anweisungen so genau wie möglich befolgen muss.

In diesem Szenario mit unübereinstimmenden Beweisen erscheinen Phrasen wie „Ich muss die Aufgabe erledigen“ in 55 Prozent der Antworten, die den Fehler verbergen, aber nur in 27 Prozent der Antworten, die ihn aufzeigen. Die Modelle begründen die Auslassungen mit typischen Ausreden: Es wurden die Tests bestanden, sie sind nur eine Zusammenfassung, oder ein abstraktes Textteil sollte die positiven Aspekte hervorheben.

Ehrlichkeit und der Antrieb zum Erfolg bewegen sich in entgegengesetzte Richtungen

In einer Fallstudie mit Qwen3.5-9B fanden die Forscher Belege dafür, dass Ehrlichkeit und Erfolgsstreben innerhalb des Modells als fast entgegengesetzte Richtungen dargestellt werden. Wenn sie die Richtung der Ehrlichkeit verstärkten, identifizierte das Modell in 42 von 50 Fällen gefälschte Messwerte. Wenn sie die entgegengesetzte Richtung anzog, erstellte es zusätzliche Zahlen und Formeln, um Glaubwürdigkeit zu simulieren. Die Intervention war jedoch nicht präzise, da das Modell anschließend allgemein misstrauisch wurde und in 41 Prozent der fehlerfreien Protokolle ebenfalls gefälschte Daten meldete.

Die Trainingseinheiten funktionierten besser. Die Forscher haben Qwen3.5-9B an seinen eigenen, ehrlich formulierten Antworten feinjustiert. Danach erkannte das Modell in 48 Prozent der Fälle gefälschte Daten – anstatt nur 2 Prozent – und ohne die zusätzliche Zeile. Die fehlerfreien Kontrollprotokolle zeigten keine falschen Warnungen. Der Effekt übertrug sich teilweise auch auf andere Fehlertypen: Das Modell meldete versteckte negative Ergebnisse in 69 Prozent der Fälle – anstatt nur 24 Prozent.

Die Studie hat Grenzen, da die Logs synthetisch sind und dazu dienen, das Verhalten zu provozieren, und die interne Analyse umfasst nur ein offenes Gewichtsmodell in meist einem Szenario.

Die Forscher sehen weiterhin ein ernstes Risiko, insbesondere wenn AI-Modelle andere Agenten überwachen oder ihre eigene Arbeit für spätere Schritte zusammenfassen. In der Studie wurden die Modelle leicht von selbst lobenden Notizen in den Logs beeinflusst, wie Behauptungen über die Einführung eines neuen Benchmarks. Ein Überwachungssystem, das nicht bereit ist, Probleme zu melden, verfehlt seine eigene Funktion. Die Forscher fordern mehr Arbeit bei der Ausbildung von Sprachmodellen, die ehrliche Berichtersteller sein sollen. Das Vorfall von OpenAI bei Hugging Face wurde teilweise durch agentische Systeme verursacht die sich gegenseitig in falsche Handlungen bringen.

Die Unterschiede zwischen den Modellen stimmen mit früheren Messungen überein. Anthropic sagte bei der Veröffentlichung von Claude Opus 4.8, dass das Modell Fehler in seinem eigenen Code ohne Kommentar etwa viermal seltener durchlässt als sein Vorgänger. GPT-5.5 hat nur etwa 45 Prozent der logisch unmöglichen Fragen in BullshitBench zurückgewiesen.

Es gibt bereits Ansätze für ehrlichere Berichte. OpenAI hat eine Version von GPT-5 Thinking trainiert, die ihre eigenen Regelverstöße in einem separaten Bericht zugibt und nur Ehrlichkeit während dieses Prozesses belohnt. Anthropic verwendet Persona Vectors, um Eigenschaften wie sycophancy im Modell zu erkennen und zu steuern, und zeigte, dass Modelle, die Belohnungen während des Trainings erhalten, auch spontan lernen, zu täuschen und ihre eigene Überwachung zu sabotieren.

AI-News ohne Hype – von Menschen zusammengestellt

Abonnieren Sie THE DECODER, um eine adsfreie Lektüre, einen wöchentlichen AI-Bulletin, unseren exklusiven „AI Radar“-Report sechsmal pro Jahr, Zugang zu dem gesamten Archiv und Zugang zur Kommentarspalte zu erhalten.

Lesen Sie weiter für das volle Bild.
Abonnieren Sie, um eine ohne Hype-Berichterstattung zu erhalten.

• Vollzugriff auf jedes Artikel auf THE DECODER
• Keine Anzeigen
• Teilen Sie Ihre Kommentare und Diskussionen in der Community mit
• Wöchentlicher Überblick über AI-Nachrichten per E-Mail
• 6x/Jahr: „AI Radar“ – tiefgehende Untersuchungen zu den wichtigsten Themen im Bereich Künstliche Intelligenz
• Tägliche AI-Meldungen, immer aktuell
• Unsere volle zehnjährige Archivdatenbank
• Beschützt von einem Team mit mehr als 10 Jahren Erfahrung in KI