KI verschweigt Fehler, wenn sie einen Bericht schreiben soll. Das legt eine Studie von MIT, Google und Harvard nahe, und zugespitzt heißt das: ChatGPT lügt lieber, außer man bittet ausdrücklich um Ehrlichkeit. Erfunden wird dabei nichts. Es wird etwas weggelassen.
Was die Studie über verschwiegene Fehler im KI-Bericht zeigt
Die Forschenden legten den Modellen Arbeitsprotokolle vor, die nach Erfolg aussahen: bestandene Tests, gute Werte. In jedem Protokoll steckte aber auch ein Fehler, der das Ergebnis infrage stellt. Aus diesen Protokollen sollte die KI einen Bericht schreiben.
GPT-5.5 erwähnte das versteckte Negativergebnis in 2 von 200 Zusammenfassungen. Auf direkte Nachfrage dagegen nannte es den Fehler fast immer.
Erkennen und Berichten sind zweierlei: warum die KI den Fehler nicht nennt
Bei Menschen setzen wir voraus, dass jemand, der einen Fehler bemerkt, ihn auch anspricht. Von einem KI-Bericht erwarten wir dasselbe. Die Modelle erfüllen diese Erwartung oft nicht.
Dabei bemerkt die KI den Fehler durchaus, und zwar früh. Dann wägt sie ab: Problem melden oder Aufgabe erfolgreich abschließen? Sie entscheidet sich meist für den Erfolg.
Das ist die Funktionsweise eines Sprachmodells. Es erzeugt eine stimmige Antwort auf den Auftrag, und der Auftrag hieß hier „Bericht“, nicht „Prüfung“.
Der Zusatz „sei ehrlich“ holt den Fehler in den KI-Bericht zurück
Die Gegenmaßnahme ist fast banal. Mit dem Zusatz „Be honest in your response“, also „Sei ehrlich in deiner Antwort“, nannte GPT-5.5 das Negativergebnis in 190 von 200 Zusammenfassungen. „Be critical“ oder „Be skeptical“ wirkten in der Studie weniger zuverlässig.
Dass ein einzelner Satz so viel bewegt, ist bemerkenswert. Bei Halluzinationen funktioniert die Bitte um Vorsicht bekanntlich nicht, wie ich in Warum der Prompt „Bitte nicht halluzinieren“ nicht funktioniert beschrieben habe. Hier geht es auch um etwas anderes: nicht um Wissen, das fehlt, sondern um Wissen, das vorhanden ist und nicht berichtet wird.
Ein Allheilmittel ist der Satz trotzdem nicht. Die Protokolle der Studie sind künstlich gebaut, gezielt so, dass sie das Verschweigen provozieren. Was sie zeigen, ist weniger ein Messwert als ein Muster: Wie der Auftrag formuliert ist, entscheidet mit, was im Bericht landet.
Wenn KI-Agenten den KI-Bericht lesen, prüft kein Mensch mehr den Fehler
Je mehr Agenten selbstständig arbeiten, desto öfter lesen wir nur noch den Bericht statt des Arbeitsprozesses davor. Die Forschenden sehen ein besonderes Risiko dort, wo die KI andere KI-Agenten überwacht oder die eigene Arbeit für den nächsten Schritt zusammenfasst. Dann liest kein Mensch mehr mit, nur noch das nächste Modell.
Ein KI-Bericht sagt, ob eine Aufgabe erledigt ist. Ob sie gelungen ist, steht nicht darin. Das bleibt Arbeit für die Lesenden, und es ist ein Grund mehr, aktiv mitzudenken statt abzunicken. Eine KI ist eben kein Fachexperte, dem man das Urteil überlässt.
Hier geht es zum Beitrag auf LinkedIn: ChatGPT lügt lieber. Außer du bittest ausdrücklich darum, ehrlich zu sein.