„Ich weiß es nicht.“ Ein unscheinbarer Satz. Wenn es um KI und Urteilskraft geht, ist er einer der wichtigsten.
Forschende haben untersucht, was mit diesem Satz passiert, sobald eine KI im Spiel ist. In Experimenten stellten sie schwierige Fragen. Wer die Antwort nicht kannte, durfte sich enthalten.
KI und Urteilskraft: mehr Antworten, weniger Treffer
Ohne KI antworteten die Teilnehmenden bei gut 40 Prozent der Fragen mit „Ich weiß es nicht“. Mit Zugang zu einer KI fiel der Anteil auf wenige Prozent.
Sie antworteten also häufiger. Richtig lagen sie dabei nur noch etwa ein Drittel so oft wie ohne KI. Ihre Selbstsicherheit dagegen verdoppelte sich. Geld für richtige Antworten und Abzüge für falsche änderten daran nur begrenzt etwas.
Mehr Antworten trotz fehlendem Wissen, und das mit mehr Selbstsicherheit. Die Studie zeigt damit, was mit uns passiert, wenn eine KI eine plausible, aber falsche Antwort liefert.
Der Vergleich mit dem Taschenrechner überschätzt die Verlässlichkeit von KI
Man könnte einwenden: Wir verlassen uns ständig auf Werkzeuge, ohne sie zu prüfen. Niemand rechnet den Taschenrechner nach.
Das ist korrekt, solange das Werkzeug verlässlich ist. Bei KI-Sprachmodellen ist diese Verlässlichkeit nicht gegeben.
Kohärenz statt Wahrheit: Die KI zeigt ihre Wissensgrenze nicht
Die KI erzeugt eine plausible Fortsetzung. Sie ist auf Stimmigkeit gebaut, nicht auf Wahrheit. „Ich weiß es nicht“ kommt in ihren Antworten selten vor.
Die Studie legt nahe, dass wir diese fehlende Zurückhaltung übernehmen. Die KI zeigt die Grenze ihres Wissens nicht, und wir verlieren den Blick für unsere eigene.
Die eigene Wissensgrenze zu kennen gehört zur KI-Kompetenz
Sokrates wird der Satz zugeschrieben, er wisse, dass er nichts wisse. Gemeint war ein Maßstab: Klug ist, wer die Grenze des eigenen Wissens kennt.
Für mich gehört genau das zur KI-Kompetenz. Prompts schreiben lernt man schnell. Zu merken, wann man eine Antwort nicht beurteilen kann, ist schwerer.
Das Modell muss antworten. Wir müssen das nicht.
Hier geht es zum Beitrag auf LinkedIn: „Ich weiß es nicht.“ Ein unscheinbarer Satz oder doch ein sehr wichtiger, wenn es um Urteilskraft geht?