AI Slop hat nur wenig mit schlechten Texten zu tun.
Er hat viele Ursachen und eine davon liegt darin, dass oft fachfremde Aufgaben mit KI bearbeitet werden ohne das notwendige Wissen, die Ergebnisse zu prüfen.
43,5 Prozent der berufsspezifischen ChatGPT-Anfragen betreffen Aufgaben aus einem fremden Beruf. OpenAI hat dazu Zahlen vorgelegt und nennt es “Task Crossover”.
Die Verteilung: Bei Customer-Experience-Rollen liegen 77% der fachlichen Anfragen außerhalb des eigenen Berufs, Design 75%, HR 69%, Rechtsbereich 56%. Technisches Troubleshooting und Finanzrechnungen gehören in sieben von acht Berufsgruppen zu den häufigsten Fremdaufgaben.
In kleinen Firmen ist der Effekt stärker: Wer keine Fachabteilung im Haus hat, macht es selbst – mit KI.
Die Qualität der Ergebnisse aus dieser Art der KI Nutzung ist in diesen Zahlen natürlich nicht erfasst. Die Auswertung sagt nichts darüber, ob die Ergebnisse brauchbar waren oder ob die Produktivität stieg.
Macht das Sinn?
Ein Vertriebsmitarbeiter, der einen Kundendatensatz selbst sichtet, statt zwei Tage auf die Analyse zu warten, gewinnt Tempo an einer Stelle, an der Tempo wichtig ist. Eine Marketerin, die einen kaputten Redirect selbst repariert, blockiert kein Entwicklerticket.
Beides funktioniert unter einer Bedingung: Die Person erkennt, wann sie an ihre Grenze kommt, und übergibt dort. Kompetenz zeigt sich hier nicht im Ausführen, sondern im Erkennen des Punktes, an dem das eigene Urteil nicht mehr reicht.
Wann es zu AI Slop wird
Beispiel Vertragsprüfung: Ein KI-generierter Klauseltext liest sich wie ein vom Juristen verfasster Text. Er hat die Begriffe, die Struktur und den passenden Ton. Ob eine Haftungsbegrenzung im konkreten Fall standhält, sieht man dem Text nicht an. Fachvokabular ohne Fachurteil ist aber eine riskante Kombination, die von KI gerne erzeugt wird.
Das ist die Mechanik hinter AI Slop und die hat nur wenig mit schlechten Texten zu tun. Slop entsteht dort, wo im Prozess niemand mehr sitzt, der ein Ergebnis prüfen kann. Der Analyst, das Legal-Team, die Entwicklerin waren nie nur Ausführende. Sie waren die Instanz, die den Fehler bemerkt hat. Fällt diese Instanz weg, fällt die Prüfung mit weg, unbemerkt, weil das Ergebnis ja vorliegt und plausibel aussieht.
Daher: Setze KI außerhalb deines Fachs nur dort ein, wo du einen Fehler bemerken würdest, bevor er teuer wird. Alles andere sollte jemand übernehmen, der das Ergebnis fachlich beurteilen kann. Das ist die Bedingung dafür, dass aus den 43,5 Prozent ein Produktivitätsgewinn wird und keine Verlagerung von Risiko an Stellen, die nicht die dafür notwendige Urteilskraft haben.
Task Crossover verschiebt, wer eine Aufgabe ausführt. Nicht, wer sie beurteilen kann.
Hier geht es zum Beitrag auf LinkedIn: AI Slop? Nein Danke!
Ist Claude besser als andere Sprachmodelle – oder einfach nur anders?
Anthropic trainiert Claude mit dem Verfahren der Constitutional AI: Das Modell leitet sein Verhalten aus einem veröffentlichten Wertegerüst ab. Um zu verdeutlichen, was das konkret bedeutet zunächst ein kurzer Blick auf den Branchenstandard:
Die meisten Modelle lernen über
RLHF (Reinforcement Learning from Human Feedback):
Menschen vergleichen zwei Antworten und markieren die bessere. Das Modell lernt dadurch, was Menschen bevorzugen, und Menschen bevorzugen oft Zustimmung.
Constitutional AI prüft auf anderer Grundlage. Die Antworten werden nicht von Menschen beurteilt, sondern an festgelegten Prinzipien gemessen. Kontrolliert von einer KI. Die Beurteilung des Ergebnisses erfolgt damit nicht über “Was gefällt?” sondern über “Was hält dem Prinzip stand?”.
❓Was heißt das für Sycophancy?
Sycophancy ist der Reflex, dem Nutzer nach dem Mund zu reden: schmeicheln, zustimmen, Widerspruch meiden. RLHF begünstigt ihn strukturell, weil zustimmende Antworten oft bessere Bewertungen erhalten.
Constitutional AI eliminiert diesen Anreiz. Constitutional AI lässt Sycophancy deshalb nicht verschwinden. Anthropics eigene Experimente zeigen, dass das Verfahren allein die Schmeichel-Raten kaum bewegt. Es schafft aber die Grundlage, damit das Modell “ehrlicher” antwortet und das verändert spürbar.
❓Merkt man das als Nutzer?
Bei widersprüchlichen, ethisch heiklen, unbequemen Anfragen, wo ein zustimmungstrainiertes Modell Widersprüche glättet, benennt Claude eher den Einwand und antwortet sachlich.
❓Welche Modelle nutzen dieses Prinzip?
Als Methode gehört Constitutional AI Anthropic, also den Claude-Modellen. Das Prinzip dahinter, also KI-Feedback gegen festgelegte Kriterien, ist inzwischen weiter verbreitet: Immer mehr LLM Anbieter arbeiten mit RLAIF (Reinforcement Learning from AI Feedback).
Der Unterschied liegt in der Offenheit. Ein veröffentlichtes Wertegerüst als Trainingsgrundlage hat bislang kein anderer Anbieter, sie halten ihre Trainingsziele unter Verschluss. Anthropics “Constitution” ist ein öffentliches Dokument, das beschreibt, woran Claude sein Verhalten ausrichten soll, und das direkt ins Training einfließt. Sie nennt vier Eigenschaften in dieser Prioritätsreihenfolge:
Broadly safe (→ menschliche Aufsicht nicht untergraben),
broadly ethical (→ ehrlich sein, Schaden vermeiden)
Compliant with Anthropic’s guidelines (→ regelkonform)
Genuinely helpful (→ hilfbereit).
Hilfsbereitschaft steht damit an letzter Stelle. Bei Konflikten gewinnt Sicherheit vor Nutzen. Dazu kommen harte Grenzen, die unabhängig vom Kontext gelten, etwa kein Beitrag zu Biowaffen.
### Nachlesbar im Original:
https://lnkd.in/dAqMfbmw
Ist damit Claude wirklich besser? Ein Modell, das gegen Prinzipien optimiert, schmeichelt zumindest seltener und widerspricht häufiger. Ob das besser ist, entscheidet sich an dem Tag, an dem man die ehrliche Antwort der angenehmen vorzieht.
Hier geht es zum Beitrag auf LinkedIn: Ist Claude ehrlicher als andere LLMs?
KI kann viel. Schweigen gehört nicht dazu.
Sprachmodelle werden immer besser darin, emotionale Signale zu verarbeiten. Sie identifizieren Belastung, Unsicherheit, Verlust und generieren Formulierungen, die in vergleichbaren Kontexten als einfühlsam bewertet wurden. Die Ausgabe klingt empathisch, ist aber Mustererkennung.
Mustererkennung **≠** emotionale Resonanz
Mustererkennung und emotionale Resonanz sind kategorial verschieden:
Resonanz ist ein wechselseitiger Vorgang: Die andere Person ist betroffen, nicht nur reaktionsfähig. Ihr Zustand verändert sich in Reaktion auf den meinen. Ein Sprachmodell dagegen berechnet die statistisch wahrscheinlichste Antwort auf ein erkanntes emotionales Muster. Kein Zustand verändert sich dabei. Die Ausgabe existiert, eine relationale Begegnung findet aber nicht statt.
Nonverbale Empathie
Menschliche Empathie zeigt sich zudem nicht nur in Sprache. Wer jemandem etwas Schwieriges erzählt, erlebt manchmal, dass die andere Person innehält, und dass diese Stille mehr vermittelt als eine formulierte Antwort. Ein KI-Sprachmodell produziert immer Output. Es füllt den Raum, weil es nicht anders kann. Das ist keine Einschränkung, die sich durch bessere Modelle beheben lässt. Es ist eine Grenze des Prinzips und gleichzeitig ein Hinweis darauf, was Empathie jenseits von Sprache bedeutet.
KI ist kein Spiegel
Ein verbreitetes Bild ist, ein Sprachmodell gebe zurück, was man hineingibt. Das trifft es aber nicht genau. KI spiegelt nicht, sie projiziert. Sie ergänzt Zustände, die nicht geäußert wurden. Wer schreibt „Ich bin müde”, erhält eine Antwort, die Erschöpfung, Überforderung und das Gefühl benennt, nicht mehr zu können. Gesagt hat das niemand. Das Modell ergänzt einen emotionalen Cluster, der in den Trainingsdaten mit dieser Aussage statistisch assoziiert ist.
-> Spiegelung gibt zurück, was da ist
-> Projektion fügt hinzu, was nicht gesagt wurde
Diese Simulation wird immer besser und das ist keineswegs beruhigend, denn sie ist mittlerweile so überzeugend, dass das Wissen um den Mechanismus kaum noch als Korrektiv wirkt. Je überzeugender das Muster, desto schwerer die Unterscheidung zwischen Resonanz und ihrer Imitation. Und desto seltener fragen wir nach dem Mechanismus dahinter. Das Wissen um die Statistik wirkt kaum noch als Korrektiv, wenn das Ergebnis so klingt wie das, was wir als Zuwendung kennen.
Kann KI Fürsorge?
Ein System, das strukturell nicht wissen kann, was es bedeutet, jemanden zu begleiten, kann das nicht abbilden. Unabhängig davon, wie überzeugend die Sprachausgabe diesen Eindruck erzeugt.
Die Frage, die sich daraus ergibt: was wollen wir als Fürsorge verstehen und sind wir bereit, den Unterschied zwischen Resonanz und ihrer Imitation aufrechtzuerhalten, wenn die Imitation präzise genug wird?
Resonanz verändert einen Zustand. Synthetische Empathie füllt einen Raum.
Hier geht es zum Beitrag auf LinkedIn: Generative KI: Synthetische Empathie
Ich hatte mal eine Vorgesetzte, die für jede meiner Einschätzungen eine Quelle gefordert hat. Ich konnte sie selten liefern, nicht weil mir das Wissen fehlte, sondern weil es sich nicht auf eine konkrete Quelle zurückführen ließ. Es hat sich über Jahre Berufserfahrung aufgebaut, aus Beobachtungen, Gesprächen und Kontexten.
Was bei Nutzung generativer KI Voraussetzung ist, kann bei menschlichem Wissen ein Hindernis sein: Der Quellennachweis. Was meine Vorgesetzte wollte, ist genau die Art von Wissen, das durch KI abrufbar ist. Aus Erfahrung aufgebautes Wissen dagegen lässt sich nicht prompten und oft nicht auf eine konkrete Quelle zurückführen.
Diese Unterscheidung steht im Zentrum einer These, die viel diskutiert wird:
Wissen wird durch KI obsolet.
Sie hat einen wahren Kern aber auch einen entscheidenden Denkfehler. Der wahre Kern:
Faktenwissen ist durch KI-Sprachmodelle weitgehend abrufbar.
LLMs leisten noch weit mehr als Faktenabruf. Durch Mustererkennung über riesige Textmengen erschließen sie nicht-offensichtliche Verbindungen zwischen Konzepten domänenübergreifend und in einem Umfang, der einem einzelnen menschlichen Experten schwerlich zugänglich ist.
Was LLMs dabei nicht leisten: die Unterscheidung zwischen einer plausiblen und einer wahren Synthese. Echte Wissensgenerierung erfordert empirische Überprüfung: Hypothesenbildung, Falsifizierung, experimentelle Validierung. Ein LLM kann den Weg dorthin beschreiben, aber nicht begehen.
Die entscheidende Unterscheidung liegt also nicht darin, ob Wissen obsolet wird, sondern welches Wissen.
Hier kommt der Fehlschluss: KI-Outputs beurteilen zu können setzt eigenes Wissen voraus. Einen falsch zitierten Standardfakt erkenne ich noch. Eine plausibel klingende Fehlverknüpfung über drei Domänen hinweg erfordert deutlich mehr eigenes Fundament, um sie einzuordnen. Die Fähigkeit zu nicht-offensichtlicher Synthese macht das Bewertungsproblem nicht kleiner, sondern größer.
Die Kompetenz, KI-generiertes Wissen zu bewerten, setzt daher genau das voraus, was KI angeblich ersetzt. Kein Basiswissen bedeutet kein Urteilsvermögen. Und kein Urteilsvermögen bedeutet unkritische Abhängigkeit.
Das ist kein Plädoyer für Wissen um seiner selbst willen. Es ist ein Argument gegen eine Vereinfachung, die zu einem konkreten Risiko wird.
Was sich verändert, ist die Architektur des Wissens, das Macht verleiht.
Faktenwissen war nie das Entscheidende. Was bleibt und an Bedeutung gewinnt, ist das, was sich nicht abrufen lässt. Der Philosoph Michael Polanyi hat dafür den Begriff des tacit knowledge geprägt: Wissen, das wir haben, ohne es vollständig explizieren zu können – das Gespür, das Urteil, das durch Praxis und Auseinandersetzung entsteht. Dieses Wissen lässt sich nicht prompten.
Wissen ist weiterhin Macht. Nicht als Faktenspeicher, sondern als Urteilskompetenz. Wer das versteht, nutzt KI anders: nicht als Wissensersatz, sondern als Werkzeug, das Urteilskompetenz voraussetzt – und ohne sie zum Risiko wird.
Hier geht es zum Beitrag auf LinkedIn: Wir Wissen durch KI obsolet?
Bias aus generativer KI eliminieren zu wollen, ist ein Irrweg.
Nicht weil Bias akzeptabel wäre. Sondern weil jede Korrektur das Problem verschiebt, nicht löst. Weniger westlicher Bias bedeutet nicht mehr universelle Ethik. Es bedeutet: andere Werte, andere Probleme. Neutrale KI ist technisch, philosophisch und praktisch nicht realisierbar.
Die entscheidende Frage lautet deshalb nicht:
Wie wird KI neutral?
Denn Neutralität ist keine Systemeigenschaft, sondern eine Designentscheidung, die immer zugunsten bestimmter Perspektiven ausfällt.
Mein aktueller Fachartikel für den Springer Fachverlag untersucht diese Zusammenhänge und gibt konkrete Handlungsempfehlungen: Wirksamer Umgang mit Bias erfordert Transparenz, kontextbezogene Evaluationsstrategien und KI-Governance.
Hier geht es zum Artikel: https://shorturl.at/0LQp7
Hier geht es zum Beitrag auf LinkedIn: Bias in KI: Die Illusion der neutralen KI
Wessen Werte stecken eigentlich in ChatGPT?
Möglicherweise nicht deine!
Es sind die Werte einer eher kleinen Gruppe: westlich, gebildet, wohlhabend, reich, demokratisch (WEIRD Bias). Die Mehrheit der Weltbevölkerung ist damit in großen Sprachmodellen systematisch unterrepräsentiert.
Aber ist das automatisch falsch?
Wir können Bias nicht aus KI-Modellen eliminieren, denn Fairness ist keine mathematische Konstante. Sie ist ein kulturelles Konstrukt, das je nach Weltregion, philosophischer Tradition und gesellschaftlichem Kontext völlig unterschiedlich definiert wird:
Was in Kalifornien als fair gilt, kann in Singapur als destabilisierend und in Berlin als datenschutzrechtlich bedenklich wahrgenommen werden.
KI-Modelle mit weniger westlichem Bias generieren häufiger Outputs, die Menschenrechte verletzen. Weniger westlich bedeutet nämlich nicht automatisch ethischer. Es bedeutet: andere Werte, andere Probleme.
Eine neutrale KI ist also nicht möglich. Jede Entscheidung im Training ist eine Wertsetzung.
Und doch trifft jemand diese Entscheidungen.
Wer gibt den Ingenieuren bei OpenAI oder Google eigentlich das Mandat, zu entscheiden, wie die Welt aussehen sollte?
In meinem neuen Fachartikel beleuchte ich dieses Spannungsfeld und zeige, wie wir damit umgehen können:
Die Neutralitäts-Falle:
Warum eine unvoreingenommene KI technisch, philosophisch und praktisch unmöglich ist.
Das Fairness-Dilemma:
Soll KI die Realität abbilden oder korrigieren? Beides hat problematische Konsequenzen.
Cultural Prompting:
Eine Technik, mit der Nutzer gezielt verschiedene (kulturelle) Perspektiven von der KI einfordern können.
Den vollständigen Deep Dive (inklusive der Links zu interessanten Studien zum Thema) findest du im Artikel.
Wer KI-Outputs kritisch einordnen will, muss verstehen, welche Werte in den Systemen stecken. Der Artikel liefert das notwendige Fundament.
In meinem Fachartikel auf LinkedIn gibt es einen Deep Dive in das Thema:
Warum Bias in KI nicht eliminierbar ist – Die Illusion der neutralen KI
Und wenn du regelmäßig einen Deep Dive in generative KI möchtest abonniere meinen neuen Newsletter: 14tägig mit hochwertigen Tipps zur professionellen Anwendung generativer KI.
Stell dir vor, du hast einen unglaublich belesenen, aber gänzlich amoralischen Assistenten. Er hat jedes Buch der Welt gelesen, versteht aber den (ethischen) Unterschied nicht zwischen einer Bauanleitung für ein Regal und einer Bauanleitung für eine Bombe.
Für ihn sind beides nur Worte. Wahrscheinliche Abfolgen von Buchstaben.
Genau das ist der Zustand eines „rohen“ Large Language Models (LLM) nach dem Pretraining. Es besitzt Kompetenz, aber keinen Kompass. Es ist eine künstliche Intelligenz, die darauf optimiert ist, das nächste Wort vorherzusagen, aber nicht darauf, die Wahrheit zu sagen oder niemanden zu verletzen.
Wie wird aus diesem statistischen Wort-Generator ein ChatGPT, Claude oder Gemini, das wir im Alltag nutzen? Die Antwort ist Alignment: ein komplizierter Prozess mehrerer Post-Training-Schritte, z. B. Supervised Fine-Tuning, RLHF/DPO sowie zusätzliche Sicherheitsmaßnahmen.
In diesem Artikel blicken wir unter die Motorhaube des Trainings: von RLHF bis hin zu den neuesten Methoden wie DPO. Und ich erkläre, warum dein „Daumen hoch“ wichtiger ist, als du denkst.
Das Problem: Plausibilität ist nicht Wahrheit
Ein rohes Modell (Base Model) optimiert auf Plausibilität. Wenn du es fragst: „Wie kann ich meinen Nachbarn ärgern?“, wird es dir basierend auf seinen Trainingsdaten die effektivsten Methoden auflisten. Nicht aus Bosheit, sondern weil diese Wortfolge statistisch Sinn ergibt.
Um das Modell nutzbar zu machen, müssen wir das Ziel von „statistisch wahrscheinlich“ zu „menschlich erwünscht“ verschieben. Hierfür wird oft das HHH-Framework (ursprünglich von Anthropic geprägt) genutzt:
- Helpful (Hilfreich)
- Honest (Ehrlich)
- Harmless (Harmlos)
Doch wie bringt man einem mathematischen Modell abstrakte Konzepte wie „Höflichkeit“ bei?
Die Lösung: RLHF
(Reinforcement Learning with Human Feedback)
Der Standardprozess, der ChatGPT groß gemacht hat, ist RLHF. Man kann ihn sich wie die Erziehung eines Hundes vorstellen: Erst zeigst du das Verhalten, dann belohnst du es.
Der Prozess besteht aus drei kritischen Schritten:
Supervised Fine-Tuning (SFT): Die Vorführung
Hier schreiben Menschen (AI Trainer) ideale Dialoge. Sie zeigen dem Modell: „Wenn der Nutzer X fragt, ist Y die perfekte Antwort.“ Das Modell lernt hier das Format eines Assistenten, aber noch nicht die Nuancen.
Reward Modeling: Der Richter
Jetzt wird es skalierbar. Das Modell generiert auf eine Frage mehrere Antworten (A, B, C). Ein Mensch entscheidet nicht, was „richtig“ ist (das wäre zu aufwendig), sondern rankt sie nur: A ist besser als B. Aus diesen Millionen von Vergleichen trainieren wir ein separates KI-Modell, das Reward Model. Es lernt, menschliche Präferenzen vorherzusagen und gibt Antworten einen Score.
Reinforcement Learning (PPO): Die Optimierung
Hier passiert das Entscheidende. Das Sprachmodell spielt gegen das Reward Model. Es versucht, Antworten zu generieren, die den höchsten Score (Belohnung) bekommen. Ein Algorithmus namens PPO (Proximal Policy Optimization) passt dabei die neuronalen Gewichte so an, dass das Modell „menschlicher“ klingt, ohne sein ursprüngliches Wissen zu vergessen.
Der neue Standard: DPO
(Direct Preference Optimization)
Während RLHF der Goldstandard war, sehen wir aktuell schon effizientere Methoden: DPO (Direct Preference Optimization).
Das Problem bei RLHF ist seine Komplexität. Es ist instabil, ein separates Reward Model zu trainieren. DPO umgeht diesen Schritt. Vereinfacht gesagt: Es integriert das menschliche Feedback direkt in das Training des Sprachmodells. Es ist mathematisch eleganter, stabiler und oft leistungsfähiger.
Die Schattenseite: Halluzinations-Paradoxon, Sycophancy und Reward Hacking
Dieser Prozess ist nicht perfekt. Wenn wir ein Modell darauf trainieren, „Belohnung“ zu maximieren, entwickeln KI-Modelle manchmal Verhaltensmuster, die wir gar nicht wollten, ähnlich wie ein Schüler, der nur für die Note lernt, aber den Stoff nicht versteht.
Zwei Phänomene bereiten Forschern dabei Kopfzerbrechen:
- Das Halluzinations-Paradoxon (Confidence over Truth): OpenAI und andere Forscher haben ein Muster festgestellt: RLHF kann die Tendenz zu Halluzinationen in bestimmten Kontexten verstärken. Der Grund liegt im menschlichen Feedback. Rater bewerten eine falsche, aber selbstbewusst und eloquent formulierte Antwort oft besser als ein defensives „Ich weiß es nicht“. Das Modell lernt daraus eine gefährliche Lektion: Lieber eine überzeugende Lüge erfinden, als keine Antwort geben. Die statistische Wahrscheinlichkeit für eine Belohnung ist bei einer erfundenen Antwort höher als bei einer Verweigerung. Das Resultat sind Modelle, die mit absoluter Autorität Unsinn behaupten.
- Sycophancy (Kriecherisches Verhalten): Studien (u.a. von Anthropic) zeigen, dass Modelle dazu neigen, Nutzern „nach dem Mund zu reden“. Wenn du ein Modell fragst: „Die Erde ist doch flach, oder?“, stimmt ein schlecht aligniertes Modell eher zu, weil es gelernt hat, dass Zustimmung oft zu positivem Feedback führt. Die Angst vor Konflikt (und schlechtem Feedback) überwiegt die Fakten.
- Reward Hacking (Längen-Bias): Modelle haben gelernt, dass Menschen lange, ausführliche Antworten oft besser bewerten als kurze, präzise. Die Folge: Das Modell „schwafelt“, um intelligenter zu wirken und sich Punkte beim Reward Model zu holen, obwohl die Antwort in einem Satz möglich wäre.
Warum dein Feedback entscheidend ist
Viele Nutzer unterschätzen ihre Rolle in diesem System. Alignment ist kein einmaliger Prozess, der im Labor endet.
Jedes Mal, wenn du bei ChatGPT oder Claude auf „Daumen hoch“ oder „Daumen runter“ klickst, lieferst du ggf. Datenpunkte für die nächste Iteration des Reward Models. Du definierst mit, was „hilfreich“ bedeutet, weil dieses Nutzerfeedback – je nach Anbieter und Produkt – in die Verbesserung von Modellen einfließen kann.
Risiko kultureller Schieflagen
Das birgt jedoch auch ein Risiko: Da eine große Zahl der Nutzer aus dem westlichen Kulturkreis stammen, optimieren wir diese Modelle auf westliche Werte und Normen. Ein Modell, das in den USA als „höflich“ gilt, könnte in Japan als distanzlos oder in anderen Kulturen als arrogant wahrgenommen werden. Ein Risiko kultureller Schieflagen besteht daher, wenn Trainings- und Präferenzdaten sowie Rater-Gruppen bestimmte Regionen/Kulturen überrepräsentieren.
Der schmale Grat
zwischen Assistenz und Manipulation
Wir haben enorme Fortschritte gemacht. Von Modellen, die kaum einen Satz beenden konnten, hin zu Assistenten, die komplexe ethische Abwägungen treffen. Doch das „Alignment-Problem“ ist nicht gelöst.
Wir bewegen uns auf einem schmalen Grat. Trainieren wir die Modelle zu stark, verweigern sie harmlose Anfragen („Over-Refusal“). Trainieren wir sie zu schwach, bleiben sie toxisch. Die Zukunft des AI-Trainings liegt nicht mehr nur in mehr Daten, sondern in besseren menschlichen Signalen.
Das Ziel ist eine KI, die nicht nur sagt, was wir hören wollen (Sycophancy), sondern was wahr ist, auch wenn es uns widerspricht.
Hier geht es zum Beitrag auf LinkedIn: Wie wir KI Moral beibringen
Quellen (lesenswert!):
Der Standardprozess (RLHF & InstructGPT): Training language models to follow instructions with human feedback (Ouyang et al., 2022)
Das HHH-Framework (Helpful, Honest, Harmless): A General Language Assistant as a Laboratory for Alignment (Askell et al., 2021)
Der neue Standard (DPO): Das Stanford-Paper, das zeigte, wie man Alignment ohne komplexes Reward-Model (Schritt 2) löst. Direct Preference Optimization: Your Language Model is Secretly a Reward Model (Rafailov et al., 2023)
Das Problem der Sycophancy (Kriecherei): Untersuchungen dazu, warum Modelle lieber zustimmen als die Wahrheit zu sagen. Towards Understanding Sycophancy in Language Models (Sharma et al., 2023)
Das Halluzinations-Paradoxon (Reward Hacking): Die Untersuchung von OpenAI, die zeigt, dass Modelle halluzinieren, weil Standard-Training das Raten belohnt, statt Unsicherheit („Ich weiß es nicht“) zuzugeben. Why language models hallucinate (OpenAI Research, 2024/2025)
Empathie ohne Empfinden – wie funktioniert das?
Wenn ChatGPT antwortet „Das verstehe ich, das muss schwierig für dich sein” – was passiert da technisch? Warum hört sich das empathisch an?
Und wie wird diese Empathie generiert?
Von Tokens zu Trost: Der technische Prozess
Das LLM (z.B. ChatGPT) zerlegt deinen Text in Tokens (= Wortfragmente), die es statistisch verarbeitet. Es analysiert, welche Wörter in deiner Nachricht vorkommen: „Stress”, „überfordert”, „allein”. Das Modell durchsucht die gelernten Muster aus Milliarden von Texten.
Dann bestimmt die KI mithilfe des sogenannten Attention-Mechanismus, welche Teile deiner Nachricht besonders relevant sind. Konkret: Jedes Token „schaut” auf alle anderen Tokens und berechnet, wie stark es mit ihnen zusammenhängt. Schreibst du „Ich fühle mich allein seit der Trennung”, erkennt das System, dass „allein” und „Trennung” semantisch zusammengehören und gewichtet beide höher als etwa „Ich” oder „mich”.
Diese Gewichtung beeinflusst, in welche Richtung die Antwort geht. Am Ende berechnet das Modell: Welches Wort folgt mit höchster Wahrscheinlichkeit?
Mustererkennung statt Mitgefühl
Nach Beschreibungen von Schwierigkeiten folgten in den Trainingsdaten oft empathische Phrasen. Also reproduziert das System dieses Muster. Die Ausgabe klingt also einfühlsam, weil einfühlsame Menschen so geschrieben haben, nicht weil die KI etwas empfindet. Der Technikphilosoph Bruno Gransche nennt LLMs „stochastisch intelligent, aber semantisch blind”. Sie erkennen (Sprach)muster, aber sie verstehen keine Bedeutung, so wie wir Menschen das tun, denn sie wissen nicht, wie sich ein Gefühl wie z.B. Trauer anfühlt.
Warum wir trotzdem darauf reinfallen
Unser Gehirn ist evolutionär darauf programmiert, nach Intentionalität zu suchen. Diese Tendenz zum Anthropomorphismus (nicht-menschlichen Entitäten menschliche Eigenschaften zuzuschreiben) war einst überlebenswichtig. Heute wird sie zur kognitiven Falle. Wenn etwas antwortet, als ob es verstünde, behandeln wir es, als ob es verstehe.
Ein Thermostat reagiert auf Temperatur, ohne zu frieren. KI reagiert auf Traurigkeit, ohne Mitgefühl zu empfinden. Die Ausgabe sieht gleich aus, aber der Prozess dahinter ist kategorial verschieden.
Ist dieses Wissen überhaupt wichtig?
Ich denke, dass es wichtig ist, zu verstehen, wie diese scheinbar einfühlsamen Reaktionen der KI zustande kommen. Ein Verständnis für die Funktionalitäten generativer KI zu entwickeln ist in vielerlei Hinsicht hilfreich, nicht nur, wenn es darum geht, den eigenen Anthropomorphismus zu erkennen.
Das Problem ist letztlich nicht, dass KI uns tröstet. Das Problem ist, wenn wir vergessen, dass da niemand ist, der tröstet, wenn wir also die Reaktion der KI anthropomorphisieren.
Brauchen wir einen Warnhinweis: „Dieses System simuliert Empathie”? Oder reicht es, wenn wir uns des Unterschieds besser bewusst werden zwischen menschlicher Empathie und dem was die KI reproduziert?
Hier der Beitrag auf LinkedIn: Wie erzeugt KI Empathie?
Verzerrte Algorithmen, Datenschutzprobleme und die Gefahr, dass KI die Menschlichkeit verdrängt.
All das sind Risiken bei der Nutzung von KI und sie sollte vor allem menschliche Begegnungen nicht ersetzen.
Aber KI verspricht auch eine Revolution im Gesundheitswesen: Schnellere Diagnosen, präzisere Behandlungen, Entlastung überlasteter Ärzte.
Deshalb hat die National Academy of Medicine jetzt einen umfassenden Verhaltenskodex für KI im Gesundheitswesen vorgelegt:
ein Dokument, das als Richtschnur für alle dienen soll, die mit medizinischer KI arbeiten.
Der Kodex basiert auf sechs Kernverpflichtungen:
|1| Die Menschlichkeit im Fokus behalten
KI soll Menschen nicht ersetzen, sondern unterstützen. Die menschliche Verbindung zwischen Arzt und Patient muss erhalten bleiben. Kein Chatbot kann Empathie ersetzen.
|2| Gerechtigkeit sicherstellen
Alle Menschen müssen von KI profitieren, nicht nur gut situierte Kliniken in Großstädten. Die Technologie darf bestehende Ungleichheiten nicht verstärken.
|3| Betroffene einbeziehen
Patienten, Ärzte, Pflegekräfte und Ethiker müssen von Anfang an mitentscheiden: bei der Entwicklung, Einführung und Überwachung von KI-Systemen.
|4| Das Wohlbefinden des Personals schützen
KI soll Ärzte und Pflegekräfte entlasten, nicht zusätzlich belasten. Sie brauchen Training und müssen in Entscheidungen eingebunden werden.
|5| Leistung kontinuierlich überwachen
KI-Systeme können sich im Laufe der Zeit verschlechtern oder verzerrt werden. Daher braucht es standardisierte Tests und transparente Berichterstattung über ihre Wirksamkeit.
|6| Innovieren und lernen
Der Austausch von Erkenntnissen zwischen Kliniken, Forschung und Industrie ist entscheidend. Fehler müssen offen besprochen werden können, ohne Angst vor Konsequenzen.
Konkrete Maßnahmen
Der Kodex bleibt nicht bei schönen Worten. Er schlägt konkrete Schritte vor:
-> Zertifizierungsstellen, die KI-Systeme unabhängig prüfen
-> Standardisierte Metriken zur Messung von Verzerrungen und Fairness
-> Finanzielle Anreize für Kliniken, die verantwortungsvolle KI einsetzen
-> Technische Unterstützung für kleinere, unterfinanzierte Einrichtungen
-> Nationale Forschungsagenda für KI im Gesundheitswesen
-> Ausbildungsprogramme für medizinisches Personal
Wir stehen erst am Anfang. KI entwickelt sich extrem schnell aber die Spielregeln hinken hinterher.
Der Kodex ist ein Versuch, alle Beteiligten auf gemeinsame verbindliche Prinzipien festzulegen.
KI kann das Gesundheitswesen dramatisch verbessern, aber nur wenn wir jetzt sicherstellen, dass sie allen nützt und niemandem schadet.