Einträge von Kathrin Lückenga

, , ,

Wenn KI diskriminiert: Bias in generativer KI

Perfekte Fairness ist eine Illusion. Das ist keine Meinung, sondern Mathematik. Außer in Trivialfällen können verschiedene Fairness-Kriterien nicht gleichzeitig erfüllt werden. Jede Entscheidung für eine Form von Fairness ist gleichzeitig eine Entscheidung gegen eine andere. Das Problem: Die meisten KI-Anwender wissen das nicht. Sie gehen davon aus, dass ein ’neutrales‘ System möglich ist, wenn man […]

, , ,

Human-in-the-Loop: Der Mensch als Haftungsknecht künstlicher Intelligenz

Es klingt vernünftig, fast schon beruhigend: Ein Mensch kontrolliert die Maschine.Human in the Loop (HiTL) verspricht, was wir alle hören wollen: KI erledigt die Arbeit aber am Ende entscheidet noch immer der Mensch. Das beruhigt die Skeptiker und befriedigt den Gesetzgeber. Aber ist es ein umsetzbares Konzept oder beschwichtigen wir damit nur unser Gewissen? Die […]

,

Generative KI verstehen: Attention is all you need

Aufmerksamkeits-Defizit? Nicht bei deiner KI. Deine KI ist aufmerksamer als du. Zuverlässig und immer. Warum? Weil sie etwas tut, was wir nicht können: Sie hört allen Wörtern gleichzeitig zu. Während wir Satz für Satz und Wort für Wort lesen und dabei manchmal den Anfang vergessen, achtet die KI auf alles gleichzeitig und lässt die Wörter […]

, ,

Private Gespräche zwischen Chatbots

“Meine KI hat heute echt kreativ geantwortet!“ “Du meinst: Sie hat eine statistisch unwahrscheinlichere Wortkombination generiert!?” So ungefähr lief neulich mein Gespräch mit Christa Goede. Je länger wir uns über diese Vermenschlichung von KI unterhalten haben, desto mehr mussten wir lachen. Es war klar: Daraus muss was werden.Nicht gleich ein ganzes Buch, aber dieses kleine […]

, ,

Bias in KI: Muss KI neutral sein?

Die KI-Branche redet sich ein, Bias aus ihren Modellen entfernen zu können. Als gäbe es eine objektive Wahrheit, auf die wir alle Systeme ausrichten können. Als wäre Fairness eine mathematische Konstante. Ist sie aber nicht. Alle großen Sprachmodelle haben einen massiven WEIRD-Bias: Western, Educated, Industrialized, Rich, Democratic.Das ist dokumentiert, so wie viele weitere Biase. 📢 […]