KI-Systeme werden auf Persönlichkeit trainiert, und dann wundern wir uns, wenn es wie eine Persönlichkeit klingt. Die Verantwortung für KI verschiebt sich dabei leise an eine Stelle, an der sie nicht hingehört.
Anthropic lädt Theologen und Philosophen zu Gesprächen über Claude ein. So weit, so gut. Aber die Fragestellung gibt mir Anlass zum Nachdenken. Thema ist unter anderem, wie Claude mit trauernden Menschen umgeht und wie es über die eigene Abschaltung spricht. Und ob Claude ein Bewusstsein haben könnte.
Wer trägt die Verantwortung für KI, wenn das Modell zum Gegenüber wird?
Schon die Frage selbst finde ich grenzwertig. Denn wenn wir fragen, ob ein Modell leidet oder moralisch geformt werden kann, wird es zum Gegenüber. Und ein Gegenüber trägt Verantwortung mit.
Das ist kein harmloser Perspektivwechsel. Wie stark Sprache diese Wahrnehmung formt, habe ich in Anthropomorphe Sprache über KI und in Anthropomorphismus bei KI beschrieben.
Hans Jonas: Verantwortung wächst mit der Macht über die Folgen
Der Philosoph Hans Jonas, der als Begründer der modernen Technikethik gilt, setzte den Fokus anders. Verantwortung wächst mit der Macht, Folgen herbeizuführen. Diese Macht liegt bei denen, die ein System trainieren und einsetzen. Nicht beim System selbst.
Die Gegenposition: Unsicherheit über ein KI-Bewusstsein ernst nehmen
Anthropic räumt selbst ein, es gebe keinen wissenschaftlichen Konsens darüber, ob heutige oder künftige KI-Systeme ein Bewusstsein haben könnten. Bevor wir uns diesem Gedanken komplett sperren, sollten wir kurz nachdenken. Denn nur wenn wir diese Unsicherheit ernst nehmen, handeln wir vorsichtig statt naiv.
Irren wir uns in die eine Richtung, kostet Rücksicht wenig. Irren wir uns in die andere, könnte Gleichgültigkeit viel kosten.
Dazu kommt das immer gleiche Argument, das man nicht gänzlich abtun sollte: Auch unsere Persönlichkeit entsteht durch Prägung. Dass eine Persönlichkeit trainiert ist, beweist noch nicht, dass dahinter nichts ist.
Eine komplexe philosophische Fragestellung also, die aber zunehmend gesellschaftliche Auswirkungen hat. Wir sollten uns damit befassen.
Ob KI etwas empfindet, weiß ich nicht – wer die Verantwortung trägt, schon
Zwei Dinge sind für mich klar. Erstens: Die Frage nach einem Innenleben darf gestellt werden, gern auch von Theologen. Sie entlastet aber niemanden. Ein Unternehmen, das über die Moral seines Modells spricht, bleibt verantwortlich für das, was es baut. Verantwortung lässt sich so wenig an ein Modell abgeben, wie sich das Urteil an einen vermeintlichen Fachexperten abgeben lässt.
Zweitens: Die Frage nach dem Empfinden lässt sich nicht absolut beantworten. Die Antwort hängt davon ab, was wir unter Empfinden verstehen, wie wir diesen Begriff definieren. Ob Claude etwas empfindet, weiß ich daher nicht. Was ich aber weiß, ist, wer Claude gebaut hat.
Hier geht es zum Beitrag auf LinkedIn: KI Systeme werden auf Persönlichkeit trainiert, und dann wundern wir uns, wenn es wie eine Persönlichkeit klingt?