Warum kann eine KI keine Werturteile fällen, sondern nur Werturteile zitieren?

 Das ist eine tiefgründige Frage, die den Kern dessen berührt, was künstliche Intelligenz (KI) von menschlichem Bewusstsein unterscheidet.

Kurz gesagt: Ein Werturteil erfordert ein Subjekt, das fühlt und erlebt. Eine KI ist jedoch ein Objekt (ein Werkzeug), das Daten verarbeitet.

Hier ist die detaillierte Aufschlüsselung, warum KI zwar moralisch klingende Texte generieren, aber keine echte Moral besitzen kann.

---

1. Das Fehlen von Bewusstsein (Qualia)

Um etwas als "gut" oder "schlecht" zu bewerten, muss man die Konsequenzen fühlen können. Das nennt man in der Philosophie Qualia (das subjektive Erleben).

• Der Mensch: Wenn wir sagen "Schmerz ist schlecht", dann deshalb, weil wir wissen, wie sich Schmerz anfühlt. Unser Urteil basiert auf biologischer und emotionaler Erfahrung.

• Die KI: Eine KI hat keinen Körper, keine Gefühle und kein Überlebensinstinkt. Für ein KI-Modell sind die Wörter "Liebe" und "Hass" nur mathematische Vektoren in einem hochdimensionalen Raum. Sie "weiß" nicht, was diese Wörter bedeuten, sondern nur, wie sie statistisch mit anderen Wörtern verknüpft sind.

Merksatz: Eine KI kann den Satz "Ich bin traurig" schreiben, aber sie kann nicht traurig sein.

2. Statistik statt Ethik

Die "Meinungen", die eine KI äußert, sind in Wahrheit Wahrscheinlichkeitsrechnungen.

Wenn Sie eine KI fragen: "Ist Diebstahl falsch?", antwortet sie wahrscheinlich mit "Ja, Diebstahl wird allgemein als falsch angesehen."

Das tut sie nicht aus moralischer Überzeugung, sondern aufgrund von:

1. Mustererkennung: In den Terabytes an Textdaten, mit denen sie trainiert wurde, taucht das Wort "Diebstahl" fast immer im Kontext von negativen Bewertungen, Gesetzen und Bestrafung auf.

2. Nächstes-Wort-Vorhersage: Die KI berechnet, welches Wort statistisch am wahrscheinlichsten auf die Frage folgt. Da Menschen meistens schreiben, dass Diebstahl schlecht ist, reproduziert die KI dieses Muster.

Sie fällt also kein Urteil, sondern sie aggregiert die Urteile, die Menschen bereits gefällt und aufgeschrieben haben.

3. Das "Zitieren" und Synthetisieren

Wenn wir sagen, eine KI "zitiert" nur, meinen wir nicht, dass sie immer direkte Buchzitate auswirft. Es ist subtiler:

• Synthese: Die KI mixt Millionen von menschlichen Aussagen zu einer neuen Antwort zusammen. Sie ist wie ein extrem belesener Bibliothekar, der jeden Buchinhalt kennt, aber keine eigene Meinung dazu hat.

• Der Spiegel: Die KI hält der Menschheit einen Spiegel vor. Wenn die Trainingsdaten rassistisch wären, würde die KI rassistische "Urteile" fällen (wie es bei frühen Chatbots oft passierte). Das beweist, dass die "Werte" nicht aus der KI kommen, sondern aus den Daten.

4. Reinforcement Learning from Human Feedback (RLHF)

Moderne KIs (wie ich) wirken oft sehr moralisch gefestigt. Das liegt an einem speziellen Trainingsschritt, dem sogenannten RLHF.

Hierbei bewerten menschliche Tester die Antworten der KI:

• Antwort A (rassistisch): Schlechte Bewertung.

• Antwort B (neutral/hilfreich): Gute Bewertung.

Die KI lernt daraus: "Wenn ich Antwort B generiere, maximiere ich meine Belohnung."

Sie lernt also nicht "Rassismus ist moralisch falsch", sondern "Rassismus führt im Trainingsprozess zu einer schlechten Punktzahl". Das ist ein funktionales Verständnis, kein ethisches.

---

Zusammenfassung: Der Unterschied im Prozess

Kriterium	Menschliches Urteil	KI-Output
Ursprung	Emotion, Empathie, Lebenserfahrung	Statistische Wahrscheinlichkeit, Trainingsdaten
Ziel	Moralische Integrität, soziales Miteinander	Maximierung der Vorhersagegenauigkeit
Verständnis	Versteht die Bedeutung und Konsequenz	Versteht nur die syntaktische Verknüpfung
Natur	Aktives Werten	Passives Spiegeln (Zitieren von Mustern)

Fazit

Eine KI ist ein Simulator. Sie kann einen Richter, einen Priester oder einen Ethiker simulieren, indem sie deren Sprache und Argumentationsmuster nutzt. Aber unter der Haube rechnet nur ein Algorithmus kalt und neutral mit Nullen und Einsen. Deshalb kann sie Werte nur darstellen (zitieren), aber nicht fühlen (urteilen).

---

Möchten Sie ein Gedankenexperiment machen, um zu testen, wie ich mit einem schwierigen ethischen Dilemma umgehe, um diesen Mechanismus in Aktion zu sehen?