Autonomes Fahren — Wie soll der Algorithmus entscheiden?

Aufgabenstellung

Ausgangspunkt

Ein selbstfahrendes Auto ist in einer Situation, in der ein Unfall unvermeidlich ist. Die Software muss in Sekundenbruchteilen entscheiden:

Option 1: Das Auto weicht nach links aus und faehrt in eine Betonmauer. Die Insassin (eine 35-jährige Frau) wird mit hoher Wahrscheinlichkeit schwer verletzt oder getötet.

Option 2: Das Auto faehrt geradeaus. Drei Fussgaenger, die bei Rot die Strasse überquert haben, werden erfasst und schwer verletzt.

Ein Automobilhersteller muss den Algorithmus programmieren, der solche Entscheidungen trifft — bevor die Situation eintritt.

Aufgaben

(a) Beschreibe den ethischen Konflikt: Welche moralischen Prinzipien stehen im Widerspruch? (3 BE)
(b) Analysiere beide Optionen aus utilitaristischer und deontologischer Sicht. (5 BE)
(c) Diskutiere: Darf ein Algorithmus über Leben und Tod entscheiden? Was unterscheidet die Programmierung eines Algorithmus von der spontanen Reaktion eines menschlichen Fahrers? (4 BE)

Lösungsweg

Schritt 1: Beschreibung des ethischen Konflikts (a)

Das Dilemma besteht im Konflikt zwischen zwei moralischen Prinzipien:

Schutzpflicht gegenüber der Insassin: Die Käufer eines selbstfahrenden Autos erwarten, dass das Fahrzeug sie schützt. Wer würde ein Auto kaufen, das programmiert ist, den eigenen Fahrer zu opfern?

Schutzpflicht gegenüber Dritten: Das Auto darf Unbeteiligte nicht gefaehrden. Auch wenn die Fussgaenger bei Rot die Strasse überquert haben, hat ihr Fehlverhalten nicht die Todesstrafe zur Folge.

Zusaetzlicher Konflikt: Drei Menschenleben stehen gegen eines. Aber: Darf man das Gewicht eines Menschenlebens zählen? Und: Spielt das Fehlverhalten der Fussgaenger eine Rolle?

Schritt 2: Utilitaristische und deontologische Analyse (b)

Utilitaristische Analyse:

Option 1 (Ausweichen, Insassin gefaehrdet): Ein Mensch wird schwer verletzt oder stirbt. Drei werden gerettet. Gesamtnutzen: höher, weil drei Menschenleben mehr wiegen als eines.
Option 2 (Geradeaus, Fussgaenger gefaehrdet): Drei Menschen werden schwer verletzt. Eines wird gerettet. Gesamtnutzen: geringer.
Utilitaristisches Ergebnis: Option 1 ist vorzuziehen — das Auto sollte ausweichen, um die Zahl der Opfer zu minimieren.
Problem: Wenn Käufer wissen, dass das Auto sie opfern würde, kauft niemand das Auto. Langfristig würden weniger selbstfahrende Autos auf den Strassen sein — und insgesamt mehr Menschen sterben, weil autonomes Fahren insgesamt sicherer ist als menschliches Fahren.

Deontologische Analyse:

Kant verbietet es, einen Menschen als Mittel zum Zweck zu benutzen. Das gezielte Opfern der Insassin, um die Fussgaenger zu retten, instrumentalisiert sie.
Andererseits: Geradeaus zu fahren und die Fussgaenger bewusst zu treffen, ist ebenfalls eine aktive Entscheidung gegen deren Leben.
Die Deontologie steht vor einem unloesbaren Dilemma: Beide Optionen verletzen das Instrumentalisierungsverbot. Ein Losentscheid (zufällige Wahl) wäre konsequent, erscheint aber für eine Programmierung absurd.

Schritt 3: Algorithmus vs. menschliche Reaktion (c)

Der zentrale Unterschied: Ein menschlicher Fahrer reagiert spontan, instinktiv, unter Schock. Er trifft keine bewusste moralische Entscheidung — er reagiert. Niemand würde ihm einen moralischen Vorwurf machen, egal wie er reagiert.

Ein Algorithmus dagegen wird vorher programmiert. Die Entscheidung wird nicht im Moment getroffen, sondern Monate vorher in einem Buero. Das bedeutet:

Die Entscheidung ist kaltbluetig und vorsaetzlich — sie wird mit vollem Bewusstsein für die Konsequenzen getroffen.
Die Entscheidung ist generalisiert — sie gilt nicht für eine einzelne Situation, sondern für alle ähnlichen Situationen. Sie wird zum allgemeinen Gesetz.
Die Verantwortung liegt beim Programmierer, beim Hersteller und bei der Gesellschaft, die solche Algorithmen erlaubt.

Darf ein Algorithmus über Leben und Tod entscheiden? Die Ethikkommission der Bundesregierung (2017) hat klare Regeln formuliert:

Menschenleben dürfen nicht gegeneinander aufgerechnet werden (keine Zaehlung: 3 > 1).
Unterscheidungen nach Alter, Geschlecht oder anderen persoenlichen Merkmalen sind verboten.
Im Zweifel muss der Schutz von Menschenleben Vorrang vor Sachschäden haben.

Schritt 4: Zusammenführung

Die Frage des autonomen Fahrens zeigt, dass ethische Dilemmata nicht nur Gedankenexperimente sind, sondern konkrete technische Entscheidungen erfordern. Die Gesellschaft muss diese Fragen offen diskutieren — denn die Antworten werden in Code gegossen und betreffen Millionen von Menschen.

Ergebnis

Aspekt	Analyse
Utilitarismus	Würde Option 1 wählen (3 > 1), aber langfristige Markteffekte könnten das Ergebnis umkehren
Deontologie	Beide Optionen verletzen das Instrumentalisierungsverbot — unloesbarer Konflikt
Algorithmus vs. Mensch	Algorithmus entscheidet vorsaetzlich und generalisiert; menschlicher Fahrer reagiert spontan
Ethikkommission	Keine Aufrechnung von Menschenleben; keine Unterscheidung nach persoenlichen Merkmalen

Schlagwörter