Autonomes Fahren

Aufgabenstellung

Ausgangspunkt

Ein selbstfahrendes Auto ist in einer Situation, in der ein Unfall unvermeidlich ist. Die Software muss in Sekundenbruchteilen entscheiden:

Option 1: Das Auto weicht nach links aus und fährt in eine Betonmauer. Die Insassin (eine 35-jährige Frau) wird mit hoher Wahrscheinlichkeit schwer verletzt oder getötet.

Option 2: Das Auto fährt geradeaus. Drei Fußgänger, die bei Rot die Straße überquert haben, werden erfasst und schwer verletzt.

Ein Automobilhersteller muss den Algorithmus programmieren, der solche Entscheidungen trifft – bevor die Situation eintritt.

Aufgaben

(a) Beschreibe den ethischen Konflikt: Welche moralischen Prinzipien stehen im Widerspruch? (3 BE)
(b) Analysiere beide Optionen aus utilitaristischer und deontologischer Sicht. (5 BE)
(c) Diskutiere: Darf ein Algorithmus über Leben und Tod entscheiden? Was unterscheidet die Programmierung eines Algorithmus von der spontanen Reaktion eines menschlichen Fahrers? (4 BE)

Lösungsweg

Schritt 1: Beschreibung des ethischen Konflikts (a)

Das Dilemma besteht im Konflikt zwischen zwei moralischen Prinzipien:

Schutzpflicht gegenüber der Insassin: Die Käufer eines selbstfahrenden Autos erwarten, dass das Fahrzeug sie schützt. Wer würde ein Auto kaufen, das programmiert ist, den eigenen Fahrer zu opfern?

Schutzpflicht gegenüber Dritten: Das Auto darf Unbeteiligte nicht gefährden. Auch wenn die Fußgänger bei Rot die Straße überquert haben, hat ihr Fehlverhalten nicht die Todesstrafe zur Folge.

Zusätzlicher Konflikt: Drei Menschenleben stehen gegen eines. Aber: Darf man das Gewicht eines Menschenlebens zählen? Und: Spielt das Fehlverhalten der Fußgänger eine Rolle?

Schritt 2: Utilitaristische und deontologische Analyse (b)

Utilitaristische Analyse:

Option 1 (Ausweichen, Insassin gefährdet): Ein Mensch wird schwer verletzt oder stirbt. Drei werden gerettet. Gesamtnutzen: höher, weil drei Menschenleben mehr wiegen als eines.
Option 2 (Geradeaus, Fußgänger gefährdet): Drei Menschen werden schwer verletzt. Eines wird gerettet. Gesamtnutzen: geringer.
Utilitaristisches Ergebnis: Option 1 ist vorzuziehen – das Auto sollte ausweichen, um die Zahl der Opfer zu minimieren.
Problem: Wenn Käufer wissen, dass das Auto sie opfern würde, kauft niemand das Auto. Langfristig würden weniger selbstfahrende Autos auf den Straßen sein – und insgesamt mehr Menschen sterben, weil autonomes Fahren insgesamt sicherer ist als menschliches Fahren.

Deontologische Analyse:

Kant verbietet es, einen Menschen als Mittel zum Zweck zu benutzen. Das gezielte Opfern der Insassin, um die Fußgänger zu retten, instrumentalisiert sie.
Andererseits: Geradeaus zu fahren und die Fußgänger bewusst zu treffen, ist ebenfalls eine aktive Entscheidung gegen deren Leben.
Die Deontologie steht vor einem unlösbaren Dilemma: Beide Optionen verletzen das Instrumentalisierungsverbot. Ein Losentscheid (zufällige Wahl) wäre konsequent, erscheint aber für eine Programmierung absurd.

Schritt 3: Algorithmus vs. menschliche Reaktion (c)

Der zentrale Unterschied: Ein menschlicher Fahrer reagiert spontan, instinktiv, unter Schock. Er trifft keine bewusste moralische Entscheidung – er reagiert. Niemand würde ihm einen moralischen Vorwurf machen, egal wie er reagiert.

Ein Algorithmus dagegen wird vorher programmiert. Die Entscheidung wird nicht im Moment getroffen, sondern Monate vorher in einem Büro. Das bedeutet:

Die Entscheidung ist kaltblütig und vorsätzlich – sie wird mit vollem Bewusstsein für die Konsequenzen getroffen.
Die Entscheidung ist generalisiert – sie gilt nicht für eine einzelne Situation, sondern für alle ähnlichen Situationen. Sie wird zum allgemeinen Gesetz.
Die Verantwortung liegt beim Programmierer, beim Hersteller und bei der Gesellschaft, die solche Algorithmen erlaubt.

Darf ein Algorithmus über Leben und Tod entscheiden? Die Ethikkommission der Bundesregierung (2017) hat klare Regeln formuliert:

Menschenleben dürfen nicht gegeneinander aufgerechnet werden (keine Zählung: 3 > 1).
Unterscheidungen nach Alter, Geschlecht oder anderen persönlichen Merkmalen sind verboten.
Im Zweifel muss der Schutz von Menschenleben Vorrang vor Sachschäden haben.

Schritt 4: Zusammenführung

Die Frage des autonomen Fahrens zeigt, dass ethische Dilemmata nicht nur Gedankenexperimente sind, sondern konkrete technische Entscheidungen erfordern. Die Gesellschaft muss diese Fragen offen diskutieren – denn die Antworten werden in Code gegossen und betreffen Millionen von Menschen.

Ergebnis

Aspekt	Analyse
Utilitarismus	Würde Option 1 wählen (3 > 1), aber langfristige Markteffekte könnten das Ergebnis umkehren
Deontologie	Beide Optionen verletzen das Instrumentalisierungsverbot – unlösbarer Konflikt
Algorithmus vs. Mensch	Algorithmus entscheidet vorsätzlich und generalisiert; menschlicher Fahrer reagiert spontan
Ethikkommission	Keine Aufrechnung von Menschenleben; keine Unterscheidung nach persönlichen Merkmalen