Autonome Autos und die Entscheidung zwischen Leben und Tod

Immer mehr Leute sind der Überzeugung, dass Automobile der Zukunft ihrem Namen alle Ehre machen und ohne Eingreifen eines Menschen fahren. Ein großer Streitpunkt ist dabei, wen diese Autos im Zweifelsfall lieber überfahren sollen. Aber stellt sich diese Frage wirklich?

Derzeit scheint es so, als würde wirklich jeder Autohersteller daran arbeiten, seine Gefährte autonom zu machen. Die Vision besteht wohl aus Autos, die ihre Besitzer vor der Haustüre abholen und selbständig zum gewünschten Ziel bringen.

Aber natürlich regt sich auch Kritik. Die häufigsten Gründe sind dabei wahrscheinlich Technologieskepsis und röhrende Motoren als Männlichkeitsprothese. Ich für meinen Teil komme auch ohne Auto gut aus. Vor etlichen Jahren habe ich zwar den Führerschein gemacht, weil mir eingeredet wurde, dass das so üblich ist, aber genutzt habe ich ihn danach kein einziges Mal. Als Stadtbewohner ist mir die Fortbewegung zu Fuß und per U-Bahn einfach wesentlich lieber.

Und beim Thema »(U-)Bahn« komme ich nun auf die Technikskeptiker zurück. Denn diese bringen in der Diskussion oft ein Dilemma ins Spiel, das »Trolley-Problem« genannt wird und im Deutschen sinngemäß »Straßenbahn-Problem« heißen würde.

Trolley-Problem: Picknick auf Gleisen

Das Trolley-Problem ist ein sehr bekanntes Gedankenexperiment, das ein moralisches Dilemma veranschaulichen soll. Man soll sich dabei vorstellen, dass eine Straßenbahn außer Kontrolle ist und in Kürze fünf Personen überfahren wird. Man hat aber die Möglichkeit, die Weichen umzustellen, sodass die Bahn stattdessen auf ein Gleis geleitet wird, auf dem sie nur eine Person überfährt.

Das moralische Dilemma liegt nun darin, die richtige Entscheidung zu treffen. Soll man bewusst einen Menschen opfern, um fünf andere zu retten? Die Mehrheit sagt hier instinktiv »Ja«, weil fünf Menschenleben ja ein größerer Verlust wären als eines. Ich sage dagegen definitiv »Nein«.

Um meine Meinung besser zu veranschaulichen, schreibe ich das Problem ein wenig um und nenne es das Bombenstimmungs-Problem: Fünf Leute veranstalten eine Grillparty in einer Dynamitfabrik. Würdest Du Deinen Nachbarn in die Luft sprengen, um diese fünf Idioten zu retten?

Der wesentliche Unterschied zum Trolley-Problem: Hier wird sofort bewusst, dass die fünf gefährdeten Leute eine gewisse Eigenverantwortung haben. Sie sind selbst schuld daran, dass sie sich in dieser Situation befinden und müssen daher auch die Konsequenzen tragen.

Ähnliches muss ich mir auch beim Trolley-Problem denken: Warum sind da überhaupt so viele Leute auf den Gleisen, die sich offenbar einen feuchten Kehricht darum scheren, ob eine Bahn kommt? Sind das Touristen von der Rückseite des Mondes, die noch nie zuvor Schienen gesehen haben und dort ein Picknick veranstalten? Oder haben sie sich besoffen zum Schlafen auf die Gleise gelegt?

Wenn man es tatsächlich schafft, zu fünft von einer Straßenbahn überfahren zu werden, ist eine Rettung doch vollkommen sinnlos. Dieselben Leute würden am nächsten Tag unter der Dusche ertrinken.

Als Gruppe überfahren zu werden, wäre eine rekordverdächtige Negativleistung. Denn selbst wenn da fünf Leute auf den Gleisen stehen und die Bahn außer Kontrolle ist, sollte es ausgeschlossen sein, dass sie alle fünf zu Tode fährt. Laut Wikipedia betragen übliche Spurweiten für Bahnen nur 60 bis 170 Zentimeter. Da müssten die fünf seltsamen Gesellen schon im Gänsemarsch die Gleise entlangtanzen oder übereinander liegend eine Gruppenorgie veranstalten.

Zumindest beim Gänsemarsch stellt sich dann auch noch die Frage, wie das Gefährt überhaupt auf den ersten Aufprall reagiert. So eine Straßenbahn hat in einer physischen Auseinandersetzung zwar gewichtige Argumente, ist aber kein Mähdrescher. Wenn das erste Opfer unter die Räder kommt, stehen sicher die Chancen gut, dass die Bahn entgleist oder zumindest stecken bleibt. Wenn man das Gleis wechselt, opfert man sehr wahrscheinlich nicht eine Person für fünf andere, sondern man opfert eine unbeteiligte Person für eine beteiligte.

Elben, Aliens und das Trolley-Problem

Das Trolley-Problem könnte glatt aus einem Fantasy- oder Science-Fiction-Roman stammen. Es ist nämlich grundsätzlich komplett realitätsfern.

Straßenbahnen sind selten im Düsenjet-Tempo und vorwiegend in recht dicht verbauten Stadtgebieten unterwegs. Dass Leute relativ knapp vor einer Straßenbahn auf den Gleisen sind, ist daher ein alltägliches Bild. In der Praxis würden wir als Passanten uns wahrscheinlich erst dann denken »ups, da stimmt was nicht«, wenn jemand unter der Bahn verschwindet.

Woher wollen wir vorab wissen, dass die Leute auf den Gleisen nicht rechtzeitig ausweichen werden, wenn die Entfernung doch offensichtlich noch groß genug ist, um dazwischen Weichen umzustellen? Warum können sie die Bahn weder sehen noch hören – und woher wissen wir das? Sind die Leute alle mit Blindenstock unterwegs und tragen ein Schild mit dem Wort »gehörlos« am Rücken?

Auch würden wir es vorab gar nicht merken, wenn eine Bahn außer Kontrolle ist. Woran soll man so etwas denn feststellen, wenn nicht gerade die Frontscheibe zertrümmert ist und der Fahrer blutüberströmt heraushängt?

Sollte dann doch einmal alles so eintreten, dass man in die beschriebenen Situation kommt, wird man wahrscheinlich trotzdem nicht vor der beschriebenen Entscheidung stehen. Das Trolley-Problem gibt hier nur vor, entweder etwas extrem Spezielles oder gar nichts zu machen. Aber wie viele Passanten würden wirklich spontan auf die Idee kommen, irgendwo an einem Handhebel herumzufummeln, um eine Weiche umzustellen?

Sofern die Leute nicht wirklich ein Schild mit dem Wort »gehörlos« am Rücken tragen, würde doch jeder normale Menschen erst einmal einen Warnschrei loslassen, oder? Der Schrei wird nicht erhört? Dann läuft man den Leuten entgegen. Man steht auf einer Brücke und kann deshalb nicht zu den Leuten hinlaufen? Dann wirft man einen Stein, um auf sich aufmerksam zu machen. Es gibt keinen Stein? Dann wirft man eben seinen Schuh.

In ein technisches Verkehrssystem einzugreifen, von dem ich nichts verstehe, wäre jedenfalls das letzte, das mir in den Sinn käme. Könnte ja auch sein, dass man die Straßenbahn damit komplett entgleisen lässt und damit nicht ein oder fünf, sondern hundert Opfer verantwortet.

Jetzt könnte irgendein Philosoph – oder jemand, der sich dafür hält – meinen, das Trolley-Problem sei ja nur ein Gedankenexperiment und daher dürfe man das alles nicht so genau nehmen. Man müsse sich halt darauf einlassen. Nach dieser Logik kann man dann aber jede Entscheidung zu einem Dilemma erklären.

Wie wäre es etwa damit: »Welche Farbe ist besser: grün oder blau?« – »Aber bitte nicht über solche Details wie Wahrnehmung, Anwendung oder Vorkommen in der Natur diskutieren – es ist ja schließlich nur ein Gedankenexperiment!« So etwas ist dann bestenfalls noch eine Übung für angehende Politiker, die viel reden, aber nichts sagen wollen. Das Trolley-Problem wollen viele Leute aber sehr wohl in der Praxis anwenden – etwa beim autonomen Fahren.

Von Schienen zur Fahrbahn

Jetzt habe ich einen guten Teil dieses Artikels mit Gedanken zu Schienenfahrzeugen gefüllt, obwohl es hier eigentlich um autonome Autos gehen soll. Aber das hat durchaus einen Grund, denn das Trolley-Problem wird auch immer wieder herangezogen, wenn über autonome Autos nachgedacht wird. Das ist auch gar nicht so abwegig, immerhin gehört »Trolley« zu den Vokabeln, die in Wahrheit so ziemlich alles bedeuten können – im allgemeinsten Fall einfach nur »Wagen«.

In diesem Fall lautet die Problematik dann sinngemäß: Wie soll das Auto reagieren, wenn plötzlich jemand auf der Fahrbahn auftaucht, ein rechtzeitiges Bremsen nicht mehr möglich ist und ein Ausweichen ebenfalls zu Opfern führen wird? Soll das Auto einem Kind ausweichen, um stattdessen einen alten Mann zu überfahren? Oder soll es gegen eine Wand fahren und damit die Fahrzeuginsassen gefährden?

Hier gilt zuallererst einmal der gleiche Grundsatz wie beim Trolley-Problem: Menschen haben eine gewisse Eigenverantwortung und wachsen nicht plötzlich aus dem Boden. Wer vor ein fahrendes Auto springt, muss damit rechnen, überfahren zu werden.

»Aber die Kinder!«, höre ich jetzt viele Stimmen aufschreien. Ja, die armen Kinder müssen als Rechtfertigung für so ziemlich alles von Volksbevormundung bis Totalüberwachung herhalten. Klar wäre ein Kind in so einem Fall unschuldig, da es noch nicht voll zurechnungsfähig ist, aber hier liegt die Verantwortung bei der Aufsichtsperson. Die Fahrbahn ist heute schon gefährlich und nur weil autonome Autos unterwegs sind, wird auch in Zukunft kaum jemand sagen: »Hier hast Du einen Ball. Geh’ auf die Straße spielen!«

Zu viel Science Fiction

Die Leute, die sich dafür aussprechen, dass autonome Autos zwischen unterschiedlichen Opfern abwägen sollen, haben vermutlich auch zu viel Science Fiction konsumiert. Denn ihre Erwartungen an die Technik sind grenzenlos überzogen.

Selbst wenn man es für sinnvoll hält, dass im Zweifelsfall besser der Ältere überfahren werden soll, wird kein Auto diesem Wunsch nachkommen können. Ich muss bei diesem Thema an Berichte zu einer Amokfahrt in Graz denken, bei der ein Opfer vorerst nicht identifiziert werden konnte. Die Polizei schätzte das Alter dieses Opfers auf 25 bis 45 Jahre, was an sich ja schon eine lächerlich unpräzise Angabe ist. In Wahrheit war die überfahrene Frau 53 Jahre alt.

Wenn selbst die Polizei, die ja hoffentlich auf Gerichtsmediziner zurückgreift, um knapp 30 Jahre daneben liegt, sollte man da in autonome Autos bis auf weiteres keine großen Hoffnungen stecken. 2015 scheiterten Bilderkennungsprogramme noch ganz gewaltig bei ungleich banaleren Dingen – etwa bei der Unterscheidung zwischen dunkelhäutigen Menschen und Affen.

Generell muss man beachten, dass die gesamte Technik autonomer Autos noch in Kinderschuhen steckt. Sich auf einer Fahrbahn zu bewegen ist durch etliche Standards und Regeln eigentlich eine recht überschaubare Aufgabe. Autonome Autos müssen vorwiegend dem Straßenverlauf folgen, genormte Verkehrszeichen interpretieren und Hindernisse erkennen. Das ist eigentlich eine recht typische Computeraufgabe, aber doch schon so komplex, dass bis jetzt noch kein vollständiges Produkt am Markt erhältlich ist. Was bisher verkauft wird, sind im besten Fall Assistenzsysteme.

Das muss man sich vor Augen halten, wenn man fragt, ob solche Geräte zwischen unterschiedlichen Opfern abwägen sollen. Wenn plötzlich jemand auf der Fahrbahn auftaucht, gibt es dafür grundsätzlich zwei naheliegende Erklärungen:

• Der Aufgetauchte hat falsch gehandelt, indem er auf die Straße gesprungen ist. In diesem Fall greift die Eigenverantwortung.
• Das autonome Auto hat technisch versagt und den Menschen nicht rechtzeitig erkannt.

Wenn das Auto jetzt schon bei der einfachen Aufgabe versagt hat, ein Hindernis vor sich auf der Fahrbahn zu erkennen – stellt sich dann wirklich noch die Frage, ob es auf die Gegenfahrbahn, den Gehsteig oder sonst wohin ausweichen soll? Stellt sich dann noch die Frage, ob es den Wert von Leben gegeneinander aufwiegen soll? Da könnte man ebenso gut smarte Waschmaschinen über die Wiedereinführung der Todesstrafe abstimmen lassen.

Feuchter Mafiosi-Traum

Autonome Autos werden auch viel Potenzial für Manipulation bieten. Dem Vorbeifahrenden kurz eine selbst ausgedruckte Tempo-30-Tafel entgegenzuhalten oder rund um ein Auto eine falsche Sperrlinie zu malen mag dabei noch ganz witzig sein. Ein fixes Regelwerk, wer zuerst über den Haufen gefahren wird, bietet dann aber ein krankes Spielzeug für ebenso kranke Gemüter.

Bevorzugt das Auto etwa Kinder gegenüber dem eigenen Fahrer, lässt sich das prima ausnutzen. Einfach an der richtigen Stelle mit einem Kinderwagen auf die Straße springen und das Auto fährt mitsamt seinem Fahrer in einen Abgrund. Schön unkompliziert, man hinterlässt keine Fingerabdrücke und es sieht nach einem Unfall aus.

Wieso überhaupt diese Diskussion?

Letztendlich bleibt eigentlich nur die Frage, warum es diese Diskussion um autonome Autos überhaupt gibt. Wenn menschliche Fahrer in eine ähnliche Situation kommen, können sie nur spontan reagieren ohne erst philosophische Abwägungen durchzuführen. Für lange Überlegungen bleibt keine Zeit. Ist das bei autonomen Autos anders?

Grundsätzlich könnten autonome Autos schneller reagieren, wenn es rein darum geht, die Anzahl der Opfer zu minimieren – wie im klassischen Trolley-Problem. Menschen (oder Affen) zu erkennen funktioniert in der Bildverarbeitung schon relativ gut und danach bleibt dem Computer nur ein einfacher Zahlenvergleich bei unterschiedlichen Szenarien. Das ist dann aber auch schon der einzige Grund, warum das Ganze jetzt überhaupt ein Thema sein kann, denn zu einer wirklich tiefgreifenden Analyse der potenziellen Opfer ist ein autonomes Fahrzeug unfähig.

Und darüber sollten wir auch glücklich sein. Denn wenn ein computergesteuertes Fahrzeug im Bruchteil einer Sekunde ein ausführliches Profil zu jedem Passanten parat hätte und jedem von uns eine Wertigkeit zuteilte, stünde die Herrschaft der Maschinen unmittelbar vor der Tür.