Offtopic: Autonome Fahrzeuge und Entscheidungen über Leben und Tod

Mit Freude habe ich zur Kenntnis genommen, dass sich u.a. der Kollege Schwenke dem Thema “Autonome Fahrzeuge” gewidmet hat. Ich hatte hierzu bereits Beiträge verfasst, die sich aber in erster Linie mit rechtlichen Aspekten befasst haben, wobei die rechtlich-philosophische Frage des “Verhaltens” autonomer Fahrzeuge in gefahrträchtigen Situationen bei mir ausgeklammert war. Diesem Bereich würde ich gerne hier einige Aspekte hinzufügen.

Hinweis: Ich beschäftige mich seit langem mit Fragen der (Rechts-)Philosphie – aber allein aus persönlichem Interesse. Selbiges gilt für die Themen Robotik(recht) und autonome Fahrzeuge. Es geht hier also alleine um Spass an – mitunter sehr abstrakten – Überlegungen, die den Bereich des geschriebenen Rechts deutlich verlassen.

Autonom fahrende Fahrzeuge sind schon lange in der Realität angekommen, was daran zu bemerken ist, dass inzwischen eine Mehrzahl von Aufsätzen zum Thema in der Fachliteratur erschienen ist. Während sich erste Aufsätze in erster Linie mit der Zulässigkeit autonomer KFZ beschäftigt haben, übernimmt immer mehr die Frage die Vorreiter Rolle, wie man bzw. das autonome KFZ in bestimmten Situationen rechtlich korrekt reagieren soll. Die Ansätze sind dabei häufig gleich: Man nimmt verschiedene denkbare Unfallsituationen und es wird dann analysiert, welche Entscheidung die “richtige” ist. Ich denke, dieser Ansatz ist falsch.

Falsche Grundvoraussetzung

Es ist ebenso naheliegend, wie verständlich und falsch, dass man bei der Überlegung, wie ein Auto “reagieren” soll bei uns als Menschen ansetzt. Denn bei den Überlegungen die ich bisher sehe, habe ich den Eindruck, man geht von der Prämisse aus, dass der Mensch als vernunftorientiertes Wesen in der konkreten Unfallsituation eine rein vernünftige Entscheidung trifft. Als würde man bei der Frage – dies war ein Modell – ob man der Schwangeren auf der Strasse ausweicht und dann wahlweise in die Gruppe der Schüler fährt (und überlebt) oder in eine Mauer fährt (und selber stirbt) eine Abwägung im Fahrer stattfinden, der moralisch zu entscheiden versucht, welche Entscheidung hier nun “richtig” ist. Als würde es in solchen Szenarien überhaupt richtige Entscheidungen geben.

Wer beim Menschen als Entscheidungsträger ansetzt, muss zuvorderst ehrlich zu sich selber sein und erkennen, dass wir bis heute nicht einmal selber wissen, auf welcher Basis wir überhaupt in konkreten Situationen konkrete Entscheidungen treffen. Wir mögen uns für moralisch überlegen, intellektuell und gebildet halten – wenn es drauf ankommt und wenig Zeit da ist, dann handeln wir. Mal vorbereitet überlegt, mal instinktiv; sicherlich geprägt von unserem Leben und unseren Erfahrungen, aber auch beeinflusst von aktueller Stimmung, die wiederum unter dem Einfluss von aktuell ausgeschütteten Hormonen steht. Kühl intellektuell moralisch abgewogene Entscheidungen in Stresssituationen sind bei Menschen generell selten anzutreffen. Und im Zweifelsfall, wenn es um das eigene Überleben geht, ist der Selbsterhaltungstrieb nicht klein zu reden.

Menschen programmieren Computer

Weiter lese ich regelmäßig, dass Menschen schliesslich Computer programmieren und am Ende ohnehin immer ein Mensch eine Entscheidung trifft. Auch das ist falsch, denn es ist durchaus denkbar, lediglich eine Entscheidungsfindungsstrategie vorzusehen, die durchaus Spielräume offen lässt. Dabei bieten sich Szenarien an, die einem Programmierer unmöglich machen, die “Entscheidung” des Fahrzeugs vorherzusehen (dazu sogleich).

Seitdem ich mich mit dem Thema des autonomen Fahrens beschäftige, komme ich zunehmend zu dem Ergebnis, dass eben hier auch die Lösung liegen dürfte: Vorhersehbare autonome KFZ wird niemand fahren. Stellen Sie sich etwa vor, Sie wissen, dass Ihr Auto im Zweifelsfall immer die Entscheidung treffen wird, das Szenario zu wählen in dem Sie in jedem Fall sterben – haben Sie noch Lust in das Auto zu steigen? Oder stellen Sie sich vor, das Auto ist definitiv so programmiert, dass es im Erkennen einer gefährlichen Situation sofort die Kontrolle an Sie zurück gibt, so dass Sie dann kurzfristig in einer von Ihnen nicht herbeigeführten Situation plötzlich selber Entscheidungen über die weitere Entwicklung treffen wollen – wollen Sie damit wirklich auf eine Autobahn fahren? Meine Motivation wäre hier eher gering, es mag jeder für sich selber entscheiden.

Akzeptanz unseres Wesens

Es ist aus meiner Sicht ein grundlegender Fehler, so zu tun, als könnte man im Strassenverkehr alles kontrollieren und kontrolliert Entscheidungen vorhersehen. So funktioniert der Strassenverkehr nicht, aber auch unser eigenes Wesen nicht. Wir akzeptieren in unserem Alltag Unfälle und Zufälligkeiten und entscheiden mitunter in unserem Alltag Dinge nach “Bauchgefühl”, also “Lust und Laune” was oft an Beliebigkeit und Zufälligkeit grenzt. Der Unterschied zwischen dem Werfen einer Münze liegt regelmäßig darin, dass unser eigenes Bewusstsein uns selbst suggeriert, gerade eine bewusste und intellektuell motivierte Entscheidung getroffen zu haben. Widerlegen lässt sich das durch die eigene Rückfrage warum man sich gerade so und nicht anders entschieden habe – nicht selten fängt man erst anlässlich der Frage an, Argumente für seine bereits getroffene Entscheidung zu suchen. Was ich hier so extrem konzentriert darstele wird seit den 1990ern als Diskussion unter dem Slogan “Bewusstsein als Illusion” geführt, als Mechanismus der entstand um uns einen Weg im Alltag zu bieten – einleitend sei auf diesen Beitrag verwiesen. Wer an dieser Stelle bereits in die reflexartige Haltung verfällt dies zu verneinen – es sei dahin gestellt ob es korrekt ist, es geht alleine um die Auseinandersetzung mit der Auffassung – mag meine Überlegungen nicht weiterlesen, er wird sie ohnehin ablehnen, dies übrigens schon jetzt, noch bevor er (oder sie) es gelesen hat.

Bedeutung für autonome Fahrzeuge

Von diesen – sehr persönlichen und nicht als allgemeingültig erhobenen – Überlegungen ausgehend komme ich für mich zu dem Ergebnis, dass sämtliche Überlegungen zu automatisierten Entscheidungen an Hand konkreter Unfallsituationen nonsens sind. Überhaupt tue ich mich schwer damit, im bewährten Richtig/Falsch-Muster Situationen des Strassenverkehrs und Unfallsituationen zu bewerten. Die Frage ist: Wie bekommt man es so hin, dass jeder Strassenverkehrsteilnehmer weiterhin unbefangen am Strassenverkehr teilnimmt? Hier gibt es durchaus Ansätze, fernab des “wenn-dann”-Musters.

Berechnetes Verhalten

Dass ich dem vorher programmierten, berechneten, Verhalten des KFZ schon aus abstrakten Gründen kritisch gegenüber stehe wurde bereits deutlich. Doch auch konkret-praktische Gründe sprechen aus meiner Sicht dafür: Wenn etwa bekannt ist, wie ein KFZ entscheidet, können Unfallteilnehmer diese Entscheidung vorhersagen. Wenn ich also – bzw. mein autonomes KFZ – in eine vorhersehbare aber nicht mehr zu verhindernde Situation mit einem KFZ gerate, bei dem bekannt ist, dass es im Zweifelsfall den eigenen Fahrer schützt, ist ebenso vorhersehbar, dass ich alles tue um diese Situation zu verhindern. Vielleicht habe ich einen Patch installiert, der in meinem KFZ nun eingreift und versucht, diese Situation zu ändern; vielleicht gerate ich selber in Panik und versuche irgendwie die Situation zu verhindern – oder mein KFZ erkennt bereits das Problem, will mich schützen, reagiert anders und fährt dann in eine bisher unbeteiligte Personengruppe. Ich sehe zu viele kritische Szenarien, die gerade dadurch erzeugt werden, dass man durch vorher programmierte Routinen versucht, einen Unfallausgang vorher zu sagen (abgesehen davon, dass ich eben wegen der Gegenreaktionen davon ausgehe, dass hier ohnehin nichts vorhersagbar ist).

Zufälliges Verhalten?

Eine andere Variante wäre ein rein zufälliges Verhalten, wobei ich das “Werfen einer Münze” ablehne, zumal es eindeutig rechtswidrig wäre. Ein Strassenverkehr in dem die Teilnahme zum Glücksspiel über Leben und Tod entscheidet wäre nicht hinnehmbar und niemand würde hieran teilnehmen. Allerdings wäre etwa denkbar, dass “unscharfe” Entscheidungen des KFZ über die  Fuzzy-Logic-Theorie vorgesehen sind, die sich dann an vorgegebenen Werten des Herstellers orientieren. Es würde somit Prämissen in Situationen geben, wobei das KFZ gleichwohl unscharf feststellt, wie es sich jeweils verhalten soll.

Einbeziehen des Fahrers

Noch am nächsten an den bisherigen Diskussions-Szenarien in der Fachliteratur wäre es, den Fahrer mit einzubeziehen. Dazu wird nicht in bewährter Manier versucht, ein Unfallszenario vorherzusehen, sondern das Szenario wird unter Wahrscheinlichkeitsaspekten bewertet. Man bewertet also die verschiedenen Wahrscheinlichkeiten der verschiedenen Unfallmöglichkeiten. Hierbei wird allerdings nicht “scharf” gerechnet, sondern entsprechend der Fuzzy-Logic-Theorie ein unscharfes Bild eines möglichen Szenarios entwickelt. Der Fahrer selber kann im Vorhinein gewisse Präferenzen vorgeben, etwa dass er im Zweifelsfall eher selber Schaden nimmt oder eher selber Schaden vermeiden möchte – dies wird innerhalb der Algorithmen berücksichtigt.

Das Ergebnis wäre ein recht individuelles und nicht abschliessend vorhersagbares Verhalten des KFZ, orientiert an gesellschaftlichen Normen und würde nach aussen hin am ehesten dem nahe kommen, was man von einem menschlichen Fahrer erwarten würde. Ich würde hierbei einen enormen Aspekt sehen, wenn man den Fahrer zwingend “in die Verantwortung” nimmt und bei Inbetriebnahme des KFZ zwingend eine Entscheidung verlangt, so dass eine grundsätzliche Verantwortung, wenigstens auf abstrakter Ebene, immer beim Fahrer (wohl besser bei autonomen KFZ: KFZ Betreiber) verbleibt.

Weg von moralischen Ansätzen

Die kurze Darstellung soll eines zeigen: Ich glaube nicht, dass wir in lebensbedrohlichen Situationen absolut moralisch entscheiden. Und wir würden uns keinem fremdbestimmten Szenario unterwerfen, dass dieser Prämisse folgen würde. Das Paradoxe am Strassenverkehr ist, dass es gerade Unsicherheit und Unvorhersehbarkeit sind, die uns dazu veranlassen, täglich an ihm teilzunehmen. Solange wir uns im Graubereich dessen bewegen, was vielleicht aber nicht sicher passieren kann, was möglich aber nicht zwingend ist, solange fühlen wir uns sicher. Autonome KFZ, die dem genügen wollen, dürfen ebenso paradox nicht berechenbar sein, müssen aber eben doch mit unserem moralischem Empfinden vereinbar sein, das ja auch noch subjektiv divergiert. Autonomen KFZ klare Grenzen zu setzen, hierin dann aber Spielräume vorzugeben die das KFZ nicht vorhersagbar ausnutzt, vielleicht mit den subjektiven Prämissen des KFZ-Betreibers verbunden, mag dem noch am nächsten kommen.

Rechtlich wäre dies übrigens auch vertretbar, solange es klare Grenzen gibt und nachweisbare Abwägungen stattfinden. Allerdings sehe ich KFZ-Hersteller in der Pflicht, ihre Algorithmen offen zu legen.

Beitrag wurde zuletzt aktualisiert: