2324692

Autonomes Fahren: Wessen Leben ist mehr wert, wenn die Maschine entscheidet?

07.02.2020 | 15:00 Uhr | Prof. Dr. Andreas Herrmann, Dr. Janina Loh

Autonom fahrende Autos versprechen Komfort und Sicherheit. Nicht mehr die gute Reaktion des Fahrers entscheidet in kritischen Situationen, sondern die Algorithmen der Systemsteuerung. Bleiben Ethik und Moral dabei auf der Strecke?

Es ist bereits absehbar, dass in den n├Ąchsten Jahren immer mehr selbstfahrende Fahrzeuge das Stra├čenbild pr├Ągen werden. Da 90 Prozent der Unf├Ąlle im Stra├čenverkehr auf menschliches Versagen zur├╝ckgehen, stehen die Chancen gut, mit diesen Fahrzeugen die Anzahl der Unf├Ąlle reduzieren zu k├Ânnen.

Aber auch die besten autonomen Autos werden Unf├Ąlle verursachen, da immer wieder einmal ein Reifen platzt oder die Bremsen versagen. Auch k├Ânnen Fehler in der Software dazu f├╝hren, dass das Fahrzeug radikal abbremst oder beschleunigt.

Um Kollisionen im Stra├čenverkehr zu vermeiden, halten die Verkehrsordnungen vieler L├Ąnder die Fahrer zu einem r├╝cksichtsvollen und vorsichtigen Fahrverhalten an. Dies kann in einem bestimmten Ausma├č gelernt und ge├╝bt werden, obgleich in brenzligen Situationen spontanes und reflexartiges Reagieren unerl├Ąsslich ist.

Selbstfahrende Autos m├╝ssen ├╝ber Regeln verf├╝gen, die ihnen einprogrammiert worden sind, um bei drohender Gefahr┬á entsprechende Fahrman├Âver einleiten zu k├Ânnen. Neben der Schwierigkeit, die nahezu un├╝bersehbare Zahl von Szenarien im Stra├čenverkehr zu erfassen, sind auch moralische Grundsatzentscheidungen zu treffen. Ein Auto, das die Sicherheit seiner Insassen ├╝ber alles andere stellt, ist gesellschaftlich wohl ebenso wenig akzeptabel wie ein Fahrzeug, das generell seine Passagiere opfert, um andere Verkehrsteilnehmer zu retten.

Der Weichensteller-Fall

Im Mittelpunkt der Diskussion um die ethischen Grunds├Ątze f├╝r das autonome Fahren steht gegenw├Ąrtig das sogenannte Trolley-Problem , das auf ein philosophisches Gedankenexperiment zur├╝ckgeht. Es fragt, ob ein au├čer Kontrolle geratener Zug, der eine Gruppe Menschen zu ├╝berrollen droht, absichtlich so umgeleitet werden darf oder sogar sollte, dass nur ein einzelner Gleisarbeiter zu Tode kommt.

Dahinter steht die ├ťberlegung, ob man in einer Gefahrensituation den Tod weniger in Kauf nehmen darf, um viele zu retten. Ob die Anzahl der zu opfernden Personen z├Ąhlt, wurde immer wieder in verschiedenen Varianten und mit der Charakterisierung der beteiligten Menschen im Hinblick auf Alter, Geschlecht und Beruf untersucht. Damit hat Philippa Foot eine Diskussion ├╝ber moralische Intuitionen und ihre Vertretbarkeit angesto├čen.

Sobald selbstfahrende Autos verbreitet sind, k├Ânnte dieses Problem auch jederzeit im Stra├čenverkehr auftreten. Man denke etwa an ein Auto, dessen Bremssystem ausf├Ąllt just in dem Moment, als drei kleine Kinder die Stra├če ├╝berqueren. Ein Zusammenprall erscheint unvermeidlich, da das Fahrzeug aufgrund parkender Autos und anderer Fu├čg├Ąnger nicht nach rechts ausweichen kann. Ein Ausweichen nach links auf die Gegenfahrbahn w├╝rde dazu f├╝hren, dass ein entgegenkommender achtzigj├Ąhriger Fahrradfahrer frontal ├╝berfahren wird.

Was ist in einer solchen Situation zu tun? F├╝r welches Man├Âver sollte sich der Algorithmus entscheiden?

Bislang trifft der Fahrer solche Entscheidungen spontan und reflexartig, da er weder die Informationen noch die Zeit f├╝r die L├Âsung ethischer Probleme hat. Beim autonomen Fahren entscheiden hingegen die zuvor einprogrammierten Algorithmen, weshalb im Grunde eine Ethik in das technische System implementiert werden muss.

Moralisches Denken

Ein utilitaristischer Zugang k├Ânnte im geschilderten Fall darin bestehen, den Fahrradfahrer zugunsten der drei kleinen Kinder zu opfern. Man m├Âchte m├Âglichst wenige Tote beklagen, und zudem haben die Kinder im Unterschied zum Achtzigj├Ąhrigen ihr ganzes Leben noch vor sich.

Diese Aufrechnung von Menschenleben verst├Â├čt jedoch nicht nur gegen die moralische Intuition vieler Menschen, sondern auch gegen das Prinzip der Menschenw├╝rde. Menschen sind aufgrund ihrer W├╝rde unendlich viel wert, und Unendlichkeit l├Ąsst sich nicht addieren.

Die ├ťberzeugung, Menschenleben nicht gegeneinander aufzusummieren, geht auf den Philosophen Kant zur├╝ck und ist fester Bestandteil zahlreicher Rechtssysteme. Allerdings ist auch diese Position nicht unumstritten, da sie an die Grenzen der moralischen Intuition st├Â├čt.

Dies zeigt sich dann, wenn den m├Âglichst wenigen zu rettenden Menschen m├Âglichst viele gegen├╝berstehen, die geopfert werden sollen, also etwa drei gegen tausend Leben abzuw├Ągen sind. Irgendwann sind viele Menschen der Auffassung, dass die Anzahl doch relevant ist und verfallen damit dem utilitaristischen Kalk├╝l, das die zu opfernden Personen instrumentalisiert.

Was sollen die Hersteller von selbstfahrenden Autos tun? Wie sind die Algorithmen zur Fahrzeugsteuerung zu programmieren?

Defensive Programmierung

Bereits heute sind die Fahrzeughersteller darauf bedacht, dass es erst gar nicht zu Unf├Ąllen im Stra├čenverkehr kommt. Die Steuerungssysteme sind defensiv programmiert, d. h. dass im Zweifel sofort gebremst und die Geschwindigkeit stets der Verkehrssituation angepasst wird.

Kommt es dennoch zu einer Gefahrensituation, sollte in ├ťbereinstimmung mit dem Grundgesetz sowie den Leitlinien der Ethik-Kommission keine in der Programmierung verankerte Bemessung der m├Âglichen Opfer anhand gewisser Qualit├Ąten erfolgen. Stattdessen ist das Steuerungssystem so auszurichten, dass es auf ein sicheres Ausweichman├Âver abzielt. Ist dies nicht m├Âglich, wird die Geschwindigkeit in der Fahrspur und damit die Kollision maximal reduziert.

Haftung und Versicherung

Ger├Ąt ein autonomes Auto in einen Unfall, kann der Lenker nicht mehr haftbar gemacht werden. Doch auch der Algorithmus, der das Fahrzeug steuert, ist nicht schuldf├Ąhig ÔÇô bleibt also nur der Hersteller ├╝brig.

Sind jedoch die Steuerungssysteme autonomer Fahrzeuge mit selbstlernenden Algorithmen ausgestattet, kommt das klassische Haftpflichtrecht, das von einer Voraussehbarkeit des Schadens ausgeht, an seine Grenzen. Retrospektiv l├Ąsst sich eine Schadenverursachung durch das System kaum mehr auf die urspr├╝ngliche Programmierung oder das sp├Ątere selbstst├Ąndige Dazulernen (das Trainieren durch Benutzung) zur├╝ckf├╝hren.

Auf europ├Ąischer Ebene wird diskutiert, selbstfahrende Systeme aufgrund ihrer Autonomie ├Ąhnlich wie eine juristische Person haftbar zu machen. Auch eine Aktiengesellschaft ist kein Mensch, gleichwohl ist sie handlungsf├Ąhig. Solche Systeme k├Ânnten mit einer elektronischen Rechtspers├Ânlichkeit versehen und damit handlungsf├Ąhig werden. Dazu m├╝sste man sie ├Âffentlich registrieren, ├╝ber ein Verm├Âgen verf├╝gen lassen und mit einer obligatorischen Haftpflichtversicherung ausstatten.

Man wird vermehrt ├╝ber eine solche electronic personhood nachdenken m├╝ssen, je mehr Situationen es gibt, in denen das bestehende Recht nicht mehr ausreicht.

Personalisierung

Offenbar lassen sich die unterschiedlichen ethischen Traditionen, die Menschen in ihrem Tun leiten, nicht als richtig oder falsch beurteilen. Daher k├Ânnte zuk├╝nftig dem K├Ąufer eines autonomen Fahrzeugs eine Entscheidung abverlangt werden, wie es in einer Gefahrensituation reagieren soll.

So wie die Individuen die Ausstattung der Fahrzeuge konfigurieren, d├╝rfte es Dr. Janina Loh zufolge auch Optionen bei den Algorithmen zur Fahrzeugsteuerung geben. Martin Kolmar und Martin Booms skizzieren selbstfahrende Autos, die es erlauben, zwischen einem egoistischen (e-drive) und einem altruistischen (a-drive) Modus zu w├Ąhlen. Im ersten Fall wird das Fahrzeug niemals auf Kosten der Passagiere einen Unfall vermeiden, im zweiten Fall hingegen schon.

So weit muss es nicht gehen. Gleichwohl braucht es einen gesellschaftlichen Diskurs ├╝ber die ethischen Grunds├Ątze von Steuerungssystemen in Fahrzeugen.

Wie einfach schien die Welt noch, als viele Entscheidungen ├╝ber Leben und Tod im Stra├čenverkehr von der Spontanit├Ąt und den Reflexen der Verkehrsteilnehmer abhingen.

Greifen uns Hacker demn├Ąchst aus der Ferne ins Lenkrad?

BMW und Daimler entwickeln gemeinsam Technik f├╝r autonomes Fahren

Tesla: Software f├╝r autonomes Fahren wird immer teurer

Macwelt Marktplatz

2324692