2324692

Autonomes Fahren: Wessen Leben ist mehr wert, wenn die Maschine entscheidet?

07.02.2020 | 15:00 Uhr | Prof. Dr. Andreas Herrmann, Dr. Janina Loh

Autonom fahrende Autos versprechen Komfort und Sicherheit. Nicht mehr die gute Reaktion des Fahrers entscheidet in kritischen Situationen, sondern die Algorithmen der Systemsteuerung. Bleiben Ethik und Moral dabei auf der Strecke?

Es ist bereits absehbar, dass in den n√§chsten Jahren immer mehr selbstfahrende Fahrzeuge das Stra√üenbild pr√§gen werden. Da 90 Prozent der Unf√§lle im Stra√üenverkehr auf menschliches Versagen zur√ľckgehen, stehen die Chancen gut, mit diesen Fahrzeugen die Anzahl der Unf√§lle reduzieren zu k√∂nnen.

Aber auch die besten autonomen Autos werden Unf√§lle verursachen, da immer wieder einmal ein Reifen platzt oder die Bremsen versagen. Auch k√∂nnen Fehler in der Software dazu f√ľhren, dass das Fahrzeug radikal abbremst oder beschleunigt.

Um Kollisionen im Stra√üenverkehr zu vermeiden, halten die Verkehrsordnungen vieler L√§nder die Fahrer zu einem r√ľcksichtsvollen und vorsichtigen Fahrverhalten an. Dies kann in einem bestimmten Ausma√ü gelernt und ge√ľbt werden, obgleich in brenzligen Situationen spontanes und reflexartiges Reagieren unerl√§sslich ist.

Selbstfahrende Autos m√ľssen √ľber Regeln verf√ľgen, die ihnen einprogrammiert worden sind, um bei drohender Gefahr¬† entsprechende Fahrman√∂ver einleiten zu k√∂nnen. Neben der Schwierigkeit, die nahezu un√ľbersehbare Zahl von Szenarien im Stra√üenverkehr zu erfassen, sind auch moralische Grundsatzentscheidungen zu treffen. Ein Auto, das die Sicherheit seiner Insassen √ľber alles andere stellt, ist gesellschaftlich wohl ebenso wenig akzeptabel wie ein Fahrzeug, das generell seine Passagiere opfert, um andere Verkehrsteilnehmer zu retten.

Der Weichensteller-Fall

Im Mittelpunkt der Diskussion um die ethischen Grunds√§tze f√ľr das autonome Fahren steht gegenw√§rtig das sogenannte Trolley-Problem , das auf ein philosophisches Gedankenexperiment zur√ľckgeht. Es fragt, ob ein au√üer Kontrolle geratener Zug, der eine Gruppe Menschen zu √ľberrollen droht, absichtlich so umgeleitet werden darf oder sogar sollte, dass nur ein einzelner Gleisarbeiter zu Tode kommt.

Dahinter steht die √úberlegung, ob man in einer Gefahrensituation den Tod weniger in Kauf nehmen darf, um viele zu retten. Ob die Anzahl der zu opfernden Personen z√§hlt, wurde immer wieder in verschiedenen Varianten und mit der Charakterisierung der beteiligten Menschen im Hinblick auf Alter, Geschlecht und Beruf untersucht. Damit hat Philippa Foot eine Diskussion √ľber moralische Intuitionen und ihre Vertretbarkeit angesto√üen.

Sobald selbstfahrende Autos verbreitet sind, k√∂nnte dieses Problem auch jederzeit im Stra√üenverkehr auftreten. Man denke etwa an ein Auto, dessen Bremssystem ausf√§llt just in dem Moment, als drei kleine Kinder die Stra√üe √ľberqueren. Ein Zusammenprall erscheint unvermeidlich, da das Fahrzeug aufgrund parkender Autos und anderer Fu√üg√§nger nicht nach rechts ausweichen kann. Ein Ausweichen nach links auf die Gegenfahrbahn w√ľrde dazu f√ľhren, dass ein entgegenkommender achtzigj√§hriger Fahrradfahrer frontal √ľberfahren wird.

Was ist in einer solchen Situation zu tun? F√ľr welches Man√∂ver sollte sich der Algorithmus entscheiden?

Bislang trifft der Fahrer solche Entscheidungen spontan und reflexartig, da er weder die Informationen noch die Zeit f√ľr die L√∂sung ethischer Probleme hat. Beim autonomen Fahren entscheiden hingegen die zuvor einprogrammierten Algorithmen, weshalb im Grunde eine Ethik in das technische System implementiert werden muss.

Moralisches Denken

Ein utilitaristischer Zugang könnte im geschilderten Fall darin bestehen, den Fahrradfahrer zugunsten der drei kleinen Kinder zu opfern. Man möchte möglichst wenige Tote beklagen, und zudem haben die Kinder im Unterschied zum Achtzigjährigen ihr ganzes Leben noch vor sich.

Diese Aufrechnung von Menschenleben verst√∂√üt jedoch nicht nur gegen die moralische Intuition vieler Menschen, sondern auch gegen das Prinzip der Menschenw√ľrde. Menschen sind aufgrund ihrer W√ľrde unendlich viel wert, und Unendlichkeit l√§sst sich nicht addieren.

Die √úberzeugung, Menschenleben nicht gegeneinander aufzusummieren, geht auf den Philosophen Kant zur√ľck und ist fester Bestandteil zahlreicher Rechtssysteme. Allerdings ist auch diese Position nicht unumstritten, da sie an die Grenzen der moralischen Intuition st√∂√üt.

Dies zeigt sich dann, wenn den m√∂glichst wenigen zu rettenden Menschen m√∂glichst viele gegen√ľberstehen, die geopfert werden sollen, also etwa drei gegen tausend Leben abzuw√§gen sind. Irgendwann sind viele Menschen der Auffassung, dass die Anzahl doch relevant ist und verfallen damit dem utilitaristischen Kalk√ľl, das die zu opfernden Personen instrumentalisiert.

Was sollen die Hersteller von selbstfahrenden Autos tun? Wie sind die Algorithmen zur Fahrzeugsteuerung zu programmieren?

Defensive Programmierung

Bereits heute sind die Fahrzeughersteller darauf bedacht, dass es erst gar nicht zu Unfällen im Straßenverkehr kommt. Die Steuerungssysteme sind defensiv programmiert, d. h. dass im Zweifel sofort gebremst und die Geschwindigkeit stets der Verkehrssituation angepasst wird.

Kommt es dennoch zu einer Gefahrensituation, sollte in Übereinstimmung mit dem Grundgesetz sowie den Leitlinien der Ethik-Kommission keine in der Programmierung verankerte Bemessung der möglichen Opfer anhand gewisser Qualitäten erfolgen. Stattdessen ist das Steuerungssystem so auszurichten, dass es auf ein sicheres Ausweichmanöver abzielt. Ist dies nicht möglich, wird die Geschwindigkeit in der Fahrspur und damit die Kollision maximal reduziert.

Haftung und Versicherung

Ger√§t ein autonomes Auto in einen Unfall, kann der Lenker nicht mehr haftbar gemacht werden. Doch auch der Algorithmus, der das Fahrzeug steuert, ist nicht schuldf√§hig ‚Äď bleibt also nur der Hersteller √ľbrig.

Sind jedoch die Steuerungssysteme autonomer Fahrzeuge mit selbstlernenden Algorithmen ausgestattet, kommt das klassische Haftpflichtrecht, das von einer Voraussehbarkeit des Schadens ausgeht, an seine Grenzen. Retrospektiv l√§sst sich eine Schadenverursachung durch das System kaum mehr auf die urspr√ľngliche Programmierung oder das sp√§tere selbstst√§ndige Dazulernen (das Trainieren durch Benutzung) zur√ľckf√ľhren.

Auf europ√§ischer Ebene wird diskutiert, selbstfahrende Systeme aufgrund ihrer Autonomie √§hnlich wie eine juristische Person haftbar zu machen. Auch eine Aktiengesellschaft ist kein Mensch, gleichwohl ist sie handlungsf√§hig. Solche Systeme k√∂nnten mit einer elektronischen Rechtspers√∂nlichkeit versehen und damit handlungsf√§hig werden. Dazu m√ľsste man sie √∂ffentlich registrieren, √ľber ein Verm√∂gen verf√ľgen lassen und mit einer obligatorischen Haftpflichtversicherung ausstatten.

Man wird vermehrt √ľber eine solche electronic personhood nachdenken m√ľssen, je mehr Situationen es gibt, in denen das bestehende Recht nicht mehr ausreicht.

Personalisierung

Offenbar lassen sich die unterschiedlichen ethischen Traditionen, die Menschen in ihrem Tun leiten, nicht als richtig oder falsch beurteilen. Daher k√∂nnte zuk√ľnftig dem K√§ufer eines autonomen Fahrzeugs eine Entscheidung abverlangt werden, wie es in einer Gefahrensituation reagieren soll.

So wie die Individuen die Ausstattung der Fahrzeuge konfigurieren, d√ľrfte es Dr. Janina Loh zufolge auch Optionen bei den Algorithmen zur Fahrzeugsteuerung geben. Martin Kolmar und Martin Booms skizzieren selbstfahrende Autos, die es erlauben, zwischen einem egoistischen (e-drive) und einem altruistischen (a-drive) Modus zu w√§hlen. Im ersten Fall wird das Fahrzeug niemals auf Kosten der Passagiere einen Unfall vermeiden, im zweiten Fall hingegen schon.

So weit muss es nicht gehen. Gleichwohl braucht es einen gesellschaftlichen Diskurs √ľber die ethischen Grunds√§tze von Steuerungssystemen in Fahrzeugen.

Wie einfach schien die Welt noch, als viele Entscheidungen √ľber Leben und Tod im Stra√üenverkehr von der Spontanit√§t und den Reflexen der Verkehrsteilnehmer abhingen.

Greifen uns Hacker demnächst aus der Ferne ins Lenkrad?

BMW und Daimler entwickeln gemeinsam Technik f√ľr autonomes Fahren

Tesla: Software f√ľr autonomes Fahren wird immer teurer

Macwelt Marktplatz

2324692