Der Mensch im automatisierten Fahrzeug

Digitale Ethik im Alltag

Auto von innen
Wie wird Mobilität in der Zukunft aussehen? Foto: Photo by Viktor Hanacek, picjumbo.com.

Wir sitzen da, das Auto macht den Rest, der "fehlerhafte Mensch" hinter dem Steuer ist abgeschafft - autonomes Fahren verspricht eine stressfreie Zeit im Automobil und weniger Unfälle. Doch wie soll sich ein "selbstdenkendes" Fahrzeug im Fall eines Unfalls verhalten? Und wie kann digitale Ethik bei diesen Fragen helfen? Dieses Dossier sensibilisiert für diese zukünftig relevanten Fragen und zeigt am konkreten Beispiel selbstfahrender Fahrzeuge, was digitale Ethik ist. 

Nach oben

Auto auf einer Straße
Auto auf einer Straße. Foto: Foto: Photo by Viktor Hanacek, picjumbo.com.
Stellen Sie sich vor, Sie würden in ein selbstfahrendes Fahrzeug einsteigen, das Sie bequem an Ihren Wunschort fährt. Danach würde es sich selbständig einen Parkplatz suchen oder weitere Fahrer zum Transport einsammeln. Dank autonomer Fahrzeuge gäbe es keine überfüllten Städte, Parkplatzprobleme oder Staus mehr. Oder nicht?

Noch immer sterben viele Menschen bei Unfällen im Straßenverkehr, in Deutschland durchschnittlich neun Menschen am Tag. 2018 nahm die Polizei rund 2,6 Millionen Unfälle auf. In Deutschland starben 3 275 Menschen bei Unfällen im Straßenverkehr, knapp 100 mehr als noch 2017 (Quelle: Destatis). 

Autonome Fahrzeuge schüren die Hoffnung, die Fehlerquelle "Mensch" auszumerzen und so zum Beispiel tödliche Unfälle öfter vermeiden zu können. Jede neue Technologie birgt die Vorstellung davon, wie ein „besseres“ Leben aussehen könnte. Das autonome oder vollautomatisierte Fahren könnte zum Beispiel Teil der Lösung unserer Mobilitätsprobleme sein. Aber neue Technologien werfen auch Fragen auf.


  • Welchen Weg sollte ein Auto nehmen, wenn es unvermeidlich zum Tod von Menschen kommt?
  • Welche Leben dürfen dann geopfert werden?
  • Wie kann die Privatsphäre geschützt werden, wenn Fahrzeuge alle Fahrtwege und Gespräche protokollieren?

Diesen und weiteren Fragen widmet sich die digitale Ethik. Sie möchte Wege aufzeigen, wie ein gutes Leben im digitalen Zeitalter gelingen kann. 

Nach oben

Kurz & Knapp: Automatisiert und autonom

Wo liegt der Unterschied?

Weißer LKW auf einer Straße
Noch sind fahrerlose Fahrzeuge auf Deutschlands Straßen nicht erlaubt. Photo by Viktor Hanacek, picjumbo.com.

Automatisierte Fahrzeuge

  • ... können bestimmte, definierte Handlungsabläufe selbstständig bewältigen.
  • Verantwortung: Der Mensch muss unter Umständen in den Ablauf eingreifen oder bestimmte Aufgaben komplett übernehmen, welche die Maschine nicht allein bewältigen kann. Die Aufgabe des Fahrens teilen sich Mensch und Maschine zwar, doch der Mensch bleibt in der Verantwortung.


Autonome oder vollautomatisierte Fahrzeuge 

  • ... benötigen, sobald sie eingeschaltet sind, keine weitere menschliche Hilfe. Ihre Programmierung muss es ihnen daher ermöglichen, dass sie in allen Situationen eigenständig Entscheidungen treffen. Autonome Fahrzeuge brauchen aus diesem Grund keine Steuerelemente wie ein Lenkrad oder ein Gaspedal. 
  • Verantwortung: Autonome Fahrzeuge wären alleine verantwortlich. Der Mensch gäbe die Kontrolle komplett ab. Es müssen daher erst Lösungen gefunden werden, wie Maschinen Verantwortung übernehmen können.

(Weitere Informationen zur SAE J3016 Norm. Autonome Fahrzeuge entsprächen der SAE Stufe 5)

Nach oben

Digitale Ethik und Mobilität

Frau im Auto.
Wer trägt bei einem Unfall die Schuld? Foto: Photo by Viktor Hanacek, picjumbo.com.
Um die Mobilität 4.0 und die Diskussion um autonomes Fahren verstehen zu können, ist es aus ethischer Perspektive von Bedeutung, die feinen Unterschiede zwischen dem so genannten autonomen oder auch vollautomatisierten Fahren und den Vorstufen der teil-, bedingt und hochautomatisierten Fahrzeuge zu verstehen.


Liegt die Kontrolle beim Menschen?

Es macht einen großen Unterschied, ob Sie als Fahrer noch in das Fahrgeschehen eingreifen können oder sogar müssen, oder ob Sie nur Beifahrer und Zuschauer der eigenständigen Maschine sind. Hochautomatisierte Fahrzeuge belassen den Menschen ohne Zweifel in der Verantwortung, während sich bei „autonomen“ also vollautomatisierten Fahrzeugen ganz andere Verantwortungsverhältnisse ergeben. 


Kurz & knapp: Was ist Ethik?

Was ist Ethik?
Ethik versucht, die Frage: „Wie sollten wir handeln und leben?“ rational und möglichst allgemeingültig zu beantworten. In der Technik und bei Innovationen sollte Ethik immer mitbedacht werden. Technologien sollen so gestaltet werden, dass sie unsere Zukunft nachhaltig verbessern. Ethik ist deshalb so wichtig und hilfreich: Sie ermöglicht die Entwicklung neuer Technologien, die für alle Menschen gut und wünschenswert sind. 

Was ist digitale Ethik?
Die digitale Ethik möchte eine Orientierung für ein gutes, gelingendes Leben im digitalen Zeitalter geben. Sie stellt die Grundfragen der Ethik und berücksichtigt dabei die Auswirkungen der Digitalisierung: Wie sollen bzw. wollen wir leben? Wie soll der Mensch handeln? Welche Werte bestimmen unser Leben? Wie lassen sich moralische Urteile rational begründen? Komplexer ausgedrückt ist digitale Ethik die wissenschaftlich orientierte Reflexion über Moral und Wertvorstellungen von einem guten Leben in einer digitalen Welt.

Frau im Netzstrom. Foto: mahdis mousavi / Unsplash.
Frau im Netzstrom. Foto: mahdis mousavi / Unsplash.

Nach oben

Privatheit und Datenschutz: Was hört und sieht das Auto mit?

Datensammler Auto?
Welche Daten sammeln autonome Fahrzeuge über uns? Foto: Photo by Viktor Hanacek, picjumbo.com.

Ein Wert, der durch automatisierte, vernetzte oder autonome Fahrzeuge angegriffen wird, ist das Recht auf Privatheit. Technische Innovationen wie Spracherkennung und Sprachsteuerung verwandeln das Auto in ein Abhörgerät. Zahllose Sensoren im und am Automobil erfassen die unterschiedlichsten Daten, aus denen sich Rückschlüsse über das Verhalten und die körperlichen und mentalen Zustände der Insassen ziehen lassen.

"Privatsphäre ist eine Voraussetzung für persönliche Freiheit und Autonomie (...). Sich privat sicher zu fühlen und gleichzeitig von Dritten umfassend beobachtet zu werden, ist ein unvergleichlicher Vertrauensbruch."

Sabine Leutheusser-Schnarrenberger,  2019 auf netzpolitik.org


Privacy by Design: Eingebauter Datenschutz

Wir Konsumenten müssen uns die Frage stellen, mit wem wir unsere Geheimnisse in Zukunft teilen möchten. Würden Sie es wirklich begrüßen, dass Ihre Versicherung zu jedem Zeitpunkt wissen könnte, dass Sie im Berufsverkehr immer 15 km/h zu schnell fahren und im Kreisverkehr nicht immer ordnungsgemäß den Blinker betätigen?

Technische Maßnahmen wie Privacy by Design sollen den Datenschutz schon während der Entwicklung ermöglichen. "Privacy by design“ bedeutet „Datenschutz durch Technikgestaltung“. Wenn ein technisches Produkt entwickelt wird, soll der Datenschutz gleich integriert sein und Daten zum Beispiel von Beginn an verschlüsselt oder anonymisiert werden. 

Ohne ein Bewusstsein der Nutzer ist ein wirksamer Datenschutz jedoch nur ungenügend zu bewerkstelligen. Eine der Hauptaufgaben der Ethik ist deshalb die Aufklärung und die Aufforderung zum gemeinsamen Gespräch. Politik, Wirtschaft, Gesellschaft und Wissenschaft müssen im Sinne der Privatsphäre in einen Dialog treten.

Charta der Grundrechte der Europäischen Union 
Art. 8: Schutz personenbezogener Daten
(1) Jede Person hat das Recht auf Schutz der sie betreffenden personenbezogenen Daten.

Nach oben

Das moralische Dilemma

Wer entscheidet in Unfallsituationen über Leben und Tod anderer?

Schatten hinter Spiegel als Symbolbild für Einsamkeit. Foto: Photo by David Werbrouck on Unsplash.com.
Schatten hinter Spiegel als Symbolbild für Einsamkeit. Foto: Photo by David Werbrouck on Unsplash.com.
Vollautomatisierte Fahrzeuge könnten so programmiert werden, dass sie immer die höchstmögliche Anzahl an Leben schützen, aber ist das ethisch vertretbar? Welche Leben dürften dann geopfert werden? 

Ein Auto fährt auf der Bundesstraße durch ein Waldstück mit 100 km/h. Plötzlich betritt eine junge Mutter mit Kinderwagen die Fahrbahn. Der Bremsweg ist zu kurz und ohne Ausweichen wäre die Kollision unvermeidlich. Auf der Gegenfahrbahn kommt allerdings ein PKW entgegen und bei einem Frontalzusammenstoß würden höchstwahrscheinlich alle Insassen aus beiden Fahrzeugen getötet. Das Fahrzeug könnte nur nach Links ausweichen. Höchstwahrscheinlich würde es dann gegen einen Baum prallen. Das Fahrzeug ist ein SUV mit nur einem Insassen. Welches Leben soll geschützt werden?

 Müsste man als Fahrer eines SUVs beispielsweise bereit sein, sein Leben zu opfern, weil man ein robusteres Fahrzeug fährt? 

Das moralische Dilemma hat viel mediale Aufmerksamkeit erhalten, weil es in der Tat eine schwierige Frage ist. Es beschreibt Unfallszenarien, in denen alle möglichen Handlungsabläufe mit dem Tod von Menschenleben verbunden werden. Das heißt, der Tod von Personen wäre in jedem Fall unvermeidlich. Die Frage aus ethischer Perspektive lautet: Was wäre, wenn man eine vorhersehbare Situation beeinflussen könnte?


Schnelleres Denken erfordert Regeln

Ein vollautomatisiertes Fahrzeug könnte in Zukunft dank der hohen Rechenleistung und seiner zahlreichen Sensoren Situationen schneller erfassen als es Menschen können. Das Fahrzeug erkennt Szenarien und muss dafür programmiert werden, dass es eine Entscheidung treffen kann.

Fahrzeuge treffen im Gegensatz zum Menschen keine spontanen und unbedachten Entscheidungen. Ein Programmierer muss darüber nachdenken, wie sich ein Fahrzeug in bestimmten Situationen verhalten soll.



Straßenszene. Foto: Photo by Viktor Hanacek, picjumbo.com.
Straßenszene. Foto: Photo by Viktor Hanacek, picjumbo.com.

Wie soll sich ein Fahrzeug verhalten?

  • Wie soll man ein autonomes Fahrzeug für eine Dilemma-Situation vorprogrammieren?
  • Dürfte man beispielsweise am Unfall unbeteiligte ältere Fußgänger opfern, um eine junge Mutter mit ihrem Kind zu retten, die unachtsam die Fahrbahn betreten hat?
  • Hat der einzelne Programmierer das Recht, im Voraus über Leben und Tod und den Wert von unterschiedlichen Menschen zu entscheiden?
  • Dürfen Unbeteiligte geopfert werden?
  • Dürfen wir Maschinen oder dem Zufall die Entscheidung über den Tod überlassen? Und wer soll darüber entscheiden dürfen?

Aus ethischer Perspektive ist der Wert jedes einzelnen Menschen unantastbar: Fünf Menschenleben wiegen nicht das Eine auf. Die Geschichte hat in sehr dunklen Kapiteln gezeigt, wo es hinführen kann, wenn der Wert von bestimmten Menschengruppen oder Individuen herabgesetzt wurde. 

Lösungen: Die Regeln der Ethikkommission

Mit dem Problem des moralischen Dilemmas hat sich auch die Ethikkommission zum autonomen und vernetzten Fahren beschäftigt, die von der deutschen Bundesregierung berufen wurde. Der Bundesminister für Verkehr und digitale Infrastruktur brachte insgesamt 14 Wissenschaftler und Experten zusammen, die sich mit ethischen Fragen des automatisierten Fahrens beschäftigt haben. Das Ergebnis sind 20 ethische Regeln, die weltweit die ersten Leitlinien für Fahrcomputer darstellen und im nächsten Abschnitt vorgestellt werden. 

Nach oben

Ethische Regeln für automatisierten und vernetzen Fahrzeugverkehr

Die ethische Reflexion über neue Technologien ist notwendig. Nur so können wir rechtzeitig mögliche negative Folgen bedenken und Technologien so entwickeln, dass sie uns ein gutes, gelingendes Leben ermöglichen. 

Der Traum eines autonomen oder vollautomatisierten Fahrzeugs begleitet den Menschen bereits seit vielen Jahren. Es sind grundsätzliche Fragen zu unserer Zukunft und dem Leben, die nun aus einer ethischen Perspektive betrachtet und diskutiert werden müssen. Verschiedene Problemstellungen wie das moralische Dilemma oder der Datenschutz sollten in den Entwicklungs- und Forschungsprozessen von Unternehmen von Anfang an mitgedacht werden. Hierfür können die Regeln der Ethikkommission oder Ethik-Experten herangezogen werden. Eine Auswahl zum Durchklicken:

  • Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt.

    (Regel 9)

  • Eine Aufrechnung von Opfern ist untersagt.

    Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern.

    (Regel 9)

  • In Gefahrensituationen, die sich bei aller technischen Vorsorge als unvermeidbar erweisen, besitzt der Schutz menschlichen Lebens in einer Rechtsgüterabwägung höchste Priorität.

  • Die dem Menschen vorbehaltene Verantwortung verschiebt sich bei automatisierten und vernetzten Fahrsystemen vom Autofahrer auf die Hersteller und Betreiber.

    (Regel 10)

  • Der Schutz von Menschen hat Vorrang vor allen anderen Nützlichkeitserwägungen.

    Ziel ist die Verringerung von Schäden bis hin zur vollständigen Vermeidung. 

  • Teil- und vollautomatisierte Verkehrssysteme dienen zuerst der Verbesserung der Sicherheit aller Beteiligten im Straßenverkehr.

  • Fahrsysteme bedürfen deshalb der behördlichen Zulassung und Kontrolle.

    Die Vermeidung von Unfällen ist Leitbild.

Nach oben

Ein Blick in die Fiktion: Zukunftsentwürfe autonomer Fahrzeuge

Betrachtet man den gesellschaftsgeschichtlichen Kontext, zeichnet sich eine fast hundertjährige Geschichte selbststeuernder Fahrzeuge ab.

Werbung 1956

Eine der detailliertesten Imaginationen des selbstfahrenden Automobils zeigt eine Werbeanzeige aus dem Jahr 1956 aus dem LIFE Magazin. Die Zeichnung zeigt den Innenraum eines Fahrzeugs mit einem großzügig geschnittenen Panoramadach. Eine Familie sitzt um einen Tisch. Ein Lenkrad ist zu sehen, doch der Vater ist dem Lenkrad abgewandt. Mutter und Kinder haben Zeit für ein gemeinsames Spiel.

Die Insassen sind nicht angeschnallt, offenbar ist die Fahrt so sicher, dass es einen Gurt nicht mehr benötigt. Die Bildunterschrift wirbt damit, dass die neuen Technologien sichere Highways ohne Staus, Unfälle und Müdigkeit des Fahrers. 

KITT in Knight Rider

Ein weiteres populäres Beispiel ist die Serie Knight Rider (1982-1986). Sie handelt von Michael Knight und seinem Auto KITT, das sowohl autonom fahren als auch manuell gesteuert werden kann. Der Fahrer entscheidet selbst welche Option er bevorzugt. Allerdings zeigen manche Filmszenen auch Momente, in welchen das Fahrzeug den Fahrer übersteuert.

KITT wohnt damit das Potenzial zur Rebellion inne, wenn auch für einen guten Zweck. So konnte KITT seinen Fahrer in Ausnahmefällen überstimmen, z.B. als er sagt „ich kann nicht zulassen, dass Sie Ihr Leben in Gefahr bringen. Ich übernehme die Kontrolle“ (Staffel 1, Folge "Trust doesn‘t trust").

Das Fahrzeug KITT ist nicht nur der Ausdruck des Traums vom autonomen Fahren. Es ist zugleich der Traum eines sprechenden Autos – die Imagination von einem künstlich erschaffenen Freund, der antwortet.

Auch in aktuellen Medienprodukten finden sich Zukunftsentwürfe vollautomatisierter Fahrzeuge. Im Playstation-Spiel Detroit: Become human, das im Mai 2018 erschienen ist, werden zahlreiche autonome Autos und Busse gezeigt und von den Spielfiguren genutzt.

In einer Zeitschrift innerhalb des Spiele-Universums findet sich auch ein journalistischer Artikel, der sich den fahrerlosen Automobilen widmet. In diesem heißt es, dass Autos im Falle eines Unfalls mit unvermeidbarem Personenschaden eine Entscheidung treffen, welche Personen geopfert werden. Anhand einer Bilderkennungssoftware werden Daten über das Alter, Geschlecht und die Lebenserwartung innerhalb eines Sekundenschlags ausgewertet. Anschließend werden die Daten in ein öffentliches Verzeichnis eingespeist, um den Familienstand, die Beschäftigungsbilanz, die Lebenserwartung und die Kinderzahl festzustellen.

Wer ist wertvoll genug, um zu überleben?

Das Auto ermittelt einen Wert zu jedem möglichen Opfer, der auf den genannten Kriterien beruht. Die Menschen werden zudem nach ihrem Beitrag, den sie zur Gesellschaft leisten hoch- oder runter gestuft. Dieser Artikel wirft zwei Fragen auf: Die erste lautet: Darf eine Maschine über Leben und Tod entscheiden? Die zweite Frage ist: Dürfen die genannten Parameter Einfluss auf diese Entscheidung haben? Die genannten Fragen stehen in Zusammenhang mit dem sogenannten moralischen Dilemma.

Nach oben

Links und weitere Infos

Gesetzeslage in Deutschland

Deutsche Straßenverkehrsgesetz: www.gesetze-im-internet.de/stvg/index.html

Wahrnehmungsbereitschaft und die unverzügliche Wiederaufnahme der Steuerung in §1b Abs. 2 Nr. 2 StVG: http://www.gesetze-im-internet.de/stvg/__1b.html 


Statistiken zu autonomen Fahrzeugen

https://de.statista.com/themen/2561/autonome-fahrzeuge/

https://de.statista.com/statistik/studie/id/30065/dokument/autonome-fahrzeuge-statista-dossier/


Artikel

https://www.heise.de/thema/autonomes-Fahren

https://www.br.de/autonomes-fahren/autonomes-fahren-auto-selbstfahrendes-automatisiertes-fahrzeug-100.html

http://www.20min.ch/motor/fahrberichte/story/Spioniert-Tesla-Fahrer-und-Beifahrer-mit-Kamera-aus--31465784

http://www.20min.ch/schweiz/bern/story/Tesla-Autopilot-ist-nicht-schuld-an-Unfall-27490756

http://www.20min.ch/finance/news/story/-Ich-bin-nicht-gefahren--das-Auto-wars--11543407

Spiegel Interview mit dem Erfinder der Moral Maschine: http://www.spiegel.de/auto/aktuell/autonomes-fahren-moral-machine-gewissensfragen-zu-leben-und-tod-a-1108401.html


Informationen von Unternehmen:

https://www.bmw.com/de/automotive-life/autonomes-fahren.html

Pressemappe BMW: https://www.press.bmwgroup.com/deutschland/article/detail/T0271369DE/automatisiertes-fahren-bei-der-bmw-group?language=de

Daimler autonomes Fahren und Interieur: https://www.mercedes-benz.com/de/mercedes-benz/next/automation/wie-autonomes-fahren-das-interieur-revolutioniert/

Werbespot von Audi zum autonomen Fahren: https://www.youtube.com/watch?v=I2j2-DqcPfM


Literatur- und Medienverzeichnis

Bundesministerium für Verkehr und digitale Infrastruktur (2017): Ethik-Kommission Automatisiertes und Vernetztes Fahren. Bericht Juni 2017. Hg. v. BMVI Bundesministerium für Verkehr und digitale Infrastruktur. 

Detroit: Become Human (2018): Studio: Quantic Dream, Publisher: Sony Interactive Entertainment, Director: David Cage. USA.

Knight Rider (1982-1986): Glen A. Larson Productions Universal Television. Director: Glen A. Larson. USA.


Nach oben


Autoren: Nadine Hammele & Susanne Kuhnert. Institut für Digitale Ethik, Hochschule der Medien Stuttgart

Redaktionell Überarbeitet im August 2019 von der LpB BW Internetredaktion


Susanne Kuhnert ist Mitarbeiterin am Institut für Digitale Ethik in Stuttgart. Sie arbeitet dort im vom Bundesministerium für Bildung und Forschung geförderten Verbundprojekt zum automatisierten Fahren KoFFI (Kooperative Fahrer-Fahrzeug-Interaktion).

Nach oben