Eine Gruppe von Forschenden der Technischen Universität München (TUM) ist es gelungen, eine Software für autonomes Fahren zu entwickeln, die das Risiko auf der Straße fair verteilt. Damit gilt die Software als erster Algorithmus, der die 20 Ethik-Empfehlungen der EU-Kommission berücksichtigt. Hierdurch sei es dem Algorithmus möglich, deutlich differenzierter abgewogene Entscheidungen zu treffen, als es bisher möglich war.
In der dazugehörigen Mitteilung führt die TUM aus, dass der Algorithmus unterschiedliche Risiko der Verkehrsteilnehmenden berücksichtigt, was den Betrieb von automatisierten Fahrzeugen deutlich sicherer machen soll. Der Code steht öffentlich zur Verfügung. Die Entwicklung der TUM setzt somit an einem Punkt an, welcher geklärt werden muss, bevor autonomes Fahren in die Masse kommen kann.
So muss die Software mit unvorhersehbaren Situationen umgehen können und im Falle eines drohenden Unfalls die notwendigen Entscheidungen treffen. Für die Erstellung des Algorithmus wurden rund 2.000 Szenarien mit kritischen Situationen getestet, verteilt auf unterschiedliche Straßentypen und Gebiete wie Europa, die USA und China.
„Bislang wurden autonome Fahrzeuge im Falle einer ethischen Fragestellung immer vor die Entscheidung entweder/oder gestellt. Allerdings lässt sich der Straßenverkehr nicht in schwarz und weiß einteilen, sondern bedarf auch der Betrachtung der unzähligen Graustufen. Unser Algorithmus wägt verschiedene Risiken ab und trifft aus tausenden möglichen Verhaltensweisen eine ethische Entscheidung – und das in Sekundenbruchteilen.“ – Maximilian Geißlinger, Wissenschaftler am Lehrstuhl für Fahrzeugtechnik TUM
EU-Kommission gibt Rahmen für ethisch korrektes Verhalten vor
Die Rahmenbedingungen nach denen sich die Risikobewertung der Software orientiert, wurden durch Expert:innen bereits 2020, im Auftrag der EU-Kommission, in einem Empfehlungsschreiben definiert. Es beinhaltet Grundsätze wie den Schutz schwächerer Verkehrsteilnehmender und die Aufteilung von Risiko im gesamten Straßenverkehr.
Diese Regeln musste das Team der TUM in mathematische Berechnungen übertragen. Hierfür haben die Forschenden Fahrzeuge und Personen, die sich im Verkehr bewegen, anhand des von ihnen ausgehenden Risikos für andere und anhand ihrer unterschiedlichen Risikobereitschaft eingeordnet.
Am einfachsten wohl zu erläutern, an einem Lastwagen, der im Verkehr anderen großen Schaden zufügen kann. In der Regel aber selbst meist nur ein wenig beschädigt wird. Bei einem Fahrrad verhält es sich genau andersherum. All diese Überlegungen wurden in die Software eingebracht. Grundlage war dabei stets, dass in den verschiedenen Verkehrssituationen ein maximal akzeptables Risiko nicht überschritten wird. Außerdem kalkulierte das Forschungsteam Variablen ein, die aus der Verantwortung der Verkehrsteilnehmenden resultieren, beispielsweise sich an Verkehrsregeln zu halten.
TUM denkt bei autonomen Fahren nicht Schwarz oder Weiß
Der Ansatz des Teams der Technischen Universität München erlaubt es, dass im Vergleich zu bisherigen Algorithmen, mit einer größeren Anzahl an Manöver gearbeitet wird. Bisweilen war es so, dass im Zweifelsfall stets das Fahrzeug stehen blieb. Das mehr an Freiheitsgrade erhöht die Sicherheit im Verkehr.
Anhand eines Beispiels wird der Ansatz deutlich:
Ein autonomes Fahrzeug möchte ein Fahrrad überholen, auf der Gegenfahrspur kommt ihm ein Lkw entgegen. Alle vorhandenen Daten über die Umgebung und die einzelnen Teilnehmenden werden nun zu Rate gezogen. Lässt sich das Rad überholen, ohne in die Gegenfahrspur zu fahren und gleichzeitig genug Abstand zum Fahrrad zu halten? Welches Risiko besteht für welches Fahrzeug und welches Risiko bedeuten diese Fahrzeuge für einen selbst?
Hier führen die Forscher aus, dass im Zweifel immer das autonome Gefährt mit der neuen Software wartet, bis das Risiko für alle akzeptabel ist. Aggressive Manöver werden vermieden, gleichzeitig fällt das selbstständig fahrende Fahrzeug nicht eine Schockstarre und bremst abrupt ab. Ein klares Schwarz-Weiß-Denken gibt es nicht mehr. Es findet eine Abwägung statt, die viele Optionen beinhaltet.
„Bislang wurden häufig traditionelle ethische Denkmuster gewählt, um Entscheidungen autonomer Fahrzeuge zu begründen. Das führte letztlich in eine Sackgasse, weil in vielen Verkehrssituationen nichts anderes übrig blieb, als ein ethisches Prinzip zu verletzen. Wir dagegen betrachten den Verkehr mit der Risikoethik als zentralem Ausgangspunkt. Das ermöglicht uns, mit Wahrscheinlichkeiten zu arbeiten und differenzierter abzuwägen.“ – Franziska Poszler, Wissenschaftlerin am Lehrstuhl für Wirtschaftsethik der TUM
Die Forschenden betonen, dass auch Algorithmen, die nach der Risikoethik handeln, zwar jegliche mögliche Situation abdecken und eine Entscheidung auf Basis von ethischen Prinzipien treffen, aber dennoch keinen unfallfreien Straßenverkehr garantieren können. Künftig müssten zudem weitere Differenzierungen wie etwa kulturelle Unterschiede in ethischen Entscheidungen berücksichtigt werden.
Bisweilen ist es so, dass der von der TUM entwickelte Algorithmus in Simulationen validiert. Gemeinsam mit dem Forschungsfahrzeug EDGAR wird die Software künftig auch auf der Straße getestet. Der Code, in den die Erkenntnisse der Forschungsarbeit fließen, steht Open Source zur Verfügung. Damit trägt die TUM zur Entwicklung praktikabler und sicherer autonomer Fahrzeuge bei.
Quelle: Technische Universität München – Autonomes Fahren: Neuer Algorithmus verteilt Risiken fair
