[Kommentar] Gesetzentwurf Automatisiertes Fahren

Hinweis: Vieles was ich hier zum Gesetzentwurf Automatisiertes Fahren schreibe kommt – teilweise wortwörtlich –  von einem anderen Beitrag von mir ([Kommentar] 10 Thesen zur Zukunft von Connected Cars).

Das Bundeskabinett hat in einem Gesetzentwurf zwei Änderung zum automatisiertes Fahren hervorgebracht:

  1. Verantwortung bleibt beim Fahrer
  2. Blackbox klärt Schuldfrage bei Unfällen: Eine Blackbox soll aufzeichnen wer fährt und die Schuldfrage bei Unfällen regeln.

Blackbox klärt Schuldfrage bei Unfällen

Die Installation einer Blackbox halte ich für sinnvoll. Es wird natürlich Fragen hinsichtlich des Datenschutzes geben (was wird aufgenommen, wer darf es einsehen, wie lange wird es gespeichert, wann darf darauf zugegriffen werden etc.). Viel spannender finde ich aber den ersten Teil des Entwurfes. Deshalb gehe ich auf diesen näher ein.

Verantwortung bleibt beim Fahrer

Der Fahrer darf „dem technischen System in bestimmten Situationen die Fahrzeugsteuerung übergeben“, die letzte Verantwortung bleibt aber beim Fahrer. Das heißt, dass das Fahrzeug jederzeit durch den Fahrzeugführer übersteuerbar oder deaktivierbar sein muss. Die Frage nach der Verantwortungsübernahme ergibt sich dadurch, dass das Auto nicht in der Lage ist mit der Situation umzugehen. Es gibt zwei Gründe für eine solche Situation. Erstens eine zu komplexe Umwelt und die Klärung von ethisch ungelösten Fragen.

Komplexe Umwelt

Das Auto ist nicht in der Lage die Situation korrekt einzuschätzen. Mögliche Ursachen sind schlechte Sicht, viel Verkehr und/oder schwierige Straßenverhältnisse.

Ethisch ungelöste Fragen

Die klassischen Beispiele hierzu sind Variationen des Trolley-Problems. 1 So müsste das Auto dann in einem Ausweichmanöver entscheiden wer (tödlich) verletzt werden soll. Eine ältere Frau auf der linken Straßenseite oder ein fünfjähriges Kind auf der rechten?

Beispiel des Trolley problems
Beispiel des Trolley-Problems (Quelle: Wikipedia)

Das Trolley-Problem ist nun genau 50 Jahre alt und ein echter Fall ist nicht bekannt. Natürlich entwickelt sich das Verkaufsaufkommen nicht linear weswegen sich die Wahrscheinlichkeit einer solchen Situation in den letzten Jahren stärkt gewachsen ist als in den Jahren davor. Auch darf man nicht vergessen, dass die Vergangenheit nicht immer ein Indikator für die Zukunft ist. Nichtsdestotrotz schließe ich, dass diese ethische Diskussion aufgrund der mangelnden Praxisrelevanz de-priorisiert werden darf.

Bleibt als noch das Problem des algorithmisch zu schwachen Autos. Wenn das Auto also nicht in der Lage ist die Situation korrekt einzuschätzen, sollte der Fahrer von sich aus übernehmen (ich nenne es Übernahme). Zusätzlich dazu wird es aber auch vorkommen, dass das Auto von sich aus nicht in der Lage ist, die Situation zu bewältigen und den Fahrer auffordert zu übernehmen (ich nenne es Übergabe). Da dieser “Handoff“ (die Übergabe der Fahrkontrolle vom Computer an den Fahrer) in beiden Fällen problematisch sein könnte, lässt zweifeln ob dieses vollautomatisiertes Fahren erlaubt sein sollte und ob nicht lediglich autonomes Fahren erlaubt sein sollte (siehe unten die Automatisierungsstufen).

Konkret gibt es zwei Gründe warum die Übergabe bzw. Übernahme nicht erlaubt sein sollte.

  1. Mangelnde (situative) Fahrerkompetenz
  2. Lang dauernder Wechsel der Aufmerksamkeit durch den Fahrer

Mangelnde (situative) Fahrerkompetenz

Falls der Fahrer rechtzeitig in der Lage ist seine Aufmerksamkeit dem Fahren zuzuwenden, ist er wirklich besser als das Auto? Ungeachtet der Tatsache, dass das Auto vielleicht zur Übernahmen aufgefordert hat, ist das überforderte Auto tatsachlich schlechter als der Autofahrer? Hier muss man also sicherstellen, dass der Fahrer die problematische Situation lösen kann, ansonsten kommt es, im Falle eines Unfalls, zur Übertragung der Schuld auf den Fahrer. So dürfte der Fahrer beispielsweise bei Müdigkeit oder Trunkenheit das autonome Fahren gar nicht einschalten dürfen. Eine Analogie zur gesellschaftlichen „Der andere ist schuld“. Dadurch ist eine Abneigung gegenüber autonomisierten Autos vorprogrammiert. Bevor das Gesetz wie im Entwurf verabschiedet wer, muss sichergestellt werden, dass der Fahrer in der Lage ist zu erkennen in welchen Situationen er die Kontrolle übergeben darf. Weiters muss das Aufmerksamkeitsproblem des Fahrers gelöst werden bevor des Gesetzentwurf umgesetzt werden kann.

Lang dauernder Wechsel der Aufmerksamkeit durch den Fahrer

Die zu stellende Frage ist, ob der Fahrer schnell genug in der Lage ist seine Aufmerksamkeit wieder dem Fahren hinzuwenden. Liest der Fahrer beispielsweise ein Buch stellt sich die Frage wie lange er braucht um sich wieder auf das Fahren zu konzentrieren. Abgesehen vom mentalen Prozess kommt hier auch noch die motorische Umstellung, wie z. B. der Sitzposition (befinden sich die Füße des Fahrers in der Nähe des Gaspedals oder sind diese auf dem Sitz?). Eine gesetzliche Ausarbeitung ist für solche Fälle dementsprechend auch notwendig. Der mentale Prozess ist meiner Ansicht nach komplexer und wichtiger. Die Forschung beschäftigt sich schon seit ca. 70 Jahren mit dem Thema unter dem Namen vigilance decrement.

Abnehmende Wachsamkeit und Overtrust erschweren vollautomatisiertes Fahren

„Das “vigilance decrement” besagt, dass die Wachsamkeit der Nutzer bei beobachtenden Tätigkeiten (wie z. B. die kontinuierliche Beobachtung von Radaren) mit der Zeit abnimmt.“  Gill Pratt, CEO des Toyota Research Institute, verdeutlichte dieses Problem mit einem Zuschauerexperiment in Rahmen einer Vorstellung auf der CES 2017. (siehe Video Mackworth Clock-Test unten). Bei diesem soll der Zuschauer jedes Mal, wenn die Uhr zwei statt einer Sekunde springt, klatschen. In dem kurzen Videoexperiment, erwies sich das als relativ einfach. Wenn man sich aber vorstellt dies über einen längeren Zeitraum, sprich eine längere Fahrt, zu machen, wird das Aufmerksamkeits-Problem deutlich. Je länger also dieser Handoff“ ist, desto früher müsste das Auto in der Lage sein Probleme zu erkennen. Verstärkt wird diese Problematik durch “overtrust”. Der Overtrust, eine Art übertriebener Anthropomorphismus, beschreibt, dass der Fahrer die Fähigkeiten der Autonomie überschätz. Dadurch widmet der Fahrer dem Fahren weniger Aufmerksamkeit als er sollte und läuft Gefahr Handoffs nicht rechtzeitig übernehmen zu können. Dieses “Übervertrauen” wird stärker je größer die Abstände zwischen den Handoffs sind. Passiert also alle 1.000 km ein Unfall, wird dieser wahrscheinlich fatal, da der Fahrer – aufgrund des Overtrusts – mit einem Handoff nicht gerechnet hat. Die Problematik des vigilance decrement kann – zumindest vermuten das die Forscher rund um Gill Pratt – durch bestimmte Tätigkeiten (Radio hören etc.) reduziert werden.

Dies Halbautonomie ist übriges aus der Sicht mancher Hersteller so schlecht, dass sie diese Automatisierung gänzlich überspringen und nur auf autonomes Fahren zuarbeiten.

Auch aus Kundensicht – zumindest meiner persönlichen – sehe ich Halbautonomie also weniger Autonomie als selbständiges Fahren. Dadurch, dass ich nicht weiß wann das Auto meine Aufmerksamkeit braucht, kann ich mich nur bedingt auf alternative Tätigkeiten konzentrieren.

Mackworth Clock-Test zum Testen des vigilance decrement 

Automatisierungsstufen im Überblick

teilautomatisiertes Fahren: Der Fahrer muss das System dauerhaft überwachen und jederzeit zur vollständigen Übernahme der Fahraufgabe bereit sein;

hochautomatisiertes Fahren: Der Fahrer muss das System nicht dauerhaft überwachen. Das System warnt den Fahrer aber rechtzeitig, wenn dieser eingreifen muss;

vollautomatisiertes Fahren: Der Fahrer muss das System nicht überwachen. Das System ist in allen Situationen in der Lage, einen “risikominimalen” Zustand herzustellen;

autonomes (“fahrerloses”) Fahren: Das System übernimmt das Fahrzeug vollständig vom Start bis zum Ziel; alle im Fahrzeug befindlichen Personen sind nur Passagiere.

Quelle für die Automatisierungsstufen

Leave a Reply

Your email address will not be published. Required fields are marked *