Autonomes Fahren endet wieder mal tödlich

[mweisEl]

Forensischer Bericht Uber Crash (deutsch) im Rahmen einer (privaten?) Forschungsarbeit:
1. Synchronisierte Zusammenstellung der bekannten bzw. originalen Videos: https://youtu.be/wTJAHhNrDtM
2. Fachartikel Unfall Uber-Volvo
3. PDF

daraus die Bewertungen der veröffentlichten Behauptungen und Pressemeldungen:

1. Die verunfallte Fußgängerin (die ihr Fahrrad schiebend über die Fahrbahn gegangen ist) soll plötzlich aus dem Schatten hervorgetreten sein.
Diese Aussage ist insofern falsch und widerlegt, da die Fußgängerin bei den tatsächlichen Licht- und Straßenverhältnissen deutlich sichtbar die Fahrbahn überquert hat und bereits mindestens 80 m vor dem Unfallort für Mensch und Maschine erkennbar gewesen sein muss.

2. Das Fahrzeug soll im voll-automatisierten Modus mit umgerechnet 64 km/h (40 mph) anstatt der am Unfallort erlaubten 56,3 km/h (35 mph) unterwegs gewesen sein.
Diese These ist falsch. Am Unfallort waren 45 mph erlaubt und das Fahrzeug fuhr zum Zeitpunkt des Unfalls zwischen mindestens 42 mph [67,6 km/h] und maximal 45 mph [72,4 km/h].

3. Das Fahrzeug soll weder nennenswert verzögert noch eine Ausweichbewegung vorgenommen haben.
Das ist korrekt. Es ist keine Verzögerung oder Ausweichbewegung erkennbar. Stattdessen ist anhand der im Video eingeblendeten Beschleunigungswerte sogar noch eine leichte Geschwindigkeitserhöhung unmittelbar nach dem Aufprall feststellbar.

4. Der/die zur Überwachung an Bord des Fahrzeugs befindliche Fahrer(in) soll nicht eingegriffen haben.
Diese These ist korrekt.

5. Der Unfall wäre auch von einem menschlichen Fahrer nicht vermeidbar gewesen.
Diese These ist definitiv falsch. Ein aufmerksamer durchschnittlicher Fahrer hätte den Unfall problemlos durch Bremsen und/oder Ausweichen frühzeitig verhindern können. Das gleiche gilt auch für ein voll-automatisiert fahrendes Fahrzeug, wenn dessen Sensoren und Steuerung richtig funktioniert hätten.

6. Die Polizei von Tempe, Arizona (Sylvia Moir) sagte aus, dass es danach aussehe, dass Uber keine Schuld an dem Unfall trage und eine Anklage gegen den Fahrer nicht ausgeschlossen werde.
Diese These ist nicht haltbar. Zweifellos hat die Fahrerin ihre Kontrollpflicht drastisch verletzt, da sie vor dem Unfall für mindestens 6 Sekunden und rund 120 m Fahrweg nicht auf die Fahrbahn geschaut hat. Faktisch hätte aber das Fahrzeug die Fußgängerin erkennen und darauf reagieren müssen.

[Alex1]

Prima. Exakt so hab ich das auch gesehen. Natürlich nicht so belastbar...

Die Frage bleibt also, warum das System so komplett versagt hat. Aber dazu bräuchte man die Logs der Sensoren und der Verarbeitung. Ob Uber die wohl irgendwann mal rausrückt?

Die Behauptung von Mobileye, ihre Software hätte die Situation rechtzeitig erkannt und hätte den Unfall mit größter Sicherheit vermieden, ist somit klar bestätigt.

[AndreR]

Es gibt starke Hinweise darauf, dass das System technisch überlastet wurde. Anhand des bekannten Videomaterials ist davon auszugehen, dass zumindest die Videoanalyse und das Lidar die Fußgängerin erkannt haben müssen. Insgesamt entsteht jedoch der Eindruck, dass das System nicht in der Lage dazu war, auf diese Information zu reagieren.

Ich bin mir jedoch gar nicht sicher, ob das System tatsächlich mit dem Videomaterial arbeitet, welches veröffentlicht wurde. Für mich wirkt das eher so, als hätte man im Fahrzeug mehrere Off-the-Shelf-Dashcams verteilt, die die Fahrt unabhängig von der Fahrzeugelektronik aufzeichnen. Dass Dashcams bei Nacht kein sonderlich gutes Bild abgeben, kann man tausendfach auf YouTube sehen. Dort hat man oft genau den selben Effekt, dass die Sicht nach vorne scheinbar nur ein paar Meter beträgt. Hier Uber böswillige Manipulation zu unterstellen halte ich für gewagt, sofern es keine Beweise gibt.

Uber ist schon in der Vergangenheit mehrheitlich negativ aufgefallen, was deren autonome Fahrzeuge angeht. Die Wagen sollen regelmäßig rote Ampeln überfahren und Schilder übersehen haben. Ich bin gespannt, was nächstes Jahr im Autonomous Vehicle Disengagement Report herauskommt (die haben erst im März begonnen und mussten daher letztes Jahr keinen Bericht abgeben). Negativrekordhalter ist derzeit Mercedes-Benz: Alle 1,3 Meilen (ca. 2 km) musste hier der Testfahrer eingreifen, um Unfälle zu verhindern. „Das Beste oder nichts.“ Bei Google ist man zum Vergleich mittlerweile bei einem Eingriff alle 5555 Meilen, also rund alle gefahrenen 9000 km.

Ich denke, dass Uber hier einfach auf schnellen Profit ohne Rücksicht auf Verluste gehofft hat. Das Unternehmen ist erst kürzlich in die Forschung eingestiegen und hat einen Vorprotototypen direkt in der freien Wildbahn getestet. Das ist fatal und grob fahrlässig. Statt Geld in eine ordentliche Teststrecke zu investieren und erst mal sicher zu werden, hat man in maßloser Selbstüberschätzung einfach laufen lassen. Hauptsache, die eigenen Wagen sind in der Öffentlichkeit präsent.

Man kann nur hoffen, dass in Zukunft Regularien für Feldtests eingeführt werden und diese nur erlaubt werden, wenn der jeweilige Hersteller ein Mindestmaß an Zuverlässigkeit nachweisen kann. Eine Art Fahrschulprüfung für autonome Autos. Von mir aus mindestens 1000 Meilen oder Kilometer ohne Eingriff, dann darf auf der Straße getestet werden. Und nicht dieses brandgefährliche Stückelwerk, was Uber und Mercedes hier abliefern.

Und zu dem unsäglichen Thema, der Wagen sei zu schnell unterwegs gewesen: In dem Bereich gilt 45 mph. Der Wagen war langsamer unterwegs. Die Presseaussage, es gelte 35 war „Fake News“, eine Falschaussage. Man wollte Uber wohl Raserei unterstellen.

[Poolcrack]

+1
Ich denke auch dass Uber den Anschluss nicht verlieren möchte und deshalb eine "so schnell wie möglich" Strategie fährt bei der das Thema Sicherheit leider zu kurz kommt.

Bei dem veröffentlichten Video bin ich voll bei Dir. Irgendwie vergessen die Leute bei bewegten Bildern, dass das eben keine Aufnahmen sind wie sie das menschliche Auge macht. Man mag mich korrigieren, aber ich kenne keine Ein-Sensor-Chip-Optik, die den gleichen Dynamikumfang wie das menschliche Auge hat. Vor allem nachts gibt es da enorme Unterschiede. Andererseits gib es beim Menschen wiederum Sinnestäuschungen (siehe widersprüchliche Zeugenaussagen).

Ob das mit den 35 mph eine bewusste Falschaussage war, bezweifle ich persönlich. Man kann nicht jede Zahl in einer Zeitung/Agentuermeldung mit Gold aufwiegen. Und wenn das einer mal geschrieben hat, wird erst Mal fleißig zitiert.

[AndreR]

Das geht mit Tricks schon. Die Vergleichsvideos, die mit einem Smartphone aufgenommen wurden, sind ja deutlich besser. Da können die Kameras aber auch ein wenig mehr. Meistens belichten die im Wechsel ein Bild lang, eines kurz und dann gibt es einen speziellen Prozessor, der jeweils zwei Bilder miteinander verrechnet und als Ergebnis ein Bild liefert, was dem menschlichen Auge nahe kommt.

[zitic]

Das System besteht ja aus mindestens drei Kameras, die sie auf dem Wagen befinden und das geschehen vor dem Wagen aufnehmen. Das sind dann auch in der Regel keine einfachen Smartphone-Chips. Mobileye spricht ja auch die HDR-Daten des RAW-Bildes an, die hier ohnehin verloren gegangen sind auf Youtube - das ist ja sowieso sehr matschig und wohl wirklich nur abgefilmt. An eine unabhängige Dash-Cam zu Dokumentationszwecken habe ich erst gedacht, aber Kamera scheint ja doch sehr hoch zu sitzen, wenn man die Person vor dem Wagen in Relation sieht.

In jedem Fall ist das LIDAR für solche Fälle die Hauptquelle. Die Videokameras dienen ja vor allem auch dazu Farben von Lichtern (Ampel, Rücklichter) und Schildern etc. wahrzunehmen.

[Poolcrack]

Darauf will ich ja hinaus: man kann nicht anhand eines Videos beurteilen was das System alles erfasst hat und was nicht. Genauso wenig kann man anhand eines Videos urteilen, ob das System die Situation hätte erfassen müssen. Dazu braucht man Messwerte und jede Menge Fachwissen. Ich behaupte Mal: vollautonome Fahrzeuge werden auch in 30 Jahren ab und zu Unfälle bauen, die ein Durchschnittsmensch nicht verursachen würde. Das drückt immer auf die Akzeptanz. Die Hauptsache ist aber: sie müssen eine deutlich geringere Unfallrate habe als die Menschen. Und spätestens dann werden die Versicherungen für Selbstfahrer immer teurer sodass sich vollautonomes Fahren von alleine durchsetzt.

[AndreR]

Lidar muss kein Heilsbringer sein. Der Mensch fährt schließlich auch mit „nur“ zwei Augen, die bis ca. 40 Meter Entfernung dreidimensional sehen können.

Aus technischer Sicht dürfte der Ansatz von Tesla schon einigermaßen reichen: Diverse Kameras für eine Rundumsicht (so fällt das Drehen des Kopfes weg) und vor allen Dingen im Frontbereich zusätzliches Radar, um auch bei schlechter Sicht sicher fahren zu können. Ob die verwendeten Ultraschallsensoren nun besser sind, oder ob man ein Nahdistanzradar für umliegende Sicht verwendet sollte, sei dahingestellt. Beides hat seine Vor- und Nachteile (Radar lässt sich nicht so leicht durch Regen ablenken). Eine zusätzliche Stereo- oder TOF-Kamera nach vorne kann nicht schaden und womöglich sollte man noch eine Zoom-Optik einsetzen, die jederzeit in mutmaßliche Gefahrenbereiche geschwenkt werden kann.

@zitic: Was für Chips sollen das denn sonst sein? Deren erstes Fußgängererkennunggsystem lief mit einem heute antik wirkenden VGA-Sensor. Auch im aktuellen System ist keine Raketentechnik verbaut. Die nächste Generation wird CMOS-Sensoren mit 7,4 Megapixel und 2 µm Pixelgröße verwenden. Die Sensorgröße dürfte bei 1/2.8" liegen, wird aber nirgends angegeben.

[zitic]

Ja, z.B. eine andere Sensorgröße. Davon würde ja gerade die Nachtfahrt profitieren.

Rundumkameras haben die Systeme mit Lidar ja auch. Der Mensch hat auch nur zwei Augen, ja - aber mal abgesehen von den rein technischen Vorteilen des menschlichen Auges, die man durch mehr Kameras vielleicht ausgleichen kann, ist das Machine Learning bei allem Hype noch nicht auf dem Niveau der menschlichen Auffassung. Da hat Lidar zur basalen Hinderniserkennung durchaus seine Vorteile. Das bauen Google/Waymo, die ja nun durchaus Expertise im Machine Learning haben, etc. nicht umsonst ein, zumal es noch relativ teuer ist. Aber da werden wir hier ohnehin zu keinem schlussendlichen Fazit kommen.

Tesla verhält sich nicht vorbildlich. Der leitenden Behörde "Geltungssucht" vorzuwerfen ist ein starkes Stück.

http://www.zeit.de/mobilitaet/2018-04/a ... mittlungen

@AndreR

Ein Lidar ist aber weitaus verlässlicher als ein kamera basierender Sensor. So hätte ein Lasercanner den ersten tödlichen Unfall mit dem "Autopiloten" von Tesla mit hoher Wahrscheinlichkeit vermieden (tiefstehende Sonne).