Autonomes Fahren endet wieder mal tödlich

[Alex1]

Außer heißer Luft hast Du wohl nichts zu bieten.

Interessant wäre mal eine Aussage zu der Verdoppelung der Teraflops alle 3,5 Monate. Ist wohl zu schwierig...

[mweisEl]

Vorläufiger Unfallbericht des tödlichen Uber-Unfalls in Arizona

"Die Frau, die beim Überqueren der mehrspurigen Straße ein Fahrrad schob, sei zwar sechs Sekunden vor dem Zusammenstoß von den Sensoren des selbstfahrenden Autos bemerkt worden, erklärte die US-Behörde NTSB in einem vorläufigen Unfallbericht. Die Software habe sie aber zunächst als unbekanntes Objekt, dann als Fahrzeug und schließlich als Fahrrad eingeordnet – und sei sich unsicher gewesen, in welche Richtung sie sich überhaupt bewegt. Erst 1,3 Sekunden vor dem Aufprall sei das Uber-Programm dann zu dem Schluss gekommen, dass eine Notbremsung notwendig sei, erklärten die NTSB-Experten weiter. Doch diese Entscheidung blieb folgenlos. Notbremsmanöver sind in autonomen Autos von Uber abgeschaltet, wenn das Fahrzeug vom Computer gesteuert wird, um ein unberechenbares Verhalten des Fahrzeugs zu vermeiden. "

Die Sicherheitsfahrerin hätte - ohne vom System gewarnt worden zu sein - eingreifen sollen (war nach ihren Angaben aber mit der Überwachung des Uber-Datenmonitors beschäftigt).

Das bedeutet natürlich auch, dass von der "autonomen Uber-Flotte" bis dato kein einziger Meter wirklich "autonom" gefahren worden ist!

https://ntsb.gov/investigations/Acciden ... relim.aspx

Auf den Fake News-Abschnitt über die angeblich dunke Kleidung der Fußgängerin (sie trug helle Schuhe, die nur im nachträglich heruntergedunkelten "Beweisvideos" erst wenige Sekunden vor der Kollision zu sehen war) hätte die zweifelhafte Behörde besser verzichtet.

[Alex1]

Notbremsmanöver sind in autonomen Autos von Uber abgeschaltet, wenn das Fahrzeug vom Computer gesteuert wird, um ein unberechenbares Verhalten des Fahrzeugs zu vermeiden. "[/i]

https://ntsb.gov/investigations/Acciden ... relim.aspx

Die Begründung ist irgendwie
verstörend :kopfschüttel:

[Karlsson]

Notbremsmanöver sind in autonomen Autos von Uber abgeschaltet, wenn das Fahrzeug vom Computer gesteuert wird, um ein unberechenbares Verhalten des Fahrzeugs zu vermeiden. "

Macht bei so einer guten Erkennung ja sogar Sinn
Das Beispiel zeigt halt, dass das noch nicht reif ist für Level 5.
Und ohne Level 5 ist es nur ein Fahrassistenzsystem, das weiter die volle Aufmerksamkeit des Menschen benötigt.
Dieser ist allerdings nicht wirklich für monotone Kontrollaufgaben geeignet. Wenn er selbst fährt, ist er im Geschehen. Aber alle 10tkm plötzlich eingreifen ist für ihn keine passende Aufgabe.

[Alex1]

Irgendwie ist da jemand im falschen Film: https://www.zeit.de/mobilitaet/2018-05/ ... :[quote]In dem Bericht hieß es, die Straße sei zum Zeitpunkt des Unfalls nicht beleuchtet gewesen. Die Frau sei dunkel gekleidet gewesen und habe ein Fahrrad ohne seitliche Reflektoren geschoben. In ihrem Blut seien Drogen gefunden worden.[/quote]Das darf doch wohl nicht wahr sein!
- Die Frau war bestens zu erkennen, selbst in dem nachträglich abgedunkelten Video,
- Die Straßenbeleuchtung war doch m.W. an? Und falls doch nicht, wozu hat man denn Scheinwerfer?
- Dunkel gekleidete Personen sind natürlich gefährdeter, aber das muss doch so ein System erkennen? Auf dem Video war sie doch auch zu sehen?
- Das Rad hat auch ohne - vorgeschriebene? - Reflektoren mehr als genug Licht reflektiert.

Und das Allerdollste: Was bitte sollen die Drogen (war sie besoffen und schob deshalb ihr Rad?) hier? Natürlich hätte sie möglicherweise, wäre sie nüchtern und voll wach gewesen, die Gefahr früher erkannt. Aber nach dem Zeitablauf im Video würde wohl fast Jeder davon ausgehen, dass der Fahrer sie sieht, ein bisschen bremst (viel wäre ja nicht nötig gewesen, sie war ja schon fast vorbei) oder wenigstens einen Meter nach links ausweicht.

Ob sie stoned, müde oder oder gerade mit was Anderem geistig beschäftigt war (Lebenskrise, mp3-Hören...), ist ja egal.

[zitic]

Dass man das eingebaute Notbremssystem nicht nutzt, ist verständlich. Dann muss man aber ein eigenes bereitstellen. Das ist mir komplett unverständlich. Wenn das System den Gegenstand nicht hundertprozentig einschätzen kann um weiter im Fluss zu fahren (Beispiel: Auto überquert vor einem die Kreuzung, ist aber aller Wahrscheinlichkeit nach rechtzeitig verschwunden), muss man halt abbremsen. Das Objekt wurde ja schon deutlich früher als solches wahrgenommen. Bei 1,3 Sekunden wurde aber halt erst entsprechend entschieden. (der Zeitartikel ist ja extremst sparsam mit Details)

Ich halte den menschlichen Beobachter in dieser Form auch für relativ ungeeignet für solche Testfahrten, gerade auch, wenn er nebenbei noch Monitore kontrollieren muss. Da ist die Konzentration für die Straße nicht gegeben. Hinzu kommt die Monotonie, weshalb ich die ganzen Zwischenschritt bis Level 5 auch kritisch sehe.

Failed by design - von Uber. Pauschale Aussagen zum Stand der Technik kann man daraus nicht ableiten. Dass Uber hier unseriös und vorschnell vorgegangen ist, war ja bereits bekannt. Andere Entwickler gehen da mit deutlich mehr Vorsicht an die Sache. Das ist dann manchmal halt nicht ganz so sexy, führt aber auf lange Sicht vielleicht eher zum Erfolg.

Zwar kein tödlicher Vorfall, aber es ist der dritte bekannt gewordene Unfall mit dem "Autopiloten" von Tesla in diesem Jahr.

https://www.heise.de/newsticker/meldung ... 61126.html

[Helfried]

Da war aber der Fahrer schuld, wenn ich das richtig sehe!

[mweisEl]

Andere Entwickler gehen da mit deutlich mehr Vorsicht an die Sache. Das ist dann manchmal halt nicht ganz so sexy, führt aber auf lange Sicht vielleicht eher zum Erfolg.

Hier ein Artikel der das wesentliche zusammenträgt:

the Uber self-driving system and its radar and LiDAR had picked up an object about 6 seconds before impact [ca. 115 Meter]. However, as precious seconds were ticking away, the Uber system was thrashing about in confusion. It first identified Hertzberg as an “unknown” object, then as a vehicle, and then finally as a bicycle with “varying expectations of future travel path.” The system never came to properly identify the object as a person walking a bike.

Das hatte ich ja schon 3 Tage nach dem Unfall geschrieben:

M.E. hat die Erkennung das "ungewöhnliche" Bild (Seitenansicht eines mit sackartigen Gegenständen beladenens Fahrrad mittig durch Fußgänger verdeckt) bzw. die Sensordaten dazu schlichtweg verworfen ("herumfliegende Plastiktüten").

Nun zu dem, was in der potentiellen Notbremszeit geschehen ist:

But at 1.3 seconds before impact, with the vehicle still barreling down the road at 43mph [69 km/h] toward an unsuspecting pedestrian, it [Uber self-driving system] must have given up trying. Whatever the object was, the vehicle must not hit it, and the system “determined that an emergency braking maneuver was needed to mitigate a collision.” That realization was useless. Uber had deliberately chosen not to enable emergency braking maneuvers.

So willkürlich wie diese Strategie von "Mitbewerbern" jetzt gerne dargestellt wird, war das comfort/safety-Tuning von Uber auch wieder nicht, denn möglicherweise geht es derzeit technisch gar nicht "besser":

Uber may have been afraid of rattling passengers in its future self-driving fleet. False positives can cause a vehicle to hesitate, swerve or jam on the brakes—all of which can register mild to severe alarm in occupants. Uber appears to have been "tuning" its software to provide the best possible, smoothest passenger experience.

Dabei ist es eben nicht so einfach, die KI-Modell von "comfort" (unangenehme Bremsungen vermeiden) auf "safety" (keine Fußgänger totfahren) umzutrimmen. Denn dann kommen da Vollbremsungen für ein Blatt heraus bzw.:

An ultimately safe self-driving vehicle could have you feeling as if you are going to go through the windshield when it fails to distinguish a plastic bag from a flying child.

Evtl. ist das comfort/safety-Tuning, um alltägliche Verkehrssituationen zu beherrschen, mit derzeitger Technik gar nicht möglich. Wenn die Uber-Verantwortlichen das gewusst haben, ist es eigentlich Mord.

Elon Musk scheinen die Toten genauso wenig zu interessieren wie Angela Merkel.