Uber testbil dödar fotgängare :-(

[kallekula]

När det finns klara bevis på att "föraren" sitter och tittar i mobilen. Nja, vållande till annans död känns inte helt orimligt att se i en svensk kontext.

Jo men det hade ju inte funnits om det var en vanlig bil. Ganska få bilmodeller som spelar in föraren under färd.

[LarsL]

Man kan nog vara ganska säker på att om detta inte gällde en en självkörande bil så hade fallet varit nerlagt för längesen.

Men vi måste ställa högre krav på självkörande bilar än på människor. Hade varit kul att veta vad Ubers loggar från radar, lidar osv säger. Undrar om vi får veta.

När det finns klara bevis på att "föraren" sitter och tittar i mobilen. Nja, vållande till annans död känns inte helt orimligt att se i en svensk kontext.

Håller med i den delen. Eftersom det är ett experiment fordon så har föraren ansvaret för fordonet. När man framför ett fordon så ska man inte sitta och titta ner i knät under flera sekunder i rad.

[zyax]

Skulle vara skoj att se hur Waymos virtuella system hade löst exakt samma händelse idag eftersom de också åker i just den förorten till Phoenix. Vi får nog tyvärr aldrig veta det om inte någon journalist frågar efter precis det och de vill svara.

Vi fick tydligen svar på just detta: https://www.nyteknik.se/fordon/waymo-ub ... ik-6906097

[Svenssons]

Skulle vara skoj att se hur Waymos virtuella system hade löst exakt samma händelse idag eftersom de också åker i just den förorten till Phoenix. Vi får nog tyvärr aldrig veta det om inte någon journalist frågar efter precis det och de vill svara.

Vi fick tydligen svar på just detta: https://www.nyteknik.se/fordon/waymo-ub ... ik-6906097

Från den artikeln:

Ubers mänskliga förare måste i snitt ingripa efter att bilen rullat 21 kilometer i autonomt läge. Motsvarande siffra för Waymo är dryga 9 000 kilometer.

Sitter jag bredvid frugan när hon kör så känner jag det som att jag bör ingripa oftare än Ubers förare... (Inte samma sak som att jag borde ingripa dock, hon har inte varit med om någon olycka ännu.)

[LarsL]

Bra genomgång av ”Now you know”
Visar bland annat en filmning med en telefon av samma sträcka. Det verkar vara fullt tillräcklig belysning för att se kvinnan. Har Uber manipulerat filmen? Nä kanske bara en dålig daschcam.



Men Ubers misslyckande har inget med andra självkörande bilar att göra. Waymo är i alla fall övertygade om att deras bil kommer klart situationen.

[Geni87]

https://www.bloomberg.com/news/articles ... e-fatality

Då vet vi det iaf, och det känns helt rimligt.

[Jerka]

I alla händelser är det ett riktigt underbetyg åt systemet att det inte ens försöker sakta ner när fotgängaren bara är en meter från bilen.

[Geni87]

I alla händelser är det ett riktigt underbetyg åt systemet att det inte ens försöker sakta ner när fotgängaren bara är en meter från bilen.

Jo det kan man ju lugnt säga. Uber har en del att jobba på...

[vigge50]

Nu har en Tesla ägare testat hur hans bil skulle reagera för en ”människa” som står mitt på vägen i mörker och med mörka kläder. Tyvärr verkar det som att bilen inte reagerar alls men sen så säger Tesla inte att deras bilar ska klara statskörning än.

[Geni87]

Nu har en Tesla ägare testat hur hans bil skulle reagera för en ”människa” som står mitt på vägen i mörker och med mörka kläder. Tyvärr verkar det som att bilen inte reagerar alls men sen så säger Tesla inte att deras bilar ska klara statskörning än.

Men om de inte ska kunna upptäcka fotgängare vid stadskörning, vart ska de då upptäckas? Har inte Tesla någon "Pedestrian detection"?

[e5m1r]

En docka går tyvärr inte att genomöra test med
De här systemen fungerar med algoritmer som känner igen rörelse mönster
Sen har tesla inte nåt system som volvo men kan under vissa förutsättningar upptäcka gående (Beta)

[Geni87]

En docka går tyvärr inte att genomöra test med
De här systemen fungerar med algoritmer som känner igen rörelse mönster
Sen har tesla inte nåt system som volvo men kan under vissa förutsättningar upptäcka gående (Beta)

Japp exakt. Det är därför ett system som bromsar för fotgängare ej per automatik också bromsar för vilt eller cyklister, helt olika rörelsemönster och utseende. Volvo har ju olika namn på dessa system, även om det är samma sensorer som scannar av omgivningen är det olika delar av mjukvaran som känner igen typen av objekt.

Jag trodde dock att Tesla kunde detektera fotgängare, är det något som fanns i den gamla lösningen för AP1 med Mobileye, eller har det aldrig funnits?

[LarsL]

Har kan ju cykeln ställt till det, om AI reagerar på rörelsemönster. Rörelsen blir ju ganska annorlunda om den gående är bakom en cykel.
Men det här håller självklart inte och är kanske ett av de grundläggande problemen med AI och körande. Jag behöver ju inte förstå vad det är som kommer ut på vägen för att bromsa, jag bromsar direkt och funderar sedan. En AI måste först förstå vad det är och sedan välja action utifrån det... Med det tillväga gångssättet lär det ta tid innan ett självkörande fordon blir säkert.

[ellerstrom]

Jag trodde dock att Tesla kunde detektera fotgängare, är det något som fanns i den gamla lösningen för AP1 med Mobileye, eller har det aldrig funnits?

Jag har sett ett test av detta i en video på Youtube (hittar inte den nu), så jo till AP1 finns det (vet dock inte om Tesla kallar det för beta eller inte). Till AP2 tror jag inte det finns ännu.

Edit: tror det var denna:

[Leo]

Att den ”kan” är något helt annat att den med 100% ”gör” något.

Som sagt tror också det var ”cykeln” som förvirrade dataprogrammet.

[Jerka]

Om det stämmer att systemet inte kunde upptäcka fotgängaren för att hon ledde en cykel (vilket i och för sig bara är spekulation) så är det helt obegripligt dålig programmering och riskanalys som ligger bakom. Har de inte testat detta innan de började testköra live? Det där ska bara inte kunna hända. Programmet är inte tillräckligt bra för att användas i trafiken än och ansvaret vilar tungt på Uber.