Uber testbil dödar fotgängare :-(

Här diskuterar vi frågor som berör flera av Teslas produkter.

Moderator: Redaktion

kallekula
Inlägg: 747
Blev medlem: 27 apr 2016 09:10

Re: Uber testbil dödar fotgängare :-(

Inlägg av kallekula »

TeslaX Anders skrev:
OK. Så du menar att bilens dator lär sig att tänka proaktivt, hur då?
Ta exemplet att du kör på en väg där det är 50. På trottoaren precis bredvid går det ett flertal barn/ungdomar på väg till skolan. Du och jag förstår ju att ett barn plötsligt kan hoppa ut på vägen som barn gör ibland och vi har då anpassat hastigheten till kanske 20-30 när vi passerar dem för att ha en chans att hinna stanna eller mildra en ev kollision(de flesta överlever en krock i 30). Hur menar du att en bil lär sig att göra denna riskbedömning?? (Förhoppningsvis inte genom att först köra på en person och sedan lära sig).?! Jag är inte kunnig IT människa så jag vet inte hur det fungerar men vore det lätt hade vi väl redan haft autonoma fordon.
Sedan vet ju både du och jag att det finns dåliga/omdömeslösa förare som aldrig skulle sänka hastigheten i ovan exempel. De personerna kommer vi ju aldrig ifrån tyvärr.
Om man kan säga att datorn "tänker" vet jag inte men ja, det är korrekt. Datorn lär sig från de situationer som uppstår och från att titta på hur människor kör. Det är denna nya maskininlärningsteknik som gör autonoma bilar tekniskt möjliga nu för tiden till skillnad från tidigare. (Det i kombination med hårdvara som klarar av att driva algoritmerna förstås. Det fanns inte heller för några år sedan.)

Sedan kan en programmerare självklart lägga till relevanta saker utöver de faktiska trafikreglerna. Exempelvis kan man instruera bilen att alltid vara extra försiktig/sakta ner/hålla längre avstånd om den identifierar att barn är i närheten eller liknande.
Användarvisningsbild
Jerker
elbilist
Inlägg: 10912
Blev medlem: 09 nov 2015 22:29

Re: Uber testbil dödar fotgängare :-(

Inlägg av Jerker »

lator skrev:
Jerker skrev:
Nja... Flera sekunder är det ju inte. Det är ungefär en sekund från att hon börjar synas till dess att hon träffas av bilen. En människas reaktionstid är runt en sekund. Även om man reagerar optimalt så skulle bilen inte haft en chans att stanna i tid. Bara bromssträckan är så lång att även om bilens system hade sett henne lite tidigare så hade inte bilen hunnit stanna. Möjligtvis väja, men jag vet inte vad den här bilen har för regelsystem, om det ingår att väja snabbt. Hon bär inga reflexer och det är skuggigt där så hon syns inte förrän hon är mitt i vägbanan. Att föraren skulle ha haft möjlighet att se henne innan hon syns i dashcamens inspelning tror jag inte på. Det vet ju alla som kört bil i stadsmiljö med växlande ljus och skuggor att det kan vara extrem svårt att urskilja fotgängare utan reflexer.
En av de få gånger som jag faktiskt inte håller med dig Jerker.

Bilden från en dashcam motsvarar inte det vi ser med våra ögon (om vi nu överhuvudtaget tittar på vägen) och även på denna dåliga filmsnutt så hävdar jag att jag skulle ha klarat att undvika denna olycka. Kvinnan går rakt över vägen och gör inga plötsliga riktningsändringar, hon är visserligen inte upplyst eller har reflexer på sig men är skönjbar flera sekunder innan träffen. Hastigheten var enligt rapporter 61 km/h och väglaget var torrt och bra. Ca 17 m/s färdas man då och bromssträckan från detta till stopp torde vara runt 15 meter. Lägg på en reaktionstid på rimliga 0,5 sekunder (den traditionsenliga sekunden är en lååång tid, testa själv) så hävdar jag att jag skulle ha fått stopp på fordonet inom en sträcka av 25 meter. Detta under förutsättning att jag är en aktiv förare och inte bara en slö passagerare som sitter och kollar på något helt annat är trafiken.

Sen kan man ju fråga sig varför hon väljer att korsa vägen utan att se sig för. Bilen från Über hade väl fullt synlig belysning?
Det går naturligtvis inte att rekonstruera hur synlig hon var för ett mänskligt öga i den här situationen, men som jag tidigare skrev så på filmen syns hon inte alls flera sekunder innan smällen. Från det att man ser det första blänket av fötterna tills det smäller är det bara en sekund enligt videons tidsstämpling. Men jag håller med om att det är konstigt att man inte ser mer av henne tidigare och det är kanske missvisande av upptagningen.

Håller också med alla att föraren inte är tillräckligt uppmärksam. Och här har vi kanske problemet med en testförare som ska övervaka det hela utan att göra nåt utom att avvärja farliga situationer i sin prydno. Man klarar inte av att sitta och följa trafiken uppmärksamt timme efter timme. Det är människan väldigt dålig på.

Bara för att göra slut på diskussionen om hur länge kvinnan är synlig före smällen så har jag gjort detta: På första bilden har jag fryst bilden när man ser det första lilla blänket, och den andra bilden är exakt när krocken sker. Jag har med ett vertikalt svart streck markerat i tidslinjen var skiftet mellan sekunderna är. Det är alltså nästan exakt en sekund som hon är synlig.
Uber 1.png
Uber 2.png
kallekula
Inlägg: 747
Blev medlem: 27 apr 2016 09:10

Re: Uber testbil dödar fotgängare :-(

Inlägg av kallekula »

Man kan nog vara ganska säker på att om detta inte gällde en en självkörande bil så hade fallet varit nerlagt för längesen.

Men vi måste ställa högre krav på självkörande bilar än på människor. Hade varit kul att veta vad Ubers loggar från radar, lidar osv säger. Undrar om vi får veta.
Användarvisningsbild
boreno
Teslaägare
Inlägg: 775
Blev medlem: 02 dec 2015 07:37
Ort: Stockholm

Re: Uber testbil dödar fotgängare :-(

Inlägg av boreno »

Tänk om hon hade ramlat med cykeln, och just hunnit resa sig upp med cykeln när vi ser bilderna på kameran? Det skulle göra det svårare för bilen att se henne när cykel och människa ligger på marken.
Leeloo | Model S Plaid Juni 2023 | Ultra red | Krämvit interiör | FSD | 21"
Pearl | Model 3 SR+ 2019
Prince | Model 3 Performance Mars 2019
Dementor | Model S 90D 2017
Kalle | Model S 85D 2016
Limbster
Inlägg: 545
Blev medlem: 06 apr 2016 09:26

Re: Uber testbil dödar fotgängare :-(

Inlägg av Limbster »

kallekula skrev:
Man kan nog vara ganska säker på att om detta inte gällde en en självkörande bil så hade fallet varit nerlagt för längesen.

Men vi måste ställa högre krav på självkörande bilar än på människor. Hade varit kul att veta vad Ubers loggar från radar, lidar osv säger. Undrar om vi får veta.
När det finns klara bevis på att "föraren" sitter och tittar i mobilen. Nja, vållande till annans död känns inte helt orimligt att se i en svensk kontext.
nöjd med min Ampera tillsvidare
kallekula
Inlägg: 747
Blev medlem: 27 apr 2016 09:10

Re: Uber testbil dödar fotgängare :-(

Inlägg av kallekula »

Limbster skrev:
När det finns klara bevis på att "föraren" sitter och tittar i mobilen. Nja, vållande till annans död känns inte helt orimligt att se i en svensk kontext.
Jo men det hade ju inte funnits om det var en vanlig bil. Ganska få bilmodeller som spelar in föraren under färd.
Användarvisningsbild
LarsL
Teslaägare
Inlägg: 14700
Blev medlem: 08 nov 2014 19:15
Referralkod: ts.la/lars74032

Re: Uber testbil dödar fotgängare :-(

Inlägg av LarsL »

Limbster skrev:
kallekula skrev:
Man kan nog vara ganska säker på att om detta inte gällde en en självkörande bil så hade fallet varit nerlagt för längesen.

Men vi måste ställa högre krav på självkörande bilar än på människor. Hade varit kul att veta vad Ubers loggar från radar, lidar osv säger. Undrar om vi får veta.
När det finns klara bevis på att "föraren" sitter och tittar i mobilen. Nja, vållande till annans död känns inte helt orimligt att se i en svensk kontext.
Håller med i den delen. Eftersom det är ett experiment fordon så har föraren ansvaret för fordonet. När man framför ett fordon så ska man inte sitta och titta ner i knät under flera sekunder i rad.
Användarvisningsbild
zyax
Teslaägare
Inlägg: 1872
Blev medlem: 08 jul 2016 08:05
Ort: Växjö

Re: Uber testbil dödar fotgängare :-(

Inlägg av zyax »

zyax skrev:
Skulle vara skoj att se hur Waymos virtuella system hade löst exakt samma händelse idag eftersom de också åker i just den förorten till Phoenix. Vi får nog tyvärr aldrig veta det om inte någon journalist frågar efter precis det och de vill svara.
Vi fick tydligen svar på just detta: https://www.nyteknik.se/fordon/waymo-ub ... ik-6906097
Blå Model 3 RWD LR med AP.
Nissan Leaf plus en elmoped, Gobyel.
Solceller på hela taket (ca 18kWp) och inga fossilmaskiner hemma.
Svenssons
Teslaägare
Inlägg: 12321
Blev medlem: 11 aug 2014 22:59

Re: Uber testbil dödar fotgängare :-(

Inlägg av Svenssons »

zyax skrev:
zyax skrev:
Skulle vara skoj att se hur Waymos virtuella system hade löst exakt samma händelse idag eftersom de också åker i just den förorten till Phoenix. Vi får nog tyvärr aldrig veta det om inte någon journalist frågar efter precis det och de vill svara.
Vi fick tydligen svar på just detta: https://www.nyteknik.se/fordon/waymo-ub ... ik-6906097
Från den artikeln:
Ubers mänskliga förare måste i snitt ingripa efter att bilen rullat 21 kilometer i autonomt läge. Motsvarande siffra för Waymo är dryga 9 000 kilometer.
Sitter jag bredvid frugan när hon kör så känner jag det som att jag bör ingripa oftare än Ubers förare... (Inte samma sak som att jag borde ingripa dock, hon har inte varit med om någon olycka ännu.)
They who can give up essential liberty to obtain a little temporary safety, deserve neither liberty nor safety.
Användarvisningsbild
LarsL
Teslaägare
Inlägg: 14700
Blev medlem: 08 nov 2014 19:15
Referralkod: ts.la/lars74032

Re: Uber testbil dödar fotgängare :-(

Inlägg av LarsL »

Bra genomgång av ”Now you know”
Visar bland annat en filmning med en telefon av samma sträcka. Det verkar vara fullt tillräcklig belysning för att se kvinnan. Har Uber manipulerat filmen? Nä kanske bara en dålig daschcam.



Men Ubers misslyckande har inget med andra självkörande bilar att göra. Waymo är i alla fall övertygade om att deras bil kommer klart situationen.
Användarvisningsbild
Geni87
Inlägg: 1728
Blev medlem: 19 nov 2017 13:04
Ort: Göteborg

Re: Uber testbil dödar fotgängare :-(

Inlägg av Geni87 »

https://www.bloomberg.com/news/articles ... e-fatality

Då vet vi det iaf, och det känns helt rimligt.
Polestar 2 förhandsbokad 2019-03-09
Jerka
Inlägg: 938
Blev medlem: 25 mar 2016 21:19

Re: Uber testbil dödar fotgängare :-(

Inlägg av Jerka »

I alla händelser är det ett riktigt underbetyg åt systemet att det inte ens försöker sakta ner när fotgängaren bara är en meter från bilen.
Användarvisningsbild
Geni87
Inlägg: 1728
Blev medlem: 19 nov 2017 13:04
Ort: Göteborg

Re: Uber testbil dödar fotgängare :-(

Inlägg av Geni87 »

Jerka skrev:
I alla händelser är det ett riktigt underbetyg åt systemet att det inte ens försöker sakta ner när fotgängaren bara är en meter från bilen.
Jo det kan man ju lugnt säga. Uber har en del att jobba på...
Polestar 2 förhandsbokad 2019-03-09
vigge50
Inlägg: 7463
Blev medlem: 11 apr 2014 12:23
Ort: Göteborg

Re: Uber testbil dödar fotgängare :-(

Inlägg av vigge50 »

Nu har en Tesla ägare testat hur hans bil skulle reagera för en ”människa” som står mitt på vägen i mörker och med mörka kläder. Tyvärr verkar det som att bilen inte reagerar alls men sen så säger Tesla inte att deras bilar ska klara statskörning än.

Användarvisningsbild
Geni87
Inlägg: 1728
Blev medlem: 19 nov 2017 13:04
Ort: Göteborg

Re: Uber testbil dödar fotgängare :-(

Inlägg av Geni87 »

vigge50 skrev:
Nu har en Tesla ägare testat hur hans bil skulle reagera för en ”människa” som står mitt på vägen i mörker och med mörka kläder. Tyvärr verkar det som att bilen inte reagerar alls men sen så säger Tesla inte att deras bilar ska klara statskörning än.
Men om de inte ska kunna upptäcka fotgängare vid stadskörning, vart ska de då upptäckas? Har inte Tesla någon "Pedestrian detection"?
Polestar 2 förhandsbokad 2019-03-09
Användarvisningsbild
e5m1r
Teslaägare
Inlägg: 6065
Blev medlem: 31 okt 2015 11:30
Ort: Värnamo
Kontakt:

Re: Uber testbil dödar fotgängare :-(

Inlägg av e5m1r »

En docka går tyvärr inte att genomöra test med
De här systemen fungerar med algoritmer som känner igen rörelse mönster
Sen har tesla inte nåt system som volvo men kan under vissa förutsättningar upptäcka gående (Beta)
Har du en Tesla eller har du beställt en och funderar på tillbehör titta in på http://exclusiveparts.se
Användarvisningsbild
Geni87
Inlägg: 1728
Blev medlem: 19 nov 2017 13:04
Ort: Göteborg

Re: Uber testbil dödar fotgängare :-(

Inlägg av Geni87 »

e5m1r skrev:
En docka går tyvärr inte att genomöra test med
De här systemen fungerar med algoritmer som känner igen rörelse mönster
Sen har tesla inte nåt system som volvo men kan under vissa förutsättningar upptäcka gående (Beta)
Japp exakt. Det är därför ett system som bromsar för fotgängare ej per automatik också bromsar för vilt eller cyklister, helt olika rörelsemönster och utseende. Volvo har ju olika namn på dessa system, även om det är samma sensorer som scannar av omgivningen är det olika delar av mjukvaran som känner igen typen av objekt.

Jag trodde dock att Tesla kunde detektera fotgängare, är det något som fanns i den gamla lösningen för AP1 med Mobileye, eller har det aldrig funnits?
Polestar 2 förhandsbokad 2019-03-09
Användarvisningsbild
LarsL
Teslaägare
Inlägg: 14700
Blev medlem: 08 nov 2014 19:15
Referralkod: ts.la/lars74032

Re: Uber testbil dödar fotgängare :-(

Inlägg av LarsL »

Har kan ju cykeln ställt till det, om AI reagerar på rörelsemönster. Rörelsen blir ju ganska annorlunda om den gående är bakom en cykel.
Men det här håller självklart inte och är kanske ett av de grundläggande problemen med AI och körande. Jag behöver ju inte förstå vad det är som kommer ut på vägen för att bromsa, jag bromsar direkt och funderar sedan. En AI måste först förstå vad det är och sedan välja action utifrån det... :roll: Med det tillväga gångssättet lär det ta tid innan ett självkörande fordon blir säkert.
Användarvisningsbild
ellerstrom
Teslaägare
Inlägg: 650
Blev medlem: 01 dec 2016 13:14
Ort: Höllviken

Re: Uber testbil dödar fotgängare :-(

Inlägg av ellerstrom »

Geni87 skrev:
Jag trodde dock att Tesla kunde detektera fotgängare, är det något som fanns i den gamla lösningen för AP1 med Mobileye, eller har det aldrig funnits?
Jag har sett ett test av detta i en video på Youtube (hittar inte den nu), så jo till AP1 finns det (vet dock inte om Tesla kallar det för beta eller inte). Till AP2 tror jag inte det finns ännu.

Edit: tror det var denna:
Model X P100D | Obsidian Black | 22" Onyx | Svarta ventilerade säten | Kolfiber | All utrustning
Model S 75D | Deep Blue | 19" Slipstream | Beige interiör | Taklucka | AP2
Användarvisningsbild
Leo
Teslaägare
Inlägg: 3191
Blev medlem: 15 feb 2015 18:58
Ort: Enskede

Re: Uber testbil dödar fotgängare :-(

Inlägg av Leo »

Att den ”kan” är något helt annat att den med 100% ”gör” något. ;)

Som sagt tror också det var ”cykeln” som förvirrade dataprogrammet.
Nu: BMW i4 eDrive40 700mil, Seat Mii 800mil, Tesla Roadster 250mil.
Fd:MG5 850mil, MYLR 900mil, Kia EV6+ 1500mil, Skoda Enyaq iV80 2000mil, VW ID3 1100mil, Kia eNiro 3700mil, X100D-17 1500mil, P85-14 3000mil, 4xe-Golf 8700mil, e-up 2000mil
Jerka
Inlägg: 938
Blev medlem: 25 mar 2016 21:19

Re: Uber testbil dödar fotgängare :-(

Inlägg av Jerka »

Om det stämmer att systemet inte kunde upptäcka fotgängaren för att hon ledde en cykel (vilket i och för sig bara är spekulation) så är det helt obegripligt dålig programmering och riskanalys som ligger bakom. Har de inte testat detta innan de började testköra live? Det där ska bara inte kunna hända. Programmet är inte tillräckligt bra för att användas i trafiken än och ansvaret vilar tungt på Uber.
Skriv svar