Uber testbil dödar fotgängare :-(

[Dansken]

Tråkig historie såklart, men nu startar nog drevet mot självkörande biler

https://www.bloomberg.com/news/articles ... r-business

[tehjimos]

ouuuuu, det där är inte bra...

[Mistafrizz]

Problemet med självkörande bilar kommer ju oftast att vara kopplat till övriga dårar i världen.

Även om några bilar blir självkörande, så kommer ju resterande bilpark var analog - en 740 med ett fyllo i tar ju ingen hänsyn.

Tillsammans med barn, cyklister, vägbulor, snö, slask, hantverkare, flygbussar..

[AGCF]

Vad menas med ”outside of a crosswalk”? Ingen bil kan ju stanna om en cyklist cyklar ut rakt framför. Men en autonom bil har nästan ingen reaktionssträcka.

[Jerka]

Inte så mycket idé att spekulera utan fakta.

...så jag spekulerar givetvis utan fakta. Om det var så att hon plötsligt klev rakt ut i gatan så kan bilen naturligtvis inte lastas för det. Om det däremot var så att hon korsade gatan på fel ställe men klart synligt för bilarna och bilens algoritm bara var dålig på att upptäcka fotgängare som inte går på övergångsställen, då kan det vara bilens fel. En självkörande bil måste kunna hantera sånt. Det händer ju rätt ofta att folk tar lite genvägar i trafiken, går mot rött osv, och för en mänsklig förare är det då oftast bara att släppa en aning på gasen och kanske muttra lite argt så löser sig situationen. En självkörande bil måste kunna göra detsamma.

En annan tänkbar felorsak är om bilen inte uppmärksammar att den kört på någon och därför inte stannar utan fortsätter att köra över personen.

Ska bli intressant att läsa rapporten sen. Men sjukt tråkigt naturligtvis, är aldrig kul att råka ut för dödsolyckor och det blir särskilt jobbigt för offrets familj med den extra uppmärksamhet som lär bli fallet här.

[LarsL]

Lite annan information från electrek. Verkar som att kvinnan gick över på ett övergångsställe ledande en cykel. Måste säga att det är riktigt dåligt om bilen inte kan hantera övergångsställen. Tydligen samma bolag som inte lyckades stoppa vid rött heller... kanske dags för en paus?

https://electrek.co/2018/03/19/uber-sel ... sh-police/

[Beigler]

Lite konstigt att föraren inte tog över. Antingen sov hen eller så var det en inte helt lätt situation att hantera. Hur som helst borde ju föraren vara den som hålls ansvarig?

[Kriper]

Lite konstigt att föraren inte tog över. Antingen sov hen eller så var det en inte helt lätt situation att hantera. Hur som helst borde ju föraren vara den som hålls ansvarig?

+1

[Ric]

Lite konstigt att föraren inte tog över. Antingen sov hen eller så var det en inte helt lätt situation att hantera. Hur som helst borde ju föraren vara den som hålls ansvarig?

Tycker inte det är konstigt. Om bilen kört perfekt hundratals timmar så går nog uppmärksamheten ned hos en andel av förarna.

[e5m1r]

Lite annan information från electrek. Verkar som att kvinnan gick över på ett övergångsställe ledande en cykel. Måste säga att det är riktigt dåligt om bilen inte kan hantera övergångsställen. Tydligen samma bolag som inte lyckades stoppa vid rött heller... kanske dags för en paus?

https://electrek.co/2018/03/19/uber-sel ... sh-police/

Electrek har nog en dålig dag
Först och främst så var det kl 22 alltså inte tidigt på morgonen som de säger....
Sen ör det annat som har misstolkats om man jämför med andra artiklar i samma ämne

[LarsL]

Är nog i princip omöjligt för en förare att hålla uppe koncentrationen så att de hinner ingripa i ett snabbt läge.

[Leo]

Man räknar med 1sec reaktionstid för en oförberedd förare. Så inte lätt att ingripa blixtsnabbt om någon kliver rakt ut i gatan.

[Limbster]

Är nog i princip omöjligt för en förare att hålla uppe koncentrationen så att de hinner ingripa i ett snabbt läge.

Varför det? Det är väl bara att simulera att du kör.

[Limbster]

Man räknar med 1sec reaktionstid för en oförberedd förare. Så inte lätt att ingripa blixtsnabbt om någon kliver rakt ut i gatan.

Alltså anpassar man farten så du inte behöver vara blixtsnabb. Väldigt lätt för en människa men den planeringsförmågan är för svår för dagens AI.

[Svenssons]

Tragiskt är det. Undrar hur testerna i Sverige påverkas av detta?

http://www.mestmotor.se/automotorsport/ ... -goteborg/

De i Arizona hade stoppats för ett år sedan men antagligen tagits upp igen:
http://www.mestmotor.se/automotorsport/ ... oma-bilar/

Edit: Volvo levererar visst bara bilarna och inte autonomin på Ubers bilar. Det är dock en risk som Volvo tar:

http://www.mestmotor.se/recharge/artikl ... ra-veckor/

[LarsL]

Är nog i princip omöjligt för en förare att hålla uppe koncentrationen så att de hinner ingripa i ett snabbt läge.

Varför det? Det är väl bara att simulera att du kör.

Svårt tror jag efter ett par timmar. Reaktionstiden kommer helt klart bli längre.

—-

Riktigt dåligt att inte bilen upptäcker en fotgängare. Har inte Volvo system i orginal som ska fixa sånt här till och med?

[Kulingen]

Har det kommit ut vad som hände vid olyckan? Gjorde bilen helt fel eller fick personen rakt ut mot rött precis när bilen kom? Bromsade bilen med det vanliga fotgängarskyddet? Varför reagerade inte föraren? Massa frågor som måste tas ställning innan man kan säga vad som hänt. Tills detta är klart är det ju bra att de tillfälligt har slutat testet.

[Hok]

Hittade en presskonferens med polisen som besvarar en del frågor, men lämnar mycket öppet också.

[Gustafsson]

Jag tycker att det är naivt att tro att en dator skulle kunna köra bil på ett säkert sätt, det finns ju tusentals situationer att ta hänsyn till, inte minst människors till synes irrationella beteende i trafiken. Man kan ju inte acceptera att ”idioterna”i trafiken för skylla sig själva om de förolyckas.
Däremot tror jag på bra system som stöd till föraren för att upptäcka situationer som utgör vanliga olycksrisker.
Jag har väldigt svårt att förstå hypen runt självkörande bilar, det går ju uppenbarligen inte ens att göra säkra system för tåg eller flygresor, där ändå omgivningen är extremt mycket mindre komplicerad.

[Svenssons]

Jag tycker att det är naivt att tro att en dator skulle kunna köra bil på ett säkert sätt, det finns ju tusentals situationer att ta hänsyn till, inte minst människors till synes irrationella beteende i trafiken. Man kan ju inte acceptera att ”idioterna”i trafiken för skylla sig själva om de förolyckas.
Däremot tror jag på bra system som stöd till föraren för att upptäcka situationer som utgör vanliga olycksrisker.
Jag har väldigt svårt att förstå hypen runt självkörande bilar, det går ju uppenbarligen inte ens att göra säkra system för tåg eller flygresor, där ändå omgivningen är extremt mycket mindre komplicerad.

Om inte allt för många år kommer man sannolikt säga det motsatta...

"Jag tycker att det är naivt att tro att en människa skulle kunna köra bil på ett säkert sätt, det finns ju tusentals situationer att ta hänsyn till, inte minst människors till synes irrationella beteende i trafiken."

För en dator är det ingen problem att snabbt hålla koll på tusentals parametrar, för en människa är det svårare. En dator kan "se" åt alla håll samtidigt, det kan inte en människa.

[Mickep]

Absolut inte bra, det är sådana situationer som fotgängar systemet skall hantera. Om det är så att det var på övergångställe där den som blev påkörd ledde cykel så ser jag inte det som att det var fotgängarens fel. Man brukar lätta på gasen vid sådana tillfällen. Det är vad man skulle förvänta sig av autonomin, riskmedvetenheten. Tycker dock det vore konstigt om det var en Volvo då de har autobroms som standard sedan länge. Men hålls en för hög hastighet hjälper den föga.

[OfarligTesla]

Jag tycker att det är naivt att tro att en dator skulle kunna köra bil på ett säkert sätt, det finns ju tusentals situationer att ta hänsyn till, inte minst människors till synes irrationella beteende i trafiken. Man kan ju inte acceptera att ”idioterna”i trafiken för skylla sig själva om de förolyckas.
Däremot tror jag på bra system som stöd till föraren för att upptäcka situationer som utgör vanliga olycksrisker.
Jag har väldigt svårt att förstå hypen runt självkörande bilar, det går ju uppenbarligen inte ens att göra säkra system för tåg eller flygresor, där ändå omgivningen är extremt mycket mindre komplicerad.

Beror ju på vad man menar på ett säkert sätt. Är det 0 dödsolyckor? Bättre än människor? Det senare är ganska enkelt då människor är rätt dåligt skapta för bilkörning.

Problemet är dock att på samma sätt som människor är dåliga bilförare är vi dåliga på logiskt tänkande, vi kommer alltid tycka det är värre när en dator kör ihjäl någon än när en människa gör det. Om människan kör ihjäl någon har vi någon att skuldbelägga och tänka att ”jag skulle aldrig kört så”, i fallet datorn kör ihjäl ställs vi inför den obekväma sanningen att vi inte har kontroll över allt och kan dö när som. Om man nu inte skuldbelägger utvecklarna som kodat eller något liknande.

Hur får man acceptans av ett datorsystem där varje fel anses vara många resor värre än om människor gör samma fel? Det spelar ingen roll om statistiken visar att det är säkrare, för så rationella är inte de flesta.

[dstr]

Jag tycker att det är naivt att tro att en dator skulle kunna köra bil på ett säkert sätt, det finns ju tusentals situationer att ta hänsyn till, inte minst människors till synes irrationella beteende i trafiken. Man kan ju inte acceptera att ”idioterna”i trafiken för skylla sig själva om de förolyckas.
Däremot tror jag på bra system som stöd till föraren för att upptäcka situationer som utgör vanliga olycksrisker.
Jag har väldigt svårt att förstå hypen runt självkörande bilar, det går ju uppenbarligen inte ens att göra säkra system för tåg eller flygresor, där ändå omgivningen är extremt mycket mindre komplicerad.

Just det där finns det ju redan siffror som motbevisar. När Tesla aktiverade AP1 så sjönk airbag-skjutandet med 40%.

Varje dag dör 3000 personer i trafiken. Om alla skulle haft AP1 så kunde siffran varit 1800 istället.

1800 dödade av "självkörande bilar" ser rätt illa ut - men vad är 1200 räddade liv värda?

[Limbster]

Jag tycker att det är naivt att tro att en dator skulle kunna köra bil på ett säkert sätt, det finns ju tusentals situationer att ta hänsyn till, inte minst människors till synes irrationella beteende i trafiken. Man kan ju inte acceptera att ”idioterna”i trafiken för skylla sig själva om de förolyckas.
Däremot tror jag på bra system som stöd till föraren för att upptäcka situationer som utgör vanliga olycksrisker.
Jag har väldigt svårt att förstå hypen runt självkörande bilar, det går ju uppenbarligen inte ens att göra säkra system för tåg eller flygresor, där ändå omgivningen är extremt mycket mindre komplicerad.

Just det där finns det ju redan siffror som motbevisar. När Tesla aktiverade AP1 så sjönk airbag-skjutandet med 40%.

Varje dag dör 3000 personer i trafiken. Om alla skulle haft AP1 så kunde siffran varit 1800 istället.

1800 dödade av "självkörande bilar" ser rätt illa ut - men vad är 1200 räddade liv värda?

Fast det var Tesla AP1 + människa som minskade olyckorna, vilket snarare bevisar det Gustafsson är inne på. De helt autonoma systemen som finns idag är faktiskt riktigt kassa, det är bara juristerna som räddar dom. Att nå nivå 4-5 i självkörande bilar med bättre säkerhet än människan ligger långt borta.

[Limbster]

Problemet är dock att på samma sätt som människor är dåliga bilförare är vi dåliga på logiskt tänkande, vi kommer alltid tycka det är värre när en dator kör ihjäl någon än när en människa gör det. Om människan kör ihjäl någon har vi någon att skuldbelägga och tänka att ”jag skulle aldrig kört så”, i fallet datorn kör ihjäl ställs vi inför den obekväma sanningen att vi inte har kontroll över allt och kan dö när som. Om man nu inte skuldbelägger utvecklarna som kodat eller något liknande.

Hur får man acceptans av ett datorsystem där varje fel anses vara många resor värre än om människor gör samma fel? Det spelar ingen roll om statistiken visar att det är säkrare, för så rationella är inte de flesta.

Lagar och regler fattas normalt i Sverige på logiska och vetenskapliga grunder. Att man tillåter test med autonoma fordon nu när det är klart mer farliga är för att man ser vinningen på sikt. Naturligtvis måste ansvars fördelningen vara löst mm. Men den dagen som systemen är säkrare kommer de att tillåtas inom en snar framtid.

Att det svallar lite känslor och folk skriker högt på sociala medier kan vi förhoppningsvis helt bortse från, men jag kan såklart ha fel.