Uber testbil dödar fotgängare :-(

[OfarligTesla]

Jag tycker att det är naivt att tro att en dator skulle kunna köra bil på ett säkert sätt, det finns ju tusentals situationer att ta hänsyn till, inte minst människors till synes irrationella beteende i trafiken. Man kan ju inte acceptera att ”idioterna”i trafiken för skylla sig själva om de förolyckas.
Däremot tror jag på bra system som stöd till föraren för att upptäcka situationer som utgör vanliga olycksrisker.
Jag har väldigt svårt att förstå hypen runt självkörande bilar, det går ju uppenbarligen inte ens att göra säkra system för tåg eller flygresor, där ändå omgivningen är extremt mycket mindre komplicerad.

Just det där finns det ju redan siffror som motbevisar. När Tesla aktiverade AP1 så sjönk airbag-skjutandet med 40%.

Varje dag dör 3000 personer i trafiken. Om alla skulle haft AP1 så kunde siffran varit 1800 istället.

1800 dödade av "självkörande bilar" ser rätt illa ut - men vad är 1200 räddade liv värda?

Fast det var Tesla AP1 + människa som minskade olyckorna, vilket snarare bevisar det Gustafsson är inne på. De helt autonoma systemen som finns idag är faktiskt riktigt kassa, det är bara juristerna som räddar dom. Att nå nivå 4-5 i självkörande bilar med bättre säkerhet än människan ligger långt borta.

Nja, det var AP1 som minskade olyckorna, det var den variabeln vi förändrade för att få ned olyckorna. Det de autonoma system inte är bra på idag är att ens klara av att köra i alla scenarion, dvs ta sig fram överallt. Det är vad vi behöver jobba på, de är redan säkrare än människor men miljöerna de kan köra i är begränsade.

Problemet är dock att på samma sätt som människor är dåliga bilförare är vi dåliga på logiskt tänkande, vi kommer alltid tycka det är värre när en dator kör ihjäl någon än när en människa gör det. Om människan kör ihjäl någon har vi någon att skuldbelägga och tänka att ”jag skulle aldrig kört så”, i fallet datorn kör ihjäl ställs vi inför den obekväma sanningen att vi inte har kontroll över allt och kan dö när som. Om man nu inte skuldbelägger utvecklarna som kodat eller något liknande.

Hur får man acceptans av ett datorsystem där varje fel anses vara många resor värre än om människor gör samma fel? Det spelar ingen roll om statistiken visar att det är säkrare, för så rationella är inte de flesta.

Lagar och regler fattas normalt i Sverige på logiska och vetenskapliga grunder. Att man tillåter test med autonoma fordon nu när det är klart mer farliga är för att man ser vinningen på sikt. Naturligtvis måste ansvars fördelningen vara löst mm. Men den dagen som systemen är säkrare kommer de att tillåtas inom en snar framtid.

Att det svallar lite känslor och folk skriker högt på sociala medier kan vi förhoppningsvis helt bortse från, men jag kan såklart ha fel.

Nej, lagar och regler fattas inte på logiska och vetenskapliga grunder i Sverige, de är lika populistiska som de politiker som bestämmer över dessa är. Vilket inte nödvändigtvis behöver vara dåligt i alla fall såklart.

[Geni87]

Absolut inte bra, det är sådana situationer som fotgängar systemet skall hantera. Om det är så att det var på övergångställe där den som blev påkörd ledde cykel så ser jag inte det som att det var fotgängarens fel. Man brukar lätta på gasen vid sådana tillfällen. Det är vad man skulle förvänta sig av autonomin, riskmedvetenheten. Tycker dock det vore konstigt om det var en Volvo då de har autobroms som standard sedan länge. Men hålls en för hög hastighet hjälper den föga.

Förmodligen levererar Volvo en bil till Uber utan alla system för aktiv säkerhet, kan annars bli problematiskt med två "konkurrerande" system i bilen.

[Limbster]

Jag tycker att det är naivt att tro att en dator skulle kunna köra bil på ett säkert sätt, det finns ju tusentals situationer att ta hänsyn till, inte minst människors till synes irrationella beteende i trafiken. Man kan ju inte acceptera att ”idioterna”i trafiken för skylla sig själva om de förolyckas.
Däremot tror jag på bra system som stöd till föraren för att upptäcka situationer som utgör vanliga olycksrisker.
Jag har väldigt svårt att förstå hypen runt självkörande bilar, det går ju uppenbarligen inte ens att göra säkra system för tåg eller flygresor, där ändå omgivningen är extremt mycket mindre komplicerad.

Just det där finns det ju redan siffror som motbevisar. När Tesla aktiverade AP1 så sjönk airbag-skjutandet med 40%.

Varje dag dör 3000 personer i trafiken. Om alla skulle haft AP1 så kunde siffran varit 1800 istället.

1800 dödade av "självkörande bilar" ser rätt illa ut - men vad är 1200 räddade liv värda?

Fast det var Tesla AP1 + människa som minskade olyckorna, vilket snarare bevisar det Gustafsson är inne på. De helt autonoma systemen som finns idag är faktiskt riktigt kassa, det är bara juristerna som räddar dom. Att nå nivå 4-5 i självkörande bilar med bättre säkerhet än människan ligger långt borta.

Nja, det var AP1 som minskade olyckorna, det var den variabeln vi förändrade för att få ned olyckorna. Det de autonoma system inte är bra på idag är att ens klara av att köra i alla scenarion, dvs ta sig fram överallt. Det är vad vi behöver jobba på, de är redan säkrare än människor men miljöerna de kan köra i är begränsade.

.

Ja tillägget av en faktor, inte att man tog bort människan. Finns inga bevis på att dagens autonoma system är säkrare än människan i trafik.

[OfarligTesla]

Ja tillägget av en faktor, inte att man tog bort människan. Finns inga bevis på att dagens autonoma system är säkrare än människan i trafik.

Ja, i dagsläget handlar det ju om att autopiloten inte klarar av att vara inkopplad hela tiden, den kopplar ur osv. . Vi vet att människor som använder autopilot tenderar att vara mindre fokuserade på vägen och således går deras reaktionstid upp, trots det har antalet olyckor minskat så länge autopiloten varit aktiv. Det är inte fullständigt bevis såklart men det borde leda oss fram till att det är troligt att den då kört säkrare än människan själv skulle gjort.

[Leo]

Är ganska säker på att tex fotgängare ”identifieras” via att kameran ”ser” rörelsemönstret med svängande armar/ben och att man korsar bilens körriktning.

Säg att personen hade mörk klädsel och mörk bakgrund =dålig kontrast, pratade i telefon =inte rätt rörelse, gick snabbt och kom ut bakom något skymt = ingen sensorsikt osv.

Det är inga idiotsäkra system vi pratar om. De kan under bra förhållanden förhindra/minska risken för en olycka. Men inget system idag är helt säkert.

Även med ”alert” förare kan ju också olyckor ske.

[Gustafsson]

Som jag skrev, så tror jag på kombinationen säkerhetssystem som autopilot + mänsklig hantering, jag är bara väldigt skeptisk till helt självkörande system som klarar alla tänkbara scenario i trafiken.
Det är för komplicerat helt enkelt. System där datorerna gör vad de är bra på och människan gör vad vi är bra på tror jag mer på.
Människan är dålig på uppmärksamhet, lätt avledbar och långsam, men kan förutse problematiska situationer t.ex. datorerna funkar lite tvärt om.
På sikt när trafik/vägar / fordon anpassats till autonom körning är det en annan femma. Men i närtid i vanlig trafik ? Aldrig!

[Kulingen]

Borde inte Volvo granska sina bilar pga. att Volvo har väl autobroms för fotgängare?

[oscfor]

Borde inte Volvo granska sina bilar pga. att Volvo har väl autobroms för fotgängare?

Volvos system är inte inblandade alls.

[Kulingen]

Borde inte Volvo granska sina bilar pga. att Volvo har väl autobroms för fotgängare?

Volvos system är inte inblandade alls.

Så autobromsen är urkopplad i dessa modeller då?

[kallekula]

Så autobromsen är urkopplad i dessa modeller då?

Japp.

[oscfor]

Vidare har kvinnan tydligen gått rätt ut i vägen i skugga. Ingen, förare eller Ubers system, hade kunnat göra något. Utom möjligen då Volvos vanliga City Safety som kanske kunnat åtminstone bromsa ner farten. Men det kan ha varit för hög fart för att systemet skulle göra någon nytta. 65km/h är inte normal fart för den typen av undanmanövrar. Systemen borde väl inte anpassas för att kunna hantera personer som går rätt ut i vägen på en en 70-sträcka?

[oscfor]

Volvos City Safety fungerar upp till 80km/h, så en vanlig Volvo hade förmodligen åtminstone kunnat minska olyckan.

[Verdi]

https://www.aftonbladet.se/nyheter/kolu ... ande-volvo

Säger inte att Collin har fel men han är ändå lite av en typisk "gubbe" på ett dåligt sätt. Allt han inte förstår är skit...

[OfarligTesla]

https://www.aftonbladet.se/nyheter/kolu ... ande-volvo

Säger inte att Collin har fel men han är ändå lite av en typisk "gubbe" på ett dåligt sätt. Allt han inte förstår är skit...

Hans uttalanden brukar ju mest ha en doft av idioti över sig, han har fått en uppfattning om hur saker fungerar och vad vetenskapen eller statistiken säger spelar ingen roll. Så ja, typisk "gubbe" är det ju.

[Geni87]

https://www.aftonbladet.se/nyheter/kolu ... ande-volvo

Säger inte att Collin har fel men han är ändå lite av en typisk "gubbe" på ett dåligt sätt. Allt han inte förstår är skit...

Collin har ju även av någon anledning ett personligt agg mot Volvo, något man har kunnat läsa i många av hans artiklar de senaste åren. Den här meningen säger väl allt, "Om Uber-taxin som kom för att hämta mig var en självkörande Volvo skulle jag inte kliva in."

Hade han varit lite påläst hade han ju förstått att det inte spelat någon roll om Uber-taxin var en självkörande Volvo, Ford, Toyota eller vilket annat bilmärke som helst. Eftersom den självkörande tekniken är Ubers egna.

[Svenssons]

Som jag skrev, så tror jag på kombinationen säkerhetssystem som autopilot + mänsklig hantering, jag är bara väldigt skeptisk till helt självkörande system som klarar alla tänkbara scenario i trafiken.
Det är för komplicerat helt enkelt. System där datorerna gör vad de är bra på och människan gör vad vi är bra på tror jag mer på.
Människan är dålig på uppmärksamhet, lätt avledbar och långsam, men kan förutse problematiska situationer t.ex. datorerna funkar lite tvärt om.
På sikt när trafik/vägar / fordon anpassats till autonom körning är det en annan femma. Men i närtid i vanlig trafik ? Aldrig!

Så sa man ju även om schack och Go, de var för komplicerade för att programera en dator till att slå en människa. Idag så finns ingen som argumenterar att de absolut bästa schack- eller gospelarna kan t.ex. AlphaZero. Vi har ju även Googles autonoma bil som ett bevis att bilar kan köra i trafiken och klara sig bättre än människor. Visst finns det begränsnigar på denna bil, både i vilka miljöer som bilen kör och vilka hastigheter t.ex. Det är dock helautonom bil som kör i vanlig trafik idag.

[Limbster]

Som jag skrev, så tror jag på kombinationen säkerhetssystem som autopilot + mänsklig hantering, jag är bara väldigt skeptisk till helt självkörande system som klarar alla tänkbara scenario i trafiken.
Det är för komplicerat helt enkelt. System där datorerna gör vad de är bra på och människan gör vad vi är bra på tror jag mer på.
Människan är dålig på uppmärksamhet, lätt avledbar och långsam, men kan förutse problematiska situationer t.ex. datorerna funkar lite tvärt om.
På sikt när trafik/vägar / fordon anpassats till autonom körning är det en annan femma. Men i närtid i vanlig trafik ? Aldrig!

Så sa man ju även om schack och Go, de var för komplicerade för att programera en dator till att slå en människa. Idag så finns ingen som argumenterar att de absolut bästa schack- eller gospelarna kan t.ex. AlphaZero. Vi har ju även Googles autonoma bil som ett bevis att bilar kan köra i trafiken och klara sig bättre än människor. Visst finns det begränsnigar på denna bil, både i vilka miljöer som bilen kör och vilka hastigheter t.ex. Det är dock helautonom bil som kör i vanlig trafik idag.

Det finns bevis på att Googles bil dags läget klarar sig mycket sämre än människan i trafik.

[dstr]

Borde inte Volvo granska sina bilar pga. att Volvo har väl autobroms för fotgängare?

Vilket påminner mig om

[joel80]

https://www.svt.se/nyheter/utrikes/poli ... bilens-fel

Polisen efter dödsolyckan: Inte den självkörande bilens fel
En kvinna i Arizona dog under måndagskvällen efter att hon blivit påkörd av en självkörande bil. Nu säger den lokala polisen att företaget Uber, som ansvarar för bilen, inte går att lasta för olyckan, skriver tidningen San Francisco Chronicle.

Det var när kvinnan ledde sin cykel som hon kördes på av bilen vid ett övergångsställe i Tempe, en förort till Phoenix i den amerikanska delstaten Arizona, natten mot måndag, lokal tid. Efter olyckan fördes den 49-åriga kvinnan till sjukhus, men hennes liv gick inte att rädda.

Bilen var utrustad med flera kameror och bilderna visar, enligt den lokala polisen, hur kvinnan gick ut i gatan på ett sådant sätt att en olycka hade varit svår att undvika även om bilen hanterats av en förare. Polisen har inte släppt några bilder på olyckan, skriver San Francisco Chronicle.

Pushing a bicycle laden with plastic shopping bags, a woman abruptly walked from a center median into a lane of traffic and was struck by a self-driving Uber operating in autonomous mode.

From viewing the videos, “it’s very clear it would have been difficult to avoid this collision in any kind of mode (autonomous or human-driven) based on how she came from the shadows right into the roadway,” Moir said. The police have not released the videos.

The incident happened within perhaps 100 yards of a crosswalk, Moir said. “It is dangerous to cross roadways in the evening hour when well-illuminated, managed crosswalks are available,” she said.

https://www.sfchronicle.com/business/ar ... 765481.php

[OfarligTesla]

Det finns bevis på att Googles bil dags läget klarar sig mycket sämre än människan i trafik.

Som vad då? Förutom de begränsningar som redan beskrivits.

[Svenssons]

Det finns bevis på att Googles bil dags läget klarar sig mycket sämre än människan i trafik.

Har du några länkar? Vad jag har läst här och på en del andra sidor så sker ju otroligt mycket färre olyckor med Googles bil än andra bilar och de olyckor som bilen har råkat ut för har inte varit orsakade av bilen utan av motparten. Känns ju inte särskilt bra att plocka bort människan som skulle kunna undvika krasch om det är så att systemet är mindre säkert. I november så börjde ju Google köra bilarna utan människa som skulle kunna ta över kontrollen varför gjorde man det om de är sämre än bilar med förare?

https://waymo.com/safetyreport/

[TeslaX Anders]

Som jag skrev, så tror jag på kombinationen säkerhetssystem som autopilot + mänsklig hantering, jag är bara väldigt skeptisk till helt självkörande system som klarar alla tänkbara scenario i trafiken.
Det är för komplicerat helt enkelt. System där datorerna gör vad de är bra på och människan gör vad vi är bra på tror jag mer på.
Människan är dålig på uppmärksamhet, lätt avledbar och långsam, men kan förutse problematiska situationer t.ex. datorerna funkar lite tvärt om.
På sikt när trafik/vägar / fordon anpassats till autonom körning är det en annan femma. Men i närtid i vanlig trafik ? Aldrig!

Jag håller med om detta. sedan tycker jag att utskällde Robert Collin ändå har en poäng med följande:

"Men vilken idiot som helst borde begripa att framtiden är långt bort. Hur ska den teknik se ur som kan förutse alla miljontals olycksrisker i trafiken?
Jämför med flyget. Autopiloten med dubbla datasystem som arbetar oberoende av varandra kör planet till rätt destination. I en korridor där inga möten förekommer. Inga vänstersvängar. Inga flygplan som stannat för att piloten behövde kissa. Ingen som leder sin cykel framför planet. Ändå sitter det två piloter och övervakar flygningen."

Jag är absolut inte teknikfientlig men inser ju själv hur svårt det troligen är att få en dator att fungera "bättre" än vår egen hjärna, våra sinnen samt vår förmåga förutse och dra slutsatser i en viss trafiksituation.

Jag har en MX med AP2. Hur bra fungerar den exvis när det snöar blötsnö som täcker radar och kameror=inte alls. Dvs datorn får ingen info. Själv ser mina ögon fortsatt rätt ok och jag kan via mina syn och andra sinnesorgan fortfarande bedöma situationen och köra bilen.
Det kvittar alltså hur "smart" bilens dator är om inte sensorerna fungerar till 100% hela tiden. Sedan blir väl inte en dator "smartare" än vad teknikerna programmerat in i den.

Vi skall inte glömma att vår hjärna gör massor av bedömningar som vi kanske inte är direkt medvetna om själva, men som som bidrar till hur vi agerar i en trafiksituation. Det är väl därför som det troligen kommer att dröja länge innan vi lyckas få datorer och sensorer att fungera bättre än vårt eget hjärn-sensor-konsekvenstänkande system. Kanske kommer detta aldrig att gå att överträffa.

I det aktuella fallet får vi ju avvakta utredningen då det troligen finns mycket info från bilens dator och kameror,radar mm.

Vissa olyckor går ju tyvärr inte att undvika som när exvis någon gör något helt oväntat exvis går rakt ut framför en bil som kör i normal hastighet. Även om du kör i 30km/h och någon går rakt ut framför dig när du är 1m ifrån lär ju inget kunna undvika en kollision.

[Verdi]

Nej, Collin har ju såklart rätt på sätt och vis. Tycker dock han har en väldigt trist och dömande ton bara.

[kallekula]

Det finns bevis på att Googles bil dags läget klarar sig mycket sämre än människan i trafik.

Att dela med dig av de bevisen var inte aktuellt?

[jonsalgerier]

Som jag skrev, så tror jag på kombinationen säkerhetssystem som autopilot + mänsklig hantering, jag är bara väldigt skeptisk till helt självkörande system som klarar alla tänkbara scenario i trafiken.
Det är för komplicerat helt enkelt. System där datorerna gör vad de är bra på och människan gör vad vi är bra på tror jag mer på.
Människan är dålig på uppmärksamhet, lätt avledbar och långsam, men kan förutse problematiska situationer t.ex. datorerna funkar lite tvärt om.
På sikt när trafik/vägar / fordon anpassats till autonom körning är det en annan femma. Men i närtid i vanlig trafik ? Aldrig!

Jag håller med om detta. sedan tycker jag att utskällde Robert Collin ändå har en poäng med följande:

"Men vilken idiot som helst borde begripa att framtiden är långt bort. Hur ska den teknik se ur som kan förutse alla miljontals olycksrisker i trafiken?
Jämför med flyget. Autopiloten med dubbla datasystem som arbetar oberoende av varandra kör planet till rätt destination. I en korridor där inga möten förekommer. Inga vänstersvängar. Inga flygplan som stannat för att piloten behövde kissa. Ingen som leder sin cykel framför planet. Ändå sitter det två piloter och övervakar flygningen."

Jag är absolut inte teknikfientlig men inser ju själv hur svårt det troligen är att få en dator att fungera "bättre" än vår egen hjärna, våra sinnen samt vår förmåga förutse och dra slutsatser i en viss trafiksituation.

Jag har en MX med AP2. Hur bra fungerar den exvis när det snöar blötsnö som täcker radar och kameror=inte alls. Dvs datorn får ingen info. Själv ser mina ögon fortsatt rätt ok och jag kan via mina syn och andra sinnesorgan fortfarande bedöma situationen och köra bilen.
Det kvittar alltså hur "smart" bilens dator är om inte sensorerna fungerar till 100% hela tiden. Sedan blir väl inte en dator "smartare" än vad teknikerna programmerat in i den.

Vi skall inte glömma att vår hjärna gör massor av bedömningar som vi kanske inte är direkt medvetna om själva, men som som bidrar till hur vi agerar i en trafiksituation. Det är väl därför som det troligen kommer att dröja länge innan vi lyckas få datorer och sensorer att fungera bättre än vårt eget hjärn-sensor-konsekvenstänkande system. Kanske kommer detta aldrig att gå att överträffa.

I det aktuella fallet får vi ju avvakta utredningen då det troligen finns mycket info från bilens dator och kameror,radar mm.

Vissa olyckor går ju tyvärr inte att undvika som när exvis någon gör något helt oväntat exvis går rakt ut framför en bil som kör i normal hastighet. Även om du kör i 30km/h och någon går rakt ut framför dig när du är 1m ifrån lär ju inget kunna undvika en kollision.

Det är absolut sant, men man kan också se det från synvinkeln att en dator kanske inte behöver kolla mobilen, blir distraherad av en reklamskylt, tar ett glas för mycket i baren, blir provocerad av att bilen bredvid körde om på fel sätt och skall lära denne en läxa, blir trött, kör över heldragen linje för att spara tid osv... Så någonstans borde vi kunna nå en punkt där summan av mänskliga misstag är större än de misstag som datorn kan tänkas göra under samma sträcka och då är det ju ändå intressant trots att datorn inte kunnat uppnå total felfrihet.