Olyckan i Tempe

Crashpoint3

EDIT 2018-03-22: Polisen har släppt bilder från olyckan, texten har uppdaterats baserat på de nya uppgifterna.

I måndags kväll körde en självkörande bil på en kvinna i Tempe, Phoenix, Arizona. Bilen var en av testbilarna från Ubers självkörande flotta, en Volvo XC90 utrustad med Ubers utrustning för självkörande bilar. Kvinnan kördes med ambulans till sjukhus där hon förklarades död.

Bilen var självkörande vid olyckstillfället, med en förare bakom ratten som enbart skulle övervaka resan. Omedelbart började spekulationer om att olyckan skulle orsakats av dålig programvara, att självkörande bilen skulle ha orsakat olyckan.

Tampas polischef Sylvia Moir har dock sagt att en mänsklig förare skulle inte heller kunnat undvika olyckan.

Ubers självkörande bil körde norrut på North Mill Avenue när kvinnan ledde sin cykel gående in på vägen från vänster. Cykeln var full med påsar, kvinnan tros ha varit hemlös. Bilens förare uppgav att allt skedde blixtsnabbt, plötsligt var kvinnan framför bilen. Det första hon märkte av olyckan var ljudet från när bilen körde i kvinnans cykel.

Lokaltidningen anger att bilen körde 61 km/h (38 mph) på en 56 km/h (35 mph) gata, men tittar man på Google maps är hastighetsbegränsningen faktiskt 72 km/h (45 mph) på den aktuella platsen. På bron över Salt River är det 35 mph hastighetsbegränsning men 100 meter innan olycksplatsen ökas max tillåten hastighet till 45 mph. Självkörande bilen körde alltså inte för fort.

Bilen körde på natten så både polisen och media började prata om den dåliga belysningen området har. Men Ubers självkörande bilar är utrustade med lidar, en roterande laser som skannar av omgivningarna, så belysningsförhållandena spelar faktiskt mindre roll för dem än för mänskliga förare. Lasern ser lika bra på dag som natt. Så varför såg bilen inte kvinnan som försökte korsa vägen?

Det är en svår fråga som Ubers tekniker får förklara. Det har ofta framhållits att självkörande bilar med lidar kommer klara mörker bättre än system baserade på enbart kameror för att lidar ser lika bra natt som dag. I det här fallet verkar dock lidarn uppenbart missat ett stort hinder på väg rätt mot bilen. Även om vissa har spekulerat i att påsarna på cykeln skulle försvårat för neurala nätverket att identifiera objektet som ”cykel” så hamnar ändå oidentifierade objekt i kategorin ”övrigt” som inte heller ska köras på. Det verkar som att även Ubers självkörande teknologi förlitar sig mest på kameror. Var lidarn ens i gång, och i så fall: vad såg den?

Nu har bilder släppts som i alla fall visar vad bilens kamera såg:

Kvinnan stiger in i bilens strålkastarsken i sista sekunden. Olyckan är oundviklig. En mänsklig förare kunde inte heller ha undvikit att köra på kvinnan.

En självkörande bil utrustad med enbart kameror, som Teslas kommande system skulle heller inte ha lyckats bättre. Radarn som tittar rakt fram kunde eventuellt ha upptäckt cykeln – men även det alldeles för sent, när cykeln redan är framför bilen.

Men en självkörande bil med lidar skulle kunnat undvika olyckan. Men något fallerade så den gjorde inte det.

Därmed uppstår ett stort moraliskt dilemma:

Ska vi vara nöjda att självkörande bilen gjorde lika dåligt ifrån sig som en människa skulle gjort? Det vill säga konstatera att en människa skulle inte heller kunnat undvika olyckan, alltså är programvaran ”inte skyldig”?

Eller ska vi koncentrera oss på att självkörande bilen i just den här situationen kunde ha utnyttjat sina övermänskliga förmågor bättre? Det vill säga konstatera att självkörande bilen kunde ha undvikit olyckan ingen människa skulle kunnat, alltså är programvaran ”skyldig”?

Tagged , . Bookmark the permalink.
  • Mocke

    man får hoppas att de inför infrahd kameror i bilarna. (dessa är små och billiga och betydligt bättre än optiska och lidar) klarar även av motljus bättre. då skulle de nog upptäckt den hemlösa.(men i framtiden även rådjur och älgar)

    • Helene

      ”Ubers självkörande bilar är utrustade med lidar, en roterande laser som skannar av omgivningarna, så belysningsförhållandena spelar faktiskt mindre roll för dem än för mänskliga förare. Lasern ser lika bra på dag som natt.” Ur artikeln.

  • Claes

    Det där med polischefens uttalande verkar konstigt! Presskonferensen säger ju inte att olyckan ändå hade hänt med en mänsklig förare. Utredningen pågår ju fortfarande så varför skulle polischefen sagt så? Är det någon journalist som gjort en feltolkning av vad som sagts som vanligt?

    • http://teslaclubsweden.se Tibor Blomhäll

      Polischefer som gärna vill få sitt namn in på tidningar och uttalar sig mitt under utredningar har man sett flera gånger på film…

  • Olle Petersson

    Jag uppskattar avståndet från gräskanten ut till den streckade linjen som tre meter.
    Om kvinnan *gått* ut från buskarna har cykelns framdel varit synlig (inte dold av buskaget) i uppemot tre sekunder innan den kom in på vägbanan. En inbromsning bör ha påbörjats under den tiden (men verkar inte ha skett).

    • http://teslaclubsweden.se Tibor Blomhäll

      Det finns en B version där ifall Ubers bil skulle svänga till höger i nästa korsning skulle redan påbörjat filbytet till höger vid olycksplatsen. I så fall hamnar krysset närmare trottoarkanten.
      Det är svårt att avgöra absolut exakta positionen från videobilderna då olycksplatsen ”markeras” av kvinnans plastpåsar hon hade på cykeln, som spreds över ett två meter stort cirkelområde.

  • Top 12

    Jag kör mycket AP och kan säga att i Teslas fall så hade bilen inte reagerat i tid om någon utanför sidolinjen i mörkret plötsligt bara klev in framför bilen på så nära håll. Tror än mindre en människlig förare hunnit reagera om någon i mörkret bara kliver in framför bilen i det läget. Hur Uber / Volvo är programmerad har jag ingen aning om men den verkar vara programmerad likt en Tesla även om den har Lidar.

  • Daniel Sunesson

    Über använder inte samma hårdvara eller mjukvara för autonom körning som Volvo. De har ett helt egenutvecklat system utan stöd från Volvo.

  • Morgan Jakobsson

    I all tragedi kan man iallfall tycka det är bra att det kommer upp :
    1. Hur säker skall självkörande bilar vara? 10 eller 100 gånger bättre än männskostyrda? Man måste alltid fundera på risk/reward/cost.
    2. Äntligen kan dödsfallsfokus lite komma bort i från Florida Teslan som dödade Tesla-fanet. Den brukar annars dyka upp som enda exempel på hur kass mjukvara och ny teknik är i största allmänhet.
    Mjukvara görs av människor. Än så länge. Deep AI är en annan sak. Då tar maskinerna över,

  • Lars Löwgren

    Dashcam bilder från Uber Volvon gör att läget blir lite annorlunda. Den visar ett fallerande självkörande system och en totalt ouppmärksam förare.

    https://insideevs.com/raw-dashcam-footage-of-deadly-uber-volvo-xc90-phev-crash-released/

    • http://teslaclubsweden.se Tibor Blomhäll

      Ja det ändrar ju en del. Uppdaterat därför texten.

  • Kenneth Mattfolk

    Har inte Volvo bilar ett kollisionsdetekterande system som standard på XC90?
    Skulle inte detta träda in i detta fall och rädda situationen? Eller det kanske är satt ur funktion på dessa Über-bilar?

    • http://teslaclubsweden.se Tibor Blomhäll

      Jag har läst kollisionsdetektionen är satt ur system, dock från tredjehandskälla. Låter dumt egentligen, det är bra med ett oberoende backupsystem.

  • Limbster

    Hm, bilen färdas i cirka 17 meter i sekunden, Volvo XC90: Halvljus, längd: 101 m. Halvljus, bredd: 26 m. Enligt test i vibilägare. Att inte dashcam har mörkersyn som en vanlig människa är klart, så man luras att människan syns väldigt sent. Men detta ser ut att vara en relativt enkel situation att lösa för en människa med normal mörkersyn. Gott om tid till att upptäcka reagera och bromsa. Förutsatt att ljuset funkat som ovan angivet.