EDIT 2018-03-22: Polisen har släppt bilder från olyckan, texten har uppdaterats baserat på de nya uppgifterna.
I måndags kväll körde en självkörande bil på en kvinna i Tempe, Phoenix, Arizona. Bilen var en av testbilarna från Ubers självkörande flotta, en Volvo XC90 utrustad med Ubers utrustning för självkörande bilar. Kvinnan kördes med ambulans till sjukhus där hon förklarades död.
Bilen var självkörande vid olyckstillfället, med en förare bakom ratten som enbart skulle övervaka resan. Omedelbart började spekulationer om att olyckan skulle orsakats av dålig programvara, att självkörande bilen skulle ha orsakat olyckan.
Tampas polischef Sylvia Moir har dock sagt att en mänsklig förare skulle inte heller kunnat undvika olyckan.
Ubers självkörande bil körde norrut på North Mill Avenue när kvinnan ledde sin cykel gående in på vägen från vänster. Cykeln var full med påsar, kvinnan tros ha varit hemlös. Bilens förare uppgav att allt skedde blixtsnabbt, plötsligt var kvinnan framför bilen. Det första hon märkte av olyckan var ljudet från när bilen körde i kvinnans cykel.
Lokaltidningen anger att bilen körde 61 km/h (38 mph) på en 56 km/h (35 mph) gata, men tittar man på Google maps är hastighetsbegränsningen faktiskt 72 km/h (45 mph) på den aktuella platsen. På bron över Salt River är det 35 mph hastighetsbegränsning men 100 meter innan olycksplatsen ökas max tillåten hastighet till 45 mph. Självkörande bilen körde alltså inte för fort.
Bilen körde på natten så både polisen och media började prata om den dåliga belysningen området har. Men Ubers självkörande bilar är utrustade med lidar, en roterande laser som skannar av omgivningarna, så belysningsförhållandena spelar faktiskt mindre roll för dem än för mänskliga förare. Lasern ser lika bra på dag som natt. Så varför såg bilen inte kvinnan som försökte korsa vägen?
Det är en svår fråga som Ubers tekniker får förklara. Det har ofta framhållits att självkörande bilar med lidar kommer klara mörker bättre än system baserade på enbart kameror för att lidar ser lika bra natt som dag. I det här fallet verkar dock lidarn uppenbart missat ett stort hinder på väg rätt mot bilen. Även om vissa har spekulerat i att påsarna på cykeln skulle försvårat för neurala nätverket att identifiera objektet som “cykel” så hamnar ändå oidentifierade objekt i kategorin “övrigt” som inte heller ska köras på. Det verkar som att även Ubers självkörande teknologi förlitar sig mest på kameror. Var lidarn ens i gång, och i så fall: vad såg den?
Nu har bilder släppts som i alla fall visar vad bilens kamera såg:
Kvinnan stiger in i bilens strålkastarsken i sista sekunden. Olyckan är oundviklig. En mänsklig förare kunde inte heller ha undvikit att köra på kvinnan.
En självkörande bil utrustad med enbart kameror, som Teslas kommande system skulle heller inte ha lyckats bättre. Radarn som tittar rakt fram kunde eventuellt ha upptäckt cykeln – men även det alldeles för sent, när cykeln redan är framför bilen.
Men en självkörande bil med lidar skulle kunnat undvika olyckan. Men något fallerade så den gjorde inte det.
Därmed uppstår ett stort moraliskt dilemma:
Ska vi vara nöjda att självkörande bilen gjorde lika dåligt ifrån sig som en människa skulle gjort? Det vill säga konstatera att en människa skulle inte heller kunnat undvika olyckan, alltså är programvaran “inte skyldig”?
Eller ska vi koncentrera oss på att självkörande bilen i just den här situationen kunde ha utnyttjat sina övermänskliga förmågor bättre? Det vill säga konstatera att självkörande bilen kunde ha undvikit olyckan ingen människa skulle kunnat, alltså är programvaran “skyldig”?
