Autonoma bilar - etiska dilemma

[Oddball]

Jag tror att man skall vara lite försiktig med övertro till att autonoma bilar löser alla trafiksituationer (och då ffa krissituationer) bättre än människor.

Jag upplever inte att diskussionen här handlar om att autonoma bilar alltid kommer köra bättre än människor, utan att att dessa "etiska dilemman" som ständigt lyfts fram som en utmaning för autonoma fordon egentligen inte existerar annat än på ett väldigt teoretiskt plan.
De första generationernas autonoma fordon kommer säkerligen köra alltför defensivt och ofta lämna över till mänskliga förare som via länk manuellt får hantera ganska enkla hinder i vägen (se Nissans lösning för detta; SAM). Dock kanske det inte gör så mycket om bilen kommer fram till destinationen 10 minuter senare än vad en mänsklig förare skulle gjort, när hela resan istället blir till tid då man kan sitta och chatta på teslaforum, jobba eller se på film.

Jag tycker att jag har lyft fram några exempel av enklare karaktär som inte är alltför osannolika i verkligheten. Redan här upplever jag att responsen ofta blir "men det kommer aldrig att inträffa när bilarna är autonoma". Detta tror jag är att förenkla problemställningen för det kommer att uppstå incidenter även med autonoma bilar och då är det ju trevligt ifall de inte är egoistiska mördarmaskiner utan även har krav på sig att beakta säkerheten för sin omgivning då beslut tas.

Om inte bilen har några som helst direktiv hur den skall bete sig i samband med utfallsanalysen, hur skall den då lära sig hantera krissituationer? Underlaget för att lära bilen hur olika typer av olyckor bäst hanteras kanske inte är lika lätt att få fram på samma sätt som vid normal körning? Om det var lätt att lära autonoma system att hantera krissituationer så borde ju t.ex flygindustrin knappt behöva piloter.

Hade autopiloten hanterat Gottröra-landningen eller landningen på Hudson River bättre än piloterna?
Hade det varit kul om dessa plan hade gått på autopilot i "save my own ass" mode och automatiskt identifierade lämplig plats att landa i form av närmaste väg? Att vägen sen råkar var kraftigt trafikerad är förluster man får räkna med...

Skulle nog hellre lämna beslutet till en erfaren pilot att avgöra ifall det finns en chans att göra en lyckad nödlandning eller ta det etiskt korrekta beslutet att ditcha kärran där den gör minsta möjliga skada på marken. SÅVIDA inte även autopiloten hade etiska riktlinjer att följa i grova drag

[Svenssons]

Jag kan inte hitta en endaste post i denna tråd och jag har inte sett någon annan post i något annat forum som säger att autonom bil alltid kommer undvika olyckor eller alltid hantera bättre än samtliga mänskliga förare. Jag tror inte det finns någon som tror på detta. Det många tror på dock är att autonoma bilar kan leda till färre olyckor. Detta betyder inte att en olycka där autonom bil är inblandad är oundviklig. En mänsklig förare hade kanske i vissa fall kunnat hantera situationen bättre men målet är ju att få ner totala antalet olyckor. Medelhastigheten kommer högst sannolikt sänkas mot mänskliga förare (en autonom bil skall i princip aldrig köra för fort).

[Fandorin]

Om autonoma bilar kör bättre än människor kommer sjukhusen få svårt att hitta organdonatorer i framtiden.
Ett annat dilemma kanske.

[Svenssons]

Om autonoma bilar kör bättre än människor kommer sjukhusen få svårt att hitta organdonatorer i framtiden.
Ett annat dilemma kanske.

Kanske även färre som behöver nya organ...

[PoloPrinsen]

När de autonoma bila...fordonen är i klar majoritet så kanske vi kan förutse att de kommer kommunicera med varandra inbördes så att alla bilar inom tex 1000 meters radie vet status på alla andra inom det området.. i dagens trefiliga vajjervägar skulle vajjern då kunna tas bort och mittenfilen vid behov rensas tom på alla bilar som ej har nått fel/nödläge inom aktuell area. Bilen som just hamnat i berömda (iaf i denna tråd) barnvagn, passagerare eller mormorsoffringen kan då ha en extra fil att köra in i, trots att den kanske så lite som 1200 meter längre fram har bilar som färdas i motsatt riktning (och just byter fil för fullt för att hålla mittenfilen tom).
ambulanser etc skulle med kunna åka i en egen filbubbla. typ.

när alla fordon kommunicerar med varandra så vet alla grannfordon om att olycka just nu strax kan komma att ske. alla bilar kan då minska farten självmant. i mån an avsaknad av hinder (räcken etc) kan de bilda en fjärde fil på en trefilig väg.

Mycket kan hittas på om man är kreativ. Personbilar med sjukvårdsutbildade/utövande personer (men lediga från jobbet just nu) kan vid olycka i närheten ges en ny vipfil och får i sin bil info om olyckan via stereon.
obemannade miniambulanser kan finnas rullandes på vägarna så att utrustning kan skickas fram till platsen fort.
Mvh PP

[Oddball]

Om autonoma bilar kör bättre än människor kommer sjukhusen få svårt att hitta organdonatorer i framtiden.
Ett annat dilemma kanske.

Kanske även färre som behöver nya organ...

Inga problem!
Skolklassen som just plöjdes ner av HerrX:s X (vilken panikväjde för en bortsprungen hamster) när dom väntade på bussen vid 90-vägen kan ju byta organ med varandra

[Torkel]

Om autonoma bilar kör bättre än människor kommer sjukhusen få svårt att hitta organdonatorer i framtiden.
Ett annat dilemma kanske.

Inget problem så länge folk fortsätter köra motorcykel.

[LarsL]

Om autonoma bilar kör bättre än människor kommer sjukhusen få svårt att hitta organdonatorer i framtiden.
Ett annat dilemma kanske.

Inget problem så länge folk fortsätter köra motorcykel.

Varför skattesubventioneras inte MC egentligen? Ah, det kostar pengar att ta hand om de skadade också.

[Torkel]

https://www.theguardian.com/technology/ ... l-dilemmas

“The main thing to keep in mind is that we have yet to encounter one of these problems,” he said. “In all of our journeys, we have never been in a situation where you have to pick between the baby stroller or the grandmother. Even if we did see a scenario like that, usually that would mean you made a mistake a couple of seconds earlier. And so as a moral software engineer coming into work in the office, if I want to save lives, my goal is to prevent us from getting in that situation, because that implies that we screwed up.

Ja, det är väl klart. Men att det är en rätt märklig attityd att tro att man inte behöver hantera dessa situationer bara för att man inte vill att de ska uppkomma.

Märklig eller inte, det är så människor alltid har gjort det. Se bara på rökare.

Skämt åsido, om autonoma fordon hanterar >99,999% av trafikens situationer bra så är det ett tillräckligt bra jobb.

Dessutom; finner du dig i en situation där alla beslut slutar med att någon dör så finns i inget rätt sätt att agera. Det finns många intressanta sätt att resonera kring dessa scenario, men inget kan vara objektivt rätt.

[bylund]

Om autonoma bilar kör bättre än människor kommer sjukhusen få svårt att hitta organdonatorer i framtiden.
Ett annat dilemma kanske.

Inget problem så länge folk fortsätter köra motorcykel.

Varför skattesubventioneras inte MC egentligen? Ah, det kostar pengar att ta hand om de skadade också.

Colorado i USA kräver inte hjälm på motorcykel då det är billigare att ta hand om döda än skadade. Man får som skylla sig själv om man väljer bort hjälm.

[LarsL]

Om autonoma bilar kör bättre än människor kommer sjukhusen få svårt att hitta organdonatorer i framtiden.
Ett annat dilemma kanske.

Inget problem så länge folk fortsätter köra motorcykel.

Varför skattesubventioneras inte MC egentligen? Ah, det kostar pengar att ta hand om de skadade också.

Colorado i USA kräver inte hjälm på motorcykel då det är billigare att ta hand om döda än skadade. Man får som skylla sig själv om man väljer bort hjälm.

Det kanske är en lösning...

[Oddball]

Det lär ju vara oundvikligt att det kommer att inträffa allvarliga olyckor som drabbar 3:e part även med autonoma bilar.

Den första stora olyckan (som då inte längre är en teoretisk skrivbordsprodukt) kommer troligtvis få en mediabevakning som heter duga.
Kommer man då att kunna lugna allmänhetens reaktioner genom att säga att bilen följde trafikreglerna och prioriterar att skydda sina passagerare? Eller krävs det mer för att få en allmän acceptans för att den autonoma bilen har gjort så gott den kunde i en krissituation?

Skulle generella etiska riklinjer kunna ligga till grund för att lösa de flesta svåra besluten i en olycksituation, t.ex:

1) Får bilen göra enklare överträdelser mot trafikregler (köra över heldragen linje, köra mot rött) för att minimera risk/skada?

2) Får bilen utföra grova trafikbrott för att minimera risk/skada (t.ex preja en annan bil i diket) för att själv undkomma skada?

3) Skall bilen om möjligt ta en utväg där den offrar sig själv framför att skada 3:e part? (t.ex dra ut på ett fält vid sidan av vägen)

4) Om alla potentiella utvägar leder till personskador, skall bilen välja den utväg som påverkar minst antal personer (även om konsekvenserna för passagerarna blir katastrofala)?

[LarsL]

Men i grunden har vi samma problem redan nu att tekniska prylar gör fel. Vad händer när bromsar inte fungerar? Vad händer när däck går sönder? Vad händer när hjulupphängningen havererar? Vad händer när autobromsen missar en stor lastbil? Jo, man analyserar vad som hänt och om tillverkaren har gjort tillräckligt för att undvika felet. För maskiner kallas detta arbete för maskindirektivet och CE-märkning. I det arbetet ska man kunna visa att man har vidtagit de åtgärder som behövs för att en produkt ska vara säker. Ingen kollar detta innan utan det är först när något inträffar som allt detta ska finnas och kunna visas upp. Samma kommer förmodligen gälla för autonomi, tillverkaren ska kunna visa att de vid de för den uppkomna situationen har vidtagit tillräckliga åtgärder.

Det är tex fullt möjligt att hålla lämplig hastighet och korrekt avstånd till andra trafikanter. Vilket fixar de flesta situationer. Men det är betydligt svårare att upptäcka en älg som hoppar ut på vägen eller kanske en lastbil som helt plötsligt kör mot rött. De senare kan inte biltillverkarna göra så mycket åt och det går knappast att lasta dem för dessa olyckor.

[Oddball]

Men i grunden har vi samma problem redan nu att tekniska prylar gör fel. Vad händer när bromsar inte fungerar? Vad händer när däck går sönder? Vad händer när hjulupphängningen havererar? Vad händer när autobromsen missar en stor lastbil? Jo, man analyserar vad som hänt och om tillverkaren har gjort tillräckligt för att undvika felet. För maskiner kallas detta arbete för maskindirektivet och CE-märkning. I det arbetet ska man kunna visa att man har vidtagit de åtgärder som behövs för att en produkt ska vara säker. Ingen kollar detta innan utan det är först när något inträffar som allt detta ska finnas och kunna visas upp. Samma kommer förmodligen gälla för autonomi, tillverkaren ska kunna visa att de vid de för den uppkomna situationen har vidtagit tillräckliga åtgärder.

Det är tex fullt möjligt att hålla lämplig hastighet och korrekt avstånd till andra trafikanter. Vilket fixar de flesta situationer. Men det är betydligt svårare att upptäcka en älg som hoppar ut på vägen eller kanske en lastbil som helt plötsligt kör mot rött. De senare kan inte biltillverkarna göra så mycket åt och det går knappast att lasta dem för dessa olyckor.

Ja, att tekniska fel kan uppstå på det egna fordonet lär vi aldrig komma ifrån. Men det är väl inte riktigt samma sak som att bilen skall reagera på ett accepterbart sätt vid oväntade situationer (som i sin tur kan uppstå pga tekniska fel på omgivande fordon)

De autonoma bilarna kommer att ha en sensorsvit som kommer tillhandahålla mycket mer samtidigt beslutsunderlag än vad en människa klarar av att samla in och analysera. Därav kanske man kan ställa höga krav på risk/utfallsanalys?

I fallet med älgen så hade en människa åtminstone gjort ett försök att väja. Kan man inte kräva att bilen skall göra det och på bästa möjliga sätt?

Om bilen t.ex är helt tom så kanske den inte ens skall försöka väja för älgen ifall det ger minst risk för övriga trafikanter. En tom bil bör kanske generellt sett vara inställd på att offra sig själv till förmån för sina medtrafikanter.