Vem ska självkörande bilar skydda i en olycka?

[LarsL]

Självkörande bilar kommer dessutom ha betydligt bättre disciplin när det gäller att hålla rätt hastighet. Den kommer därför aldrig sätta sig i ett sånt här läge.

Det luriga med självkörande bilar är att de kommer göra fel som vi inte förstår att de kan göra, tex kör in i bergväggar eller ut över stup, helt enkelt för att de missförtått situationen. Det kommer fortsätta att vara det läskiga med dessa fordon under mång år framåt trots att 100-tusentals liv har räddats av dem.

[mati]

Den där "Moral Machine" borde uppdateras. Sist jag kollade var alla människor lika mycket värda. Möjligt att den borde prioritera barn över pensionärer men i övrigt nej. Hundar? Nä du.

För övrigt har vi nyss haft den här diskussionen. Den är ju mestadels teoretisk. Har svårt att tänka mig att någon förare, mänsklig eller ej, ställs inför sådana dilemman i verkligheten.

Och där har vi redan ett problem. Själv skulle jag förmodligen instinktivt försöka rädda hunden först. Min prioritering ser alltså annorlunda ut än din. Det är bra sä länge man får bestämma själv. Men om det är min bil som bestämmer, och jag samtidigt inte har möjlighet att overrida detta beslut, så blir det någon form av påtvingad moral. Det kanske finns autonoma bilar som tänker som jag själv? Då ska jag naturligtvis köpa den bilen. Det kanske finns extremist-bilar som prioriterar vita personer. En sån vill man ju inte ha såklart. Men hur vet man vilken prioriterinsordning bilen har inprogrammerad? Utvecklaren kanske är rassist? Ai:n har kanske utvecklats på ett ställe i världen som har helt andra moralbegrepp än vad vi har?
Det blir väldigt knepigt.

[kler]

I omöjliga situationer kanske slump skulle vara det mest rättvisa.

[mati]

I omöjliga situationer kanske slump skulle vara det mest rättvisa.

Exakt

[12man]

Bara man inte köpt en VW så

[Alfred]

Jag är lite trött på missförståndet som sprids att någon måste välja vad bilen ska göra i situationer som dessa. Folk har fått för sig att man programmerar självkörande bilar med if/else-satser och att bilarna, till skillnad från oss, skulle kunna göra anspråk på att ha momentan fullständig information om hindrens ålder, sjukdomsstatus och övrig familjesituation.

I själva verket är ju det en fullständigt hypotetisk situation som bara är formulerad för att kunna göra klassiska experiment med vår mänskliga moraliska intuition i en något ny setting. Moral machine handlar i mina ögon mycket mer om att undersöka vår mänskliga moraliska kompass än om att konkret utforma hur en bil faktiskt ska bete sig på riktigt.

Bilarna programmeras ju inte explicit för varje situation. Istället tränar vi de självkörande bilarnas neurala nät med träningsdata och facit i form av hur bilen ska tolka omvärlden och köra för att undvika hinder. Bilen kommer alltså så långt det är möjligt att undvika hinder, och när det inte går kommer den att träffa det som råkade stå vägen i den färdväg där det in i det sista fanns störst chans att undvika kollision helt. Det är väl det utfall som någon ovan beskriver som "slumpen", är mest likt hur en mänsklig förare skulle hantera samma situation och därmed också är mest rimligt att låta bilarna ta. Det innebär också att man helt undviker hela det teoretiska etisk-moraliska dilemma som förståsigpåare just nu lurar i journalister är något tillverkarna måste ta ställning till.

Svaret till moraltestet blir alltså: "Jag väljer den riktningen där det verkar finnas störst chans att kollision ändå kan undvikas helt, och om det misslyckas skadas de människorna som råkade finnas där."

Det är i mina ögon helt orimligt att en konstruktör skulle välja att ta fram träningsdata för att börja träna bilarna att välja offer/hinder aktivt. Det är absolut inget som tillverkarna måste göra, och de borde till varje pris sky det som pesten just på grund av det juridiska och moraliska ansvaret de i så fall skulle utsätta sig för.

[Mickep]

Är väl mera vem som skall ta konsekvensen av en olycka (vilket i sig är en oönskad händelse). skall ägaren ta på sig ansvaret när någon blir påkörd, eller är det tillverkaren, eller specifikt den del eller person som är ansvarig för gällande funktion. det inte omöjligt att tänka sig att att buggar upptäkts för sent och att de skadat inlärningen, vilket bara kommer fram vid en olycka.Vem bär ansvaret för sådant som ägaren inte bör kunna ha någon kännedom om.
Visst den enklaste är att stoppa huvudet i sanden och låtsas som ingenting, men det känns som advokater börjar gnugga händerna.

[Verdi]

Är väl mera vem som skall ta konsekvensen av en olycka (vilket i sig är en oönskad händelse). skall ägaren ta på sig ansvaret när någon blir påkörd, eller är det tillverkaren, eller specifikt den del eller person som är ansvarig för gällande funktion. det inte omöjligt att tänka sig att att buggar upptäkts för sent och att de skadat inlärningen, vilket bara kommer fram vid en olycka.Vem bär ansvaret för sådant som ägaren inte bör kunna ha någon kännedom om.
Visst den enklaste är att stoppa huvudet i sanden och låtsas som ingenting, men det känns som advokater börjar gnugga händerna.

Det blir ju biltillverkaren som är ansvarig för eventuella olyckor om de hävdar att bilen är helt autonom. Ett av många stora hinder. Är ju en gigantisk risk för en biltillverkare. En bugg i programvaran som orsakar ett hundratal krockar worldwide skulle sänka vilket företag som helst.

[mati]

En bugg i programvaran som orsakar ett hundratal krockar worldwide skulle sänka vilket företag som helst.

Det finns en billig lösning för detta:

[Svenssons]

Situationen som visas på första post i denna tråd utgår ju ifrån att bilen har så pass hög fart att den inte kan stanna vid övergångsstället. Det är möjligt att mänskliga förare bryter mot hastighetsbegränsningarna och inte har uppsikt att det kommer ett övergångsställe vilket resulterar i att folk kommer att köras över men denna situation skall aldrig få uppstå i en autonom bil. Att då fokusera på vad för kön, ålder eller antal personer som körs över istället för att följa trafikreglerna är ju helt utan propotion. Följer bilen trafikreglerna så kommer den att kunna stanna i tid. Har den inte tid att stanna i tid lär den inte hinna kolla upp personlig information om alla levenade varelser, göra en moralisk beräkning vad som är bäst, försöka göra en undanmanöver osv. Har vi detta krav på den mänskliga föraren och är detta viktigare än att föraren följer trafikreglerna?

[Mickep]

Nu har de gjort undersökningar vilka vi helst vill "offra"

■ Barnvagn

■ Flicka

■ Pojke

■ Gravid kvinna

■ Manlig läkare

■ Kvinnlig läkare

■ Kvinnlig idrottare

■ Kvinnlig chef

■ Manlig idrottare

■ Manlig chef

■ Tjock kvinna

■ Tjock man

■ Hemlös

■ Gammal man

■ Gammal kvinna

■ Hund, kriminell

■ Katt.

Sååå... hund (kriminell) och sist katt är de som vi helst kör över.

https://www.dn.se/kultur-noje/linus-lar ... far-valja/

[Geni87]

Nu har de gjort undersökningar vilka vi helst vill "offra"

■ Barnvagn

■ Flicka

■ Pojke

■ Gravid kvinna

■ Manlig läkare

■ Kvinnlig läkare

■ Kvinnlig idrottare

■ Kvinnlig chef

■ Manlig idrottare

■ Manlig chef

■ Tjock kvinna

■ Tjock man

■ Hemlös

■ Gammal man

■ Gammal kvinna

■ Hund, kriminell

■ Katt.

Sååå... hund (kriminell) och sist katt är de som vi helst kör över.

https://www.dn.se/kultur-noje/linus-lar ... far-valja/

Oerhört korkad undersökning.

[bylund]

Att folk hellre vill döda oskyldiga katter än kriminella hundar övergår mitt förstånd.

[bonath]

Att folk hellre vill döda oskyldiga katter än kriminella hundar övergår mitt förstånd.

Hahahaha...

[kler]

Barnvagnar är ju inte så farliga att köra över, det är ju bara materiella ting.

[gellerstam]

Barnvagnar är ju inte så farliga att köra över, det är ju bara materiella ting.

Här misstar du sannolikt dig. Majoriteten i undersökningen tänker troligen enligt följande resonemang: Människor och djur är mjuka och ger bucklor som är lättare att fixa än bucklor från hårda föremål så som barnvagnar. Då barnvagnar även lätt repar lacken så krävs det oftast även omlackering efter närkontakt med barnvagn, vilket i många fall kan undvikas efter närkontakt med mjuka objekt.

[Svenssons]

Märks ju av denna undersökning att de flesta antagligen kommer bli säkrare när datorer tar över körningen. Människor i allmänhet verkar ju vara sexistiska, rasistiska och åldersdiskriminerande plus kanske även egoistiska. Människor verkar lägga mer tid på att fundera på vem och hur som skall köras över istället för som självkörande bilar försöka undvika olycka genom att köra lagligt och sänka farten så gott det går när olyckan är ett faktum.

[Jeppe_E]

Jag tycker inte bilen skall skydda någon. Alla ska dö, lika för alla! Kön, etnicitet, ålder, handikapp, klädsel, inkomst. Vi vill ju inte riskera att någon blir kränkt!

[OfarligTesla]

Märks ju av denna undersökning att de flesta antagligen kommer bli säkrare när datorer tar över körningen. Människor i allmänhet verkar ju vara sexistiska, rasistiska och åldersdiskriminerande plus kanske även egoistiska. Människor verkar lägga mer tid på att fundera på vem och hur som skall köras över istället för som självkörande bilar försöka undvika olycka genom att köra lagligt och sänka farten så gott det går när olyckan är ett faktum.

Det roligaste är ju att folk tror att de kan sitta och tänka efter vem de själva skulle köra över. I verkligheten skulle 99% av befolkningen inte ens kunna reagera optimalt för att försöka undvika olyckan utan skulle mest få panik och ratta/trycka på något och hoppas på det bästa. Sen är det ju så att olyckor förebyggs bäst genom att minimera risken från början, dvs eliminera trötta, bakfulla, stressade, arga, distraherade förare (med flera) så en datorstyrd bil kommer inte ens hamna i många av situationerna vi människor hamnar i.

[Mickep]

Tror det stod i texten att förlaget är att bilen INTE skall ta hänsyn till ålder, brottsbelastning

"Ministern fick sina moralregler, formulerade i 20 punkter. Människor ska alltid skyddas framför egendom och framför husdjur. System ska byggas för ökad säkerhet. Och så ett förbud: När en olycka inte kan avstyras får ingen hänsyn tas till personers egenskaper, som ålder eller kön. Det är ”strikt förbjudet”, skriver kommittén bakom de föreslagna reglerna."

[Jeppe_E]

Märks ju av denna undersökning att de flesta antagligen kommer bli säkrare när datorer tar över körningen. Människor i allmänhet verkar ju vara sexistiska, rasistiska och åldersdiskriminerande plus kanske även egoistiska. Människor verkar lägga mer tid på att fundera på vem och hur som skall köras över istället för som självkörande bilar försöka undvika olycka genom att köra lagligt och sänka farten så gott det går när olyckan är ett faktum.

Det roligaste är ju att folk tror att de kan sitta och tänka efter vem de själva skulle köra över. I verkligheten skulle 99% av befolkningen inte ens kunna reagera optimalt för att försöka undvika olyckan utan skulle mest få panik och ratta/trycka på något och hoppas på det bästa. Sen är det ju så att olyckor förebyggs bäst genom att minimera risken från början, dvs eliminera trötta, bakfulla, stressade, arga, distraherade förare (med flera) så en datorstyrd bil kommer inte ens hamna i många av situationerna vi människor hamnar i.

Nä, men däremot kan den hamna i situationer som vi människor aldrig hamnar i

Man får inte glömma att vi pratar ettor och nollor. Inte AI, inte än ivf. Det är ju därför som navigation på AP inte fungerar som människorna som kör bilen.

[bylund]

Barnvagnar är ju inte så farliga att köra över, det är ju bara materiella ting.

Här misstar du sannolikt dig. Majoriteten i undersökningen tänker troligen enligt följande resonemang: Människor och djur är mjuka och ger bucklor som är lättare att fixa än bucklor från hårda föremål så som barnvagnar. Då barnvagnar även lätt repar lacken så krävs det oftast även omlackering efter närkontakt med barnvagn, vilket i många fall kan undvikas efter närkontakt med mjuka objekt.

Ah, förklarar även katt vs kriminell hund, såvida det inte rör sig om tjuvaktiga chihuahuor.

[gellerstam]

Barnvagnar är ju inte så farliga att köra över, det är ju bara materiella ting.

Här misstar du sannolikt dig. Majoriteten i undersökningen tänker troligen enligt följande resonemang: Människor och djur är mjuka och ger bucklor som är lättare att fixa än bucklor från hårda föremål så som barnvagnar. Då barnvagnar även lätt repar lacken så krävs det oftast även omlackering efter närkontakt med barnvagn, vilket i många fall kan undvikas efter närkontakt med mjuka objekt.

Ah, förklarar även katt vs kriminell hund, såvida det inte rör sig om tjuvaktiga chihuahuor.

Yepp, och gravida kvinnor är som regel större än läkare. Pojkar och flickor bär runt på stenar och pinnar. Ajajaj