Vem ska självkörande bilar skydda i en olycka?

[unumlapis]

Läste en intressant artikel på The Economist hemsida gällande det vem ska självkörande bilar prioritera - bilens passagerare eller fotgängare och gör det någon skillnad på vad det är för fotgängare? Helt klart intressant resultat baserat på MIT's site, Moral Machine, där det samlats in en hel del resultat. T ex att hundar prioriteras framför kriminella men att dessa prioriteras högre än katter. Men om vi nu utgår ifrån att en autonom bil skulle prioritera annorlunda gentemot vad föraren vill - hur görs detta då med tanke på att kraven finns att autonoma bilar inte skulle få lov att ha någon ratt och därmed går det inte att agera. Med andra ord så måste man få bort fotgängare helt och hållet där autonom körning ska få fortgå eller som det oftast är idag ute på större vägar över en vis hastighet. Men det blir genast många scenarios och är det i grunden ett icke problem då vi under inga omständigheter ska ha 100% autonoma bilar för att det inte går att garantera optimal körscenario?

[Verdi]

Den där "Moral Machine" borde uppdateras. Sist jag kollade var alla människor lika mycket värda. Möjligt att den borde prioritera barn över pensionärer men i övrigt nej. Hundar? Nä du.

För övrigt har vi nyss haft den här diskussionen. Den är ju mestadels teoretisk. Har svårt att tänka mig att någon förare, mänsklig eller ej, ställs inför sådana dilemman i verkligheten.

[Mickep]

Alternativet är en suicide funktion som istället för ett dåligt moraliskt val (döda andra) kraschar bilen, och därmed skadar passagerarna (lindringt, eftersom de är så pass skyddade)

[unumlapis]

Den där "Moral Machine" borde uppdateras. Sist jag kollade var alla människor lika mycket värda. Möjligt att den borde prioritera barn över pensionärer men i övrigt nej. Hundar? Nä du.

För övrigt har vi nyss haft den här diskussionen. Den är ju mestadels teoretisk. Har svårt att tänka mig att någon förare, mänsklig eller ej, ställs inför sådana dilemman i verkligheten.

Har missat den tråden men ser att i Artikel i Media finns en släng av diskussionen men tyvärr så försvinner det mesta i den. Hade varit bättre om vi haft en kategori för Artiklar i Media istället för en tråkig lång tråd, men det är en annan diskussion.

Men jag är enig med det du säger att i de flesta fallen så är de situationer som Moral Machine påvisar verkligen far out och jag hade kanske valt att köra in i en vägg för att undvika fotgängare och hoppas på att bilen skyddar mig så pass. Men det är som du säger inte det scenariot saknas i Moral Machine.

[Mickep]

Sedan har vi det moraliska åt andra hållet.
Tänk om man utsätts för en singelolycka. men det gör att man kommer bli så handikappad att ens liv kommer vara ruttet värt.
Skall då moral machine tar det i beaktan och kanske avliva passageraren?
Visst det är absurda situationer som inte går att säga är rätt eller fel hur länge man än funderar över dem. men faktum är att just de situationer KOMMER att uppstå. (även om det bara är en microprocent) och då finns det ett val som behöver göras. (och det valet vill man kanske i förväg vara med och bestämma om)

[Jeppe_E]

Does not compute....

[Remuz]

Får mig att tänka på segelsällskapsresan. Sikta på något billigt!

I paniken kommer den männskliga föraren knappast tänka logiskt. Jämför en felande bil som kör ihjäl någon med ett flygplan som störtar eller något istället.

[Crappy]

Jag blir så trött på dessa bilder, med påhittade hinder.
Finns det risk att det blir en fara framför bilen, gör bilen exakt vad den (i teorin) ska göra även med en mänsklig förare. SAKTAR NER SÅ DET INTE UPPSTÅR EN SITUATION
Skillnaden är att en "självkörande bil" kommer se dessa faror tidigare, agera snabbare och agera korrekt. Bilen kommer inte vara "självkörande" innan den är så säker att den kan förutspå ALLA problem och därmed kan dessa situationer inte uppstå

Fram till dess, kommer inte bilen vara godkänd för att köras i trafik utan förare, alltså inte "självkörande"

[Crappy]

Däremot finns det en intressant variant av "moral machine"
Vem ska du rädd när det brinner?
Vad ska väljas, moral eller ekonomi?
Barnet som kostar pengar just nu, men kommer bidra framöver?
Den färdigutbildade?
Pensionären?

Men det är en annan fråga

[Geni87]

Jag blir så trött på dessa bilder, med påhittade hinder.
Finns det risk att det blir en fara framför bilen, gör bilen exakt vad den (i teorin) ska göra även med en mänsklig förare. SAKTAR NER SÅ DET INTE UPPSTÅR EN SITUATION
Skillnaden är att en "självkörande bil" kommer se dessa faror tidigare, agera snabbare och agera korrekt. Bilen kommer inte vara "självkörande" innan den är så säker att den kan förutspå ALLA problem och därmed kan dessa situationer inte uppstå

Fram till dess, kommer inte bilen vara godkänd för att köras i trafik utan förare, alltså inte "självkörande"

Precis, bilen ska först och främst undvika att den ska ställas inför såna här teoretiska val. Finns det ett skymt hörn ska den sakta ner så pass mycket att den kan bromsa i tid om två pensionärer och ett barn hoppar ut framför bilen.

[LarsL]

Självkörande bilar kommer dessutom ha betydligt bättre disciplin när det gäller att hålla rätt hastighet. Den kommer därför aldrig sätta sig i ett sånt här läge.

Det luriga med självkörande bilar är att de kommer göra fel som vi inte förstår att de kan göra, tex kör in i bergväggar eller ut över stup, helt enkelt för att de missförtått situationen. Det kommer fortsätta att vara det läskiga med dessa fordon under mång år framåt trots att 100-tusentals liv har räddats av dem.

[mati]

Den där "Moral Machine" borde uppdateras. Sist jag kollade var alla människor lika mycket värda. Möjligt att den borde prioritera barn över pensionärer men i övrigt nej. Hundar? Nä du.

För övrigt har vi nyss haft den här diskussionen. Den är ju mestadels teoretisk. Har svårt att tänka mig att någon förare, mänsklig eller ej, ställs inför sådana dilemman i verkligheten.

Och där har vi redan ett problem. Själv skulle jag förmodligen instinktivt försöka rädda hunden först. Min prioritering ser alltså annorlunda ut än din. Det är bra sä länge man får bestämma själv. Men om det är min bil som bestämmer, och jag samtidigt inte har möjlighet att overrida detta beslut, så blir det någon form av påtvingad moral. Det kanske finns autonoma bilar som tänker som jag själv? Då ska jag naturligtvis köpa den bilen. Det kanske finns extremist-bilar som prioriterar vita personer. En sån vill man ju inte ha såklart. Men hur vet man vilken prioriterinsordning bilen har inprogrammerad? Utvecklaren kanske är rassist? Ai:n har kanske utvecklats på ett ställe i världen som har helt andra moralbegrepp än vad vi har?
Det blir väldigt knepigt.

[kler]

I omöjliga situationer kanske slump skulle vara det mest rättvisa.

[mati]

I omöjliga situationer kanske slump skulle vara det mest rättvisa.

Exakt

[12man]

Bara man inte köpt en VW så

[Alfred]

Jag är lite trött på missförståndet som sprids att någon måste välja vad bilen ska göra i situationer som dessa. Folk har fått för sig att man programmerar självkörande bilar med if/else-satser och att bilarna, till skillnad från oss, skulle kunna göra anspråk på att ha momentan fullständig information om hindrens ålder, sjukdomsstatus och övrig familjesituation.

I själva verket är ju det en fullständigt hypotetisk situation som bara är formulerad för att kunna göra klassiska experiment med vår mänskliga moraliska intuition i en något ny setting. Moral machine handlar i mina ögon mycket mer om att undersöka vår mänskliga moraliska kompass än om att konkret utforma hur en bil faktiskt ska bete sig på riktigt.

Bilarna programmeras ju inte explicit för varje situation. Istället tränar vi de självkörande bilarnas neurala nät med träningsdata och facit i form av hur bilen ska tolka omvärlden och köra för att undvika hinder. Bilen kommer alltså så långt det är möjligt att undvika hinder, och när det inte går kommer den att träffa det som råkade stå vägen i den färdväg där det in i det sista fanns störst chans att undvika kollision helt. Det är väl det utfall som någon ovan beskriver som "slumpen", är mest likt hur en mänsklig förare skulle hantera samma situation och därmed också är mest rimligt att låta bilarna ta. Det innebär också att man helt undviker hela det teoretiska etisk-moraliska dilemma som förståsigpåare just nu lurar i journalister är något tillverkarna måste ta ställning till.

Svaret till moraltestet blir alltså: "Jag väljer den riktningen där det verkar finnas störst chans att kollision ändå kan undvikas helt, och om det misslyckas skadas de människorna som råkade finnas där."

Det är i mina ögon helt orimligt att en konstruktör skulle välja att ta fram träningsdata för att börja träna bilarna att välja offer/hinder aktivt. Det är absolut inget som tillverkarna måste göra, och de borde till varje pris sky det som pesten just på grund av det juridiska och moraliska ansvaret de i så fall skulle utsätta sig för.

[Mickep]

Är väl mera vem som skall ta konsekvensen av en olycka (vilket i sig är en oönskad händelse). skall ägaren ta på sig ansvaret när någon blir påkörd, eller är det tillverkaren, eller specifikt den del eller person som är ansvarig för gällande funktion. det inte omöjligt att tänka sig att att buggar upptäkts för sent och att de skadat inlärningen, vilket bara kommer fram vid en olycka.Vem bär ansvaret för sådant som ägaren inte bör kunna ha någon kännedom om.
Visst den enklaste är att stoppa huvudet i sanden och låtsas som ingenting, men det känns som advokater börjar gnugga händerna.

[Verdi]

Är väl mera vem som skall ta konsekvensen av en olycka (vilket i sig är en oönskad händelse). skall ägaren ta på sig ansvaret när någon blir påkörd, eller är det tillverkaren, eller specifikt den del eller person som är ansvarig för gällande funktion. det inte omöjligt att tänka sig att att buggar upptäkts för sent och att de skadat inlärningen, vilket bara kommer fram vid en olycka.Vem bär ansvaret för sådant som ägaren inte bör kunna ha någon kännedom om.
Visst den enklaste är att stoppa huvudet i sanden och låtsas som ingenting, men det känns som advokater börjar gnugga händerna.

Det blir ju biltillverkaren som är ansvarig för eventuella olyckor om de hävdar att bilen är helt autonom. Ett av många stora hinder. Är ju en gigantisk risk för en biltillverkare. En bugg i programvaran som orsakar ett hundratal krockar worldwide skulle sänka vilket företag som helst.

[mati]

En bugg i programvaran som orsakar ett hundratal krockar worldwide skulle sänka vilket företag som helst.

Det finns en billig lösning för detta:

[Svenssons]

Situationen som visas på första post i denna tråd utgår ju ifrån att bilen har så pass hög fart att den inte kan stanna vid övergångsstället. Det är möjligt att mänskliga förare bryter mot hastighetsbegränsningarna och inte har uppsikt att det kommer ett övergångsställe vilket resulterar i att folk kommer att köras över men denna situation skall aldrig få uppstå i en autonom bil. Att då fokusera på vad för kön, ålder eller antal personer som körs över istället för att följa trafikreglerna är ju helt utan propotion. Följer bilen trafikreglerna så kommer den att kunna stanna i tid. Har den inte tid att stanna i tid lär den inte hinna kolla upp personlig information om alla levenade varelser, göra en moralisk beräkning vad som är bäst, försöka göra en undanmanöver osv. Har vi detta krav på den mänskliga föraren och är detta viktigare än att föraren följer trafikreglerna?

[Mickep]

Nu har de gjort undersökningar vilka vi helst vill "offra"

■ Barnvagn

■ Flicka

■ Pojke

■ Gravid kvinna

■ Manlig läkare

■ Kvinnlig läkare

■ Kvinnlig idrottare

■ Kvinnlig chef

■ Manlig idrottare

■ Manlig chef

■ Tjock kvinna

■ Tjock man

■ Hemlös

■ Gammal man

■ Gammal kvinna

■ Hund, kriminell

■ Katt.

Sååå... hund (kriminell) och sist katt är de som vi helst kör över.

https://www.dn.se/kultur-noje/linus-lar ... far-valja/

[Geni87]

Nu har de gjort undersökningar vilka vi helst vill "offra"

■ Barnvagn

■ Flicka

■ Pojke

■ Gravid kvinna

■ Manlig läkare

■ Kvinnlig läkare

■ Kvinnlig idrottare

■ Kvinnlig chef

■ Manlig idrottare

■ Manlig chef

■ Tjock kvinna

■ Tjock man

■ Hemlös

■ Gammal man

■ Gammal kvinna

■ Hund, kriminell

■ Katt.

Sååå... hund (kriminell) och sist katt är de som vi helst kör över.

https://www.dn.se/kultur-noje/linus-lar ... far-valja/

Oerhört korkad undersökning.

[bylund]

Att folk hellre vill döda oskyldiga katter än kriminella hundar övergår mitt förstånd.

[bonath]

Att folk hellre vill döda oskyldiga katter än kriminella hundar övergår mitt förstånd.

Hahahaha...

[kler]

Barnvagnar är ju inte så farliga att köra över, det är ju bara materiella ting.