S02E15: Kommer robotarna utrota mänskligheten?

Här diskuterar vi podden Bilar med sladd (fd Teslapodden) och dess avsnitt.

Moderatorer: Herr X, djFabbe, Redaktion

Användarvisningsbild
Herr X
Teslaägare
Inlägg: 4161
Blev medlem: 22 jun 2014 19:14
Ort: Täby
Kontakt:

S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av Herr X »

Nytt avsnitt av Teslapodden! Diskutera avsnittet i denna tråden.
Bild
Teslapodden: Kommer robotarna utrota mänskligheten?

I detta avsnitt:
Veckans avsnitt handlar om AI, Artificiell Intelligens. Riskerar vi att göra mänskligheten irrelevant i takt med att teknik runt oss blir smartare? Kommer våra bilar en dag att resa sig mot oss, och behöver vi i så fall förbereda oss för den situationen redan nu? Elon Musk är i alla fall såpass oroad över detta att han varit med och startat Open AI, en förening som ska skydda mänskligheten från riskerna med Artificiell Intelligens. Anders och Fabian spekulerar hämningslöst om framtida problem och möjligheter, och Fabian berättar vänligt nog slutet på en film Anders gärna vill se. Dessutom har Fabian en ny låt på gång och Anders har fått på sommarhjulen igen.

Prenumerera & lyssna här: http://www.teslapodden.se
Model X 90D
Model 3 SR+
Mitsubishi i-MiEV

Lyssna på podcasten Bilar med sladd - Nordens största miljö- och elbilspodcast! https://www.bilarmedsladd.se.
Sponsra resebloggandet och poddandet när du skaffar Tibber: https://invite.tibber.com/pk8ybxoa.
Användarvisningsbild
Kalle
Teslaägare
Inlägg: 2136
Blev medlem: 05 mar 2014 18:24
Ort: Kiruna

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av Kalle »

Många tror att AI blir farliga först när de har robbotar och fabriker, men så är ej fallet. Den största risken är när några få får tillgång till en, då kan de manupilera resten av oss utan att vi märker det, det är den närmsta faran med AI.
Användarvisningsbild
LarsL
Teslaägare
Inlägg: 14700
Blev medlem: 08 nov 2014 19:15
Referralkod: ts.la/lars74032

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av LarsL »

Google kan redan ha en AI som styr oss men det skulle i princip vara omöjligt för oss att förstå det.
ochso
Inlägg: 365
Blev medlem: 22 feb 2016 21:03

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av ochso »

Kul avsnitt!

Vad gäller att sätta upp ramar, lagar och regler kring AI så kommer allt detta sättas ur spel i händelse av en större konflikt mellan nationer. Tänk er en större konflikt mellan några av parterna USA, Ryssland och Kina (inte helt osannolikt inom kommande 100 år). Militären inom respektive land skulle ju omedelbar sätta enorma resurser i att utveckla en AI att besegra fienden och då finns det helt plötsligt inga lagar som gäller längre. Då kan AI teoretiskt utvecklas helt obegränsat och ingen skulle längre ha någon koll alls.

Vad gäller att använda sig av AI för att lösa problem så är väl tyvärr lösningen på alla problem i hela världen oftast människan själv, eller? För en AI måste ju den enklaste lösningen på klimatproblemen vara att utrota människan, enklaste sättet att lösa problemet med sjukdomar är ju att utplåna människan (då kan ju omöjligt sjukdomar vara ett problem längre?), enklaste sättet att lösa gemtillverkningen på är ju att utrota människan (då kommer inte ett enda gem behövas igen någonsin), osv, osv. För en helt objektiv AI måste ju detta förr eller senare bli den rationella lösning på det problem som den blivit tilldelad att lösa?

Vad gäller att AI ska börja ha ihjäl människor så tror jag att det är extremt lätt att åstadkomma. Tänk er att en AI börjar manipulera vilken information du nås av, den kan skapa falska nyheter som är så välformulerade att den stora majoriteten aldrig kan genomskåda dessa, ge olika information till olika människor så att olika grupper börjar heta mot varandra och innan vi vet ordet av det har vi haft ihjäl varandra. Eller tänk om en AI infiltrerar tillräckligt mycket för att helt plötsligt och omedelbart sänka alla elnät i världen och samtidigt hela världens internet, skulle mänskligheten klara sig efter det? Alla resurser i form av digitala pengar är borta, all matproduktion upphör, vattnet i kranen slutar fungera, sjukvården kollapsar helt, osv osv.

Vad gäller Anders övertygelse om att vi människor kommer att inse när något gått för långt och sätta stopp för det så undrar jag hur det går för mänskligheten just nu att inse att det är en jättedålig idé att borra upp all tillgänglig olja och omedelbart elda upp den...

Vad gäller Fabians teori att små små förändringar kommer gå oss omärkta förbi så upplever jag att detta stämmer alldeles utmärkt. Se på miljöförändringarna idag, för inte alls länge sedan var alla MYCKET upprörda över övergödningen i Östersjön, idag genererar inte detta en enda rubrik, vi vänjer oss direkt och tror ganska omgående att det alltid varit som det är nu. Ett annat exempel är romarrikets fall, i historiskt perspektiv borde det ha varit helt uppenbart men sannolikt var det ingen som fick uppleva eller ens förstod att riket föll, för det gick så långsamt, långsamt år för år och var väl utdragen över ca 200 år?
Användarvisningsbild
kler
Teslaägare
Inlägg: 916
Blev medlem: 07 jan 2017 23:58

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av kler »

Intressant ämne. Avsnittet hade tjänat på om redaktionen läst t.ex. artiklarna på ämnet från waitbutwhy - det är i varje fall den bästa och mest koncisa sammanfattning av problemet som jag känner till. Som flera redan nämnt så behövs inte nödvändigtvis robotar för att orsaka problem.

Tittar man på medianestimatet när superintelligens uppstår så är det i varje fall under min livstid.

Bild


Bild
Model 3 [Beställt mars 2020]
Renault Zoe [2019]
Model X 75D [2018]
Model 3 [Reserverad mars 2017]
Användarvisningsbild
mati
elbilist
Inlägg: 17037
Blev medlem: 22 mar 2016 10:08
Ort: Götene

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av mati »

Människan är tillräckligt smart för att utveckla AI och annan avancerad teknik men alldeles för inskränkt för att kunna förutse konsekvenserna av denna utveckling. Det är så vi fungerar, i slutändan utrotar vi oss själva, men det kommer att ske på en jäkligt hög nivå.
Robotarna är inte farliga i sig, det är vi som har skapat dem.
e-Golf -18 | Ioniq 5 First Edition RWD -22 | Evess elmoped
e-tron 55 -19 | Model S 90D -16 | Model S P85 -14
Användarvisningsbild
Toja
Teslaägare
Inlägg: 964
Blev medlem: 20 jul 2015 18:04
Ort: Saltsjö-Boo

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av Toja »

Det är både spännande och skrämmande med AI. De illvilliga kommer inte bry sig om eventuella regler. Det vikigaste är att alla företag som har AI produkter tar säkerhet på allvar, så andra inte kan manipulera systemen. En uppsida kan även vara att AI systemen själva jan förstå att någon försöker hacka sig in.
S P85D -15 | röd |
S 100D -18 | röd |
3 LR- 19 | vit |
MYP -22 | MIB | svart/svart
Användarvisningsbild
Herr X
Teslaägare
Inlägg: 4161
Blev medlem: 22 jun 2014 19:14
Ort: Täby
Kontakt:

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av Herr X »

ochso skrev:
Vad gäller Anders övertygelse om att vi människor kommer att inse när något gått för långt och sätta stopp för det så undrar jag hur det går för mänskligheten just nu att inse att det är en jättedålig idé att borra upp all tillgänglig olja och omedelbart elda upp den...
Nja, min poäng är att det är alltför tidigt att diskutera detta - jag menar att det mycket väl kan bli problem i framtiden, men att förutsättningarna då ser helt annorlunda ut och att det därför blir poänglöst att diskutera detta redan nu.
Jämför med lagstiftningen i bilismens barndom där en person med röd flagga var tvungen att gå framför bilar i trafik, eller den alldeles färska lagstiftningen att elbilar behöver ha artificiellt oljud. Båda dessa är exempel på lagstiftning som man byggt på föreställningar om hur det kommer bli i framtiden, snarare än kunskap om faktiska problem som behöver lösas. Vi kan sitta i dagar i olika arbetsgrupper, försöka tänka ut hur framtiden kommer se ut och förbereda oss på denna, men vi kommer alla att misslyckas. När AI börjar bli mer intelligent kommer vi se vilka problem som behöver hanteras och hur, fram till dess blir det bara teoretiska krumbukter som istället riskerar att slå sönder en teknikutveckling som kanske i grunden är önskvärd.
Model X 90D
Model 3 SR+
Mitsubishi i-MiEV

Lyssna på podcasten Bilar med sladd - Nordens största miljö- och elbilspodcast! https://www.bilarmedsladd.se.
Sponsra resebloggandet och poddandet när du skaffar Tibber: https://invite.tibber.com/pk8ybxoa.
Användarvisningsbild
Foluke
Teslaägare
Inlägg: 999
Blev medlem: 05 nov 2015 21:54
Ort: Frufällan

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av Foluke »

Kalle skrev:
Många tror att AI blir farliga först när de har robbotar och fabriker, men så är ej fallet. Den största risken är när några få får tillgång till en, då kan de manupilera resten av oss utan att vi märker det, det är den närmsta faran med AI.
Hur kan en sådan som Trump bli vald?!? AI? Än så länge styrd av en liten grupp? Man skall nog vara vaksam.
Model S P85D,
Användarvisningsbild
LarsL
Teslaägare
Inlägg: 14700
Blev medlem: 08 nov 2014 19:15
Referralkod: ts.la/lars74032

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av LarsL »

Mänskligheten riskerar att bli som en katt. Katten tror att den styr och ställer och går som den vill. Den har lärt oss att öppna och stänga dörrar på kommando. Den har sett till att vi matar den bär den inte lyckats med jakten. Ja, vi tar till och med hand om dess låda.
Naturlitgvis vet vi som intelligentare varelser att det inte alls är så utan att det är vi som styr helt över kattens öde. De är vi som bestämmer om den ska leva eller då. Om den ska få föröka sig eller inte...

Vi kommer ha lika svårt som katten att inse när den molnbaserade super intelligenta AI:n har tagit kontroll över oss.
Användarvisningsbild
mati
elbilist
Inlägg: 17037
Blev medlem: 22 mar 2016 10:08
Ort: Götene

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av mati »

Berätta nu bara inte för vår stora hankatt att det inte är han som bestämmer. Han skulle inte vara så nöjd om han får reda på det. ;)
e-Golf -18 | Ioniq 5 First Edition RWD -22 | Evess elmoped
e-tron 55 -19 | Model S 90D -16 | Model S P85 -14
ochso
Inlägg: 365
Blev medlem: 22 feb 2016 21:03

Re: S02E15: Kommer robotarna utrota mänskligheten?

Inlägg av ochso »

Tre filmer nedan som är ganska bra och som förklarar AI. Om ni bara orkar se en film, välj den sista.

Filmerna handlar bland annat om hur AI kan förutse vad som ska hända utifrån ett foto samt att AI kan skapa en bild utifrån en beskrivning i textformat.




Film nr 2 ser man med fördel mellan tidpunkterna 2:52-13:11, resten av filmen handlar om annat (som visserligen också är väldigt intressant).


Skriv svar