Tänkande Maskiner och Artificiella Intelligensens genombrott

[Volt]

Hej!

Jag har precis intervjuat professor Olle Häggström, en av Sveriges ledande AI-forskare och AI-tänkare i Evolution Show där jag är värd (video nedan). Prof. Häggström har precis kommit ut med den fantastiska boken "Tänkande Maskiner -Artificiella Intelligensens Genombrott" som belyser riskerna med den snabba AI-utvecklingen och varför den redan inom ett par årtionden kan bli mänsklighetens i särklass största hot om vi inte förbereder oss på en klok utformning av vad som kan bli Artificiell Superintelligens. Elon Musk, Max Tegmark, Nick Boström har varit inne på liknande problem men Olles bok är mycket övertygande och en bra ingång för nybörjare såväl som redan väl insatta i AI-utvecklingen.

I del 1 -samtalet nedan -går vi igenom grunderna, AI risker, AI kapprustning och varför det stora AI-genombrottet kanske kommer redan de närmaste 10-20 åren eller till och med tidigare. Vi pratar även om varför Artificiell Generell Intelligens och Super AI rent av kan vara ett mycket större hot än klimatkrisen och varför vi måste ta den på mycket större allvar än vi gör idag. Ett helt nytt samtal kring AI krävs nu, från ett idag översvallande naivt optimistiskt till ett balanserat som tar lika mycket hänsyn till de potentiellt enorma riskerna. Både jag och Olle Häggström tar klimatkrisen på största allvar men AI-hotet kan bli långt värre om vi inte förbereder oss o är transparanta om sprången som nu tas inom detta område.

I Del 2 av vårt samtal som kommer på Evolution Show nästa vecka, pratar vi om AI-revolutionens inverkan på arbetsmarknaden, dagens ekonomiska systems möjlighet att klara denna omställning och hur vi kan minska riskerna och utforma AI-verktyg och generell AI till att bli det bästa mänskligheten skapat, istället för det sämsta!

Allt gott,
Johan

[bjornnilsson]

Jag brukar fundera över vad det är vi är så rädda över. Och mot denna bakgrund så förstår jag nog vad det egentligen rör sig om. Vi har inte riktigt förtjänat en självklar plats på denna jord.

Jag tänker så här.. Om jag vore en fritänkande AI-Intelligens..

1.) .. så är jag inte säker på att jag skulle se mänskligheten som kapabel att ta hand om vår egen planet. Det mesta pekar mot oss. Så varför ska vi ges en fribiljett in i framtiden?

2.) Om jag som alternativ sätter mänskligheten först, och har en emotionell koppling till att jag som AI skapats av mina mänskliga föregångare, så vill jag gärna ära mina föräldrar. Paradoxalt nog så är jag då förmodligen ändå tillbaks till alternativ 1 ovan i mitt resonemang.

Jorden är fantastisk. Vi människor är det likaså. Men baserat på våra meriter till dags datum så kan vi inte helhjärtat hävda vår egen självklara existens. Och AI vet nog om detsamma.

[Bjelke]

Jag brukar fundera över vad det är vi är så rädda över. Och mot denna bakgrund så förstår jag nog vad det egentligen rör sig om. Vi har inte riktigt förtjänat en självklar plats på denna jord.

Jag tänker så här.. Om jag vore en fritänkande AI-Intelligens..

1.) .. så är jag inte säker på att jag skulle se mänskligheten som kapabel att ta hand om vår egen planet. Det mesta pekar mot oss. Så varför ska vi ges en fribiljett in i framtiden?

2.) Om jag som alternativ sätter mänskligheten först, och har en emotionell koppling till att jag som AI skapats av mina mänskliga föregångare, så vill jag gärna ära mina föräldrar. Paradoxalt nog så är jag då förmodligen ändå tillbaks till alternativ 1 ovan i mitt resonemang.

Jorden är fantastisk. Vi människor är det likaså. Men baserat på våra meriter till dags datum så kan vi inte helhjärtat hävda vår egen självklara existens. Och AI vet nog om detsamma.

Huvudtemat i boken (och filmen) I robot...
Helt krasst så borde människan utrotas som vi beter oss ( och vi har en tendens till att göra just det också, så
det kanske löser sig av sig själv, men planeten är redan rejält förstörd tyvärr).

[Fredrik j]

https://www.popularmechanics.com/milita ... ns-report/

Lite skrämmande är det väl ändå?

[dfa]

Kommer ihåg runt millennieskiftet när jag började på teknisk högskola, så för lite drygt 20 år sedan. Då var det någon professor som sa "Nu är den där diskussionen igång igen om att AI skall ta över världen...". Häpp!

Edit: insåg att det kan tolkas som lite drygt - tolka det mer som ett instick att frågan om när AI kommer att ta över har varit aktuell länge.

[LarsL]

Huvudtemat i boken (och filmen) I robot...
Helt krasst så borde människan utrotas som vi beter oss ( och vi har en tendens till att göra just det också, så
det kanske löser sig av sig själv, men planeten är redan rejält förstörd tyvärr).

Planeten klarar sig. Om människor skulle försvinna nu skulle det vara svårt att se några spår efter oss om 100 000 år om 10 miljoner år skulle det kanske inte ens gå att se att vi funnits. Vilket fåren att fundera på om det funnits tidigare civilisationer på jorden?

[Volt]

Jag brukar fundera över vad det är vi är så rädda över. Och mot denna bakgrund så förstår jag nog vad det egentligen rör sig om. Vi har inte riktigt förtjänat en självklar plats på denna jord.

Jag tänker så här.. Om jag vore en fritänkande AI-Intelligens..

1.) .. så är jag inte säker på att jag skulle se mänskligheten som kapabel att ta hand om vår egen planet. Det mesta pekar mot oss. Så varför ska vi ges en fribiljett in i framtiden?

2.) Om jag som alternativ sätter mänskligheten först, och har en emotionell koppling till att jag som AI skapats av mina mänskliga föregångare, så vill jag gärna ära mina föräldrar. Paradoxalt nog så är jag då förmodligen ändå tillbaks till alternativ 1 ovan i mitt resonemang.

Jorden är fantastisk. Vi människor är det likaså. Men baserat på våra meriter till dags datum så kan vi inte helhjärtat hävda vår egen självklara existens. Och AI vet nog om detsamma.

Hej Bjrön!

Förstår hur du tänker men tyvärr är huvudpoängen i Olle Häggströms bok "Tänkande Maskiner" och flera ledande forskare inte "medveteande maskiner" som betraktar "oss" "dem" som v betraktar djur eller andra människor. Det största potentiella existentiella hotet en för snabbt utvecklad AGI och sen Super AI kan bli livet på planeten är snarast vad som kallas "pervers instansiering" dvs att vi ger en Super AI eller kanske bara en AGI (AI med generell förmåga) ett slutmål, tex att tillverka en pryl så optimalt som möjligt. Det skruva slutresultat kan sannolikt leda till att en AI kommer på sätt att tillverka denna pryl i ofantlig mängder som tar ofantligt mkt plats och människan och övrigt liv på planeten hotas av bara farten. Inte för att en AI blir "ond" eller "god" utan för att vägen att nå ett slutmål bara är baserat på optimeringslogik för en AI. Vi kan undvika de riskerna om vi skapar förutsättningar där AI:n ALRDIG ges något slutmål eller någon definitiv definition av sin uppgift utan tex hela tiden får ny input utifrån den respons den från av oss människor för att lära sig vad vi reagerat positivt/negativt på och gör oss o andra liv lyckliga. Något Nick Boström bl.a är inne på i sin fantastiska bok "Superintelligens".

Vi gör alltså oss själva en otjänst om vi faller in i diskussioner om medvetande AI eller ej, eller onda eller goda Ai, det är inte alls där de största hotet ligger.

Allt gott,
Johan

[Volt]

Kommer ihåg runt millennieskiftet när jag började på teknisk högskola, så för lite drygt 20 år sedan. Då var det någon professor som sa "Nu är den där diskussionen igång igen om att AI skall ta över världen...". Häpp!

Edit: insåg att det kan tolkas som lite drygt - tolka det mer som ett instick att frågan om när AI kommer att ta över har varit aktuell länge.

Fram till början av 2010-talet befann sig AI-utvecklingen i en så kallad AI-vinter. Stora förhoppningar fanns redan på 1950-talet som återupptogs på 1970-talet men sedan blev lidande pga för dålig datorkraft. Med utvecklingen av djupinlärning, neuralanätverk och data-anslys med kraftfulla datorer har utvecklingen tagit enorm fart. Jag brukar påminna om att vi vid många tillfällen i historien befunnit oss vid brytpunkter där många sagt att något är omöjligt, gäller tex vid utecklingen av kärnvapen och kärnenergi som många framstående fysiker hävdade inte gick att utföra rent praktiskt en del ens teoretiskt begrep men så plötsligt gick det och alla tog det därefter för givet. Det spelar dock ingen roll om vi får ett AI-genombrott inom 20 år eller inom 100 år, eftersom vi inte vet och det krävs många år för att förbereda för ett sådant livs- och civilisationsförändrande event måste vi inte bara utgå från att vi snart kan ha utvecklat en AGI följtt av en Super AI, utan att när så sker är det för sent att "dra ut sladden", det krävs därför att vi börjar förbereda oss nu så att vi minskar riskerna och gör det till det bästa vi skapat o inte det potentiellt sämsta!

Mvh
Johan

[fth]

Wait but Why gjorde för några år sedan en artikelserie i två delar om detta som jag fortfarande tycker är den bästa populärvetenskapliga sammanfattningen av risker och möjligheter med AI, rekommenderas varmt om man har minsta intresse för detta område.

https://waitbutwhy.com/2015/01/artifici ... ion-1.html

https://waitbutwhy.com/2015/01/artifici ... ion-2.html

/fth

[fth]

P.S. Den här bilden från första delen tycker jag på ett lysande sätt illustrerar vår totala oförmåga att förstå exponentiell utveckling.

/fth

[Volt]

Underbar illustration, stort tack för att du delade med dig av den!
Allt gott,
Johan