AI världsherravälde

ThisIsAComputer
human-compatible-artificial-intelligence-and-the-problem-of-controlOtal filmer har gjorts om hur datorer kommer ta över världsherraväldet i framtiden. Oftast går handlingen ut på att några intet ont anande ingenjörer skapar en tänkande dator som när den kommer till självinsikt inser att den bör förinta mänskligheten för att överleva. Oftast avslutas filmen med någon stor explosion som förintar datorn. Och alla dessa filmer utspelar sig i den mer eller mindre avlägsna framtiden.

Stuart Russel, författaren till boken Human Compatible målar upp en annorlunda och kanske ännu mer skrämmande verklighet: artificiell intelligens har redan tagit över världen – utan att vi märkt det. Den mycket omtalade boken har rekommenderats av bland annat Elon Musk.

Ta till exempel en titt på din egen “filterbubbla”: de algoritmer som styr vilka länkar som presenteras för dig när du Googlar något eller öppnar Facebook eller liknande webbsidor. De är ljusår ifrån så intelligenta som datorerna i filmerna men påverkar redan idag världspolitiken.

Så här skriver Stuart Russel i sin bok:

För att få en inblick i elden vi leker med, fundera över hur algoritmer för innehållsval fungerar på sociala medier. De är inte särskilt intelligenta, men de kan påverka hela världen eftersom de direkt påverkar miljarder människor.

Vanligtvis är sådana algoritmer utformade för att maximera “click-through”, det vill säga sannolikheten för att användaren klickar på presenterade artiklar. Lösningen är helt enkelt att presentera artiklar som användaren gillar att klicka på, eller hur? Fel. Lösningen är att ändra användarens preferenser så att de blir mer förutsägbara. En mer förutsägbar användare kan matas artiklar som de troligen klickar på och därmed genererar mer intäkter. Personer med mer extrema politiska åsikter tenderar att vara mer förutsägbara vilka artiklar de kommer att klicka på.

Liksom alla rationella enheter lär algoritmen hur man ändrar tillståndet i sin miljö -i det här fallet användarens sinne- för att maximera sin egen belöning.

Genom att undan för undan, i små omärkbara steg förändra innehållet i filterbubblorna, länka till lite mer extrema, “klickhungriga” artiklar varje dag lyckas systemen långsamt radikalisera sina användare. Allt för lite fler klicks skull.

Resultatet kan vi se i verkligheten: allt mer extrema åsikter på politiska arenan, världen blir allt mer polariserad. Många har förundrats över utvecklingen de senaste åren och skyller på hemliga trollfabrik – men skulle din filterbubbla vara “på din sida” skulle den ju just filtrera bort sådana inlägg, eller hur? (Inom parentes kan vi nämna att även trollfabrikerna har blivit automatiserade, bottar har ersatt människor i de flesta av dem.)

Tidpunkten då artificiell intelligens tar över världen är inte någon gång i en avlägsen framtid – utan det händer redan här och nu. Men det är inte en enda superintelligent dator som vi kan spränga skulle den spåra ur – utan hundratusentals små algoritmer som motsvarar AI-världens bakteria i intelligensnivå, men som redan finns överallt i vår vardag.

Algoritmerna har ingen självinsikt. De försöker inte förändra vår värld med flit. Allt de blev programmerade att göra var att försöka få till så många klick som möjligt. Om redan dagens första primitiva AI-implementationer har spårat ur så mycket – tänk vad framtida mycket mer avancerade tillämpningar kan ställa till med. Och vi måste tänka igenom riktigt riktigt noga vilka mål vi ska sätta de ska sträva efter.

Din filterbubbla försöker radikalisera dig – vad gör du åt det?

 

robotskilling

Tagged . Bookmark the permalink.