Filosofi med en deadline — så överlever vi med AI

Risken är mördarrobotar. Men AI behövs. Fysikern Max Tegmark undersöker i en ny bok hur vi kan skapa en ljus framtid med artificiell intelligens.

Om du inte har insett att du lever i framtiden så betänk detta: vid en konferens i Genève i december kommer FN att diskutera ett förbud mot mördarrobotar.

– Om vi inte får till ett sådant förbud så kan vi se fram emot en katastrofal ny kapprustning, som kommer att få oss att längta nostalgiskt efter kärnvapenkapprustningen i jämförelse, säger Max Tegmark.

Han är i Stockholm, sin gamla hemstad, på några dagars besök. Mellan ett föredrag på Kulturhuset och ett på KTH träffar jag honom i en bokhandel i Gamla stan för att prata om en framtid med det som kallas stark AI – som tillägnar sig kunskap på ett ”mänskligt” sätt – och om hans nya bok: ”Liv 3.0. Att vara människa i en tid av artificiell intelligens”.

Till vardags är Max Tegmark fysikprofessor vid Massachusetts Institute of Technology, MIT, i Boston. Han forskar, undervisar, och driver dessutom en organisation som främjar forskning kring vårt förhållande till avancerad artificiell intelligens: Future of Life Institute.

– Vi valde det namnet av en anledning, inte Doom & Gloom Institute eller Oroa-oss-för-framtiden-institutet. Vi vill betona att det finns en otrolig potential i artificiell intelligens.

Men, poängterar han, en framtid med stark AI kommer inte att leda till en ljus framtid för mänskligheten per automatik. Vi måste engagera oss, och vi måste fatta rätt beslut medan tid är. För utvecklingen går fort nu.

Förra våren besegrade den artificiella intelligensen Alphago den sydkoreanske mästaren Lee Sedol i brädspelet Go. AI-experter hade då alldeles nyligen bedömt att det skulle dröja åtminstone ytterligare ett decennium innan AI kunde bemästra det komplexa spelet.

Max Tegmark beskriver Alphagos seger som ett avgörande ögonblick, där maskinen inte bara upprepade vad människor matat den med, utan uppvisade verklig kreativitet; spelade nyskapande drag, som fick mänskliga go-mästare att häpna. Än viktigare är emellertid sättet på vilket segern kom till stånd. I stället för att människor matat Alphago med färdiga strategier, hade forskare och ingenjörer vid det Google-ägda företaget Deepmind skapat en artificiell intelligens som fick studera tusentals kända Go-partier och själv dra slutsatser om hur den borde spela.

Det är ett viktigt steg på vägen mot stark AI, en bred intelligens som liknar människans och lär sig på samma sätt som ett barn – bara mycket snabbare. Merparten av AI-forskarna tror i dag att sådan AI kommer att vara verklighet inom 50 år. Och i takt med att AI-utvecklingen accelererat har olyckskorparna kraxat allt högre. Kommer robotarna att ta våra jobb? Hur kommer de att behandla oss om de blir smartare än människor?

Värsta tänkbara scenario är alltför lätt att föreställa sig: mänskligheten utrotas.

Men vad är bästa tänkbara scenario?

– Att artificiell intelligens hjälper den vetenskapliga forskningen framåt, på alla områden. Nya medicinska behandlingar, bättre förnyelsebar energi, bättre rättssystem. Bättre allting. Vi måste komma ihåg att tekniken är anledningen till att Sverige 2017 är bättre än på stenåldern. Allt jag gillar med civilisationen är en produkt av intelligens. Om vi nu skulle trycka på pausknappen för vår teknikutveckling, då sitter vi här tills nästa asteroid i dinosauriedödarklassen kommer. Om vi inte tar ihjäl oss själva först. Sedan är det slut. 50 miljoner år kanske, om vi har så tur. Det tycker jag skulle vara helt patetiskt.

Max Tegmark skrattar till. Men resonemanget är på fullt allvar. Det är kalkylen som gör det rationellt att fortsätta AI-forskningen, trots det dystra värsta-scenariot. Om mänskligheten kan leva vidare i flera miljarder år tack vare AI är det en större vinst än förlusten som en utrotning i en snar framtid skulle innebära.

– Ja, och då pratar vi några miljarder år till på jorden. Men det finns miljarder beboeliga planeter bara i vår galax. Och det finns hundratals miljarder andra galaxer… Vi har möjligheten att väcka universum till liv. Det vore synd att gå miste om den möjligheten. Jag menar, tänk om jorden var helt öde. Det fanns inga träd, inga djur, ingenting – förutom på Gotland. Och så satt det några gubbar på Gotland som sa ”Nä, det här får räcka. Vi stannar här i all evighet.” Vore inte det tråkigt?

Utvecklingen mot stark AI ställer många filosofiska frågor på sin spets. Vad är meningen med livet, universum och allting? Vilken framtid strävar vi efter? Vilka är våra mål, och vilka bör vi ge till maskinerna? Kan en maskin ha ett medvetande?

Den sistnämnda frågan är kontroversiell bland AI-forskare, men för Max Tegmark är den helt avgörande. Därför handlar ett av hans forskningsprojekt nu om att hitta metoder för att avgöra om ett biologiskt eller artificiellt system har medvetande.

– Tänk om vi människor i framtiden lyckas skapa artificiella livsformer som ger sig ut i universum och fyller det med liv och gör en massa spännande saker. Då kanske vi känner oss väldigt stolta och nöjda, även om mänskligheten går under. Men tänk om de här livsformerna inte har något medvetande alls, utan är zombies som inte upplever någonting. Tänk om allting är ett spel för tomma stolar! Det skulle vara det mest absurt tragiska slutet på historien om livet i universum.

Sedan boken färdigställdes har AI-forskningen tagit ytterligare ett språng framåt, åter igen genom Alphago. Deepmind har skapat en helt ny version av programvaran, som den här gången inte fått lyxen att lära sig av årtusenden av mänskligt Go-spel. Alphago Zero hade bara spelets regler att utgå ifrån, och startade från noll genom att spela mot sig själv och successivt lära sig vilken typ av drag som leder närmare seger.

Under den första dagen spelade Alphago Zero fem miljoner partier mot sig själv. Efter tre dagar hade AI:n hunnit med motsvarande 3 000 år av mänskligt Go-spelande. Sedan ställdes den mot den tidigare Alphago-version som besegrat Lee Sedol. Och vann. 100–0.

Enligt Deepminds vd, Demis Hassabis, är Alphago Zero så skicklig för att den ”inte längre hämmas av den mänskliga kunskapens begränsningar”.

Som sagt: utvecklingen går fort nu. Alphago är en mycket begränsad AI, men parallellt görs snabba framsteg på andra områden, som bildigenkänning, språkförståelse och robotik. Med boken vill Max Tegmark också få fart på konversationen om AI, få allmänhet, författare, konstnärer och politiker att fundera över vilken framtid vi vill ha.

– De stora frågorna som ställs nu i samband med AI är, som min kollega Nick Bostrom brukar säga, filosofi med en deadline. Vi människor har funderat på dem i tusentals år, men nu är det så att om vi inte får svar inom några decennier så är det kanske för sent. Så vi får helt enkelt göra så gott vi kan.

 

Reportaget publicerades i Svenska Dagbladet 4/11 2017.