Olle Häggströms bok Tänkande maskiner ställer dubbla krav på läsaren

Betalt samarbete med Bokus.

Professor Olle Häggströms nya bok Tänkande Maskiner: Den artificiella intelligensens genombrott (Fri Tanke Förlag, Bokus inbunden 249:-, e-bok 99:-) balanserar i AI-debattens ingenmans land mellan populärvetenskap och akademisk text. Den ställer i sin varning för den förstående och annars kanske oundvikliga AI-apokalypsen dubbla krav på sina läsare – både att man har intellektuell förmåga att ta till sig texten, och att man sedan ska bidra till mänsklighetens långsiktiga överlevnad framöver genom att dra sitt strå till stacken för att hindra undergången.

Tänkande maskiner av Olle Häggström

Bloggrannen professor Olle Häggström vid Chalmers och Göteborgs Universitet var på sin tid kanske Sveriges yngsta professor, och därtill i det för utomstående ofta obegripliga vetenskapliga metaämnet matematisk statistik, som ligger som grund för vetenskaplig forskningsmetodik. Han engagerar sig även i de stora framtidsfrågorna, som en del av det akademiska uppdraget att samverka med samhället, och med hans förra bok Here Be Dragons (Bokus 538:- inbunden)gick han igenom de stora framtidsutmaningarna och hoten som mänskligheten står inför eller upplever redan nu som ett resultat av den skenande teknologiska utvecklingen, inklusive nanoteknologi och bioteknologi. Och artificiell intelligens.

Och som en av de som både i Sverige och internationellt engagerat sig i debatten och forskningen kring AI, specifikt kring farorna och hoten från detta, så är Tänkande maskiner en fördjupning och dagsaktuell sammanställning av läget idag.

Professor Häggströms skrivstil balanserar någonstans mellan skyttegravarna som utgör akademisk text respektive populärvetenskap, och med det kommer boken ställa intellektuella krav på läsaren. Detta är inte en bok för alla, utan kräver att du hänger med på vetenskapliga, filosofiska och logiska resonemang, samtidigt som du klarar av att bolla mängden fotnötter och utvikningar som finns på i princip varje sida. En stor del av behållningen är att läsa dessa utnördningar i tangentens riktning, som ibland kan handla om internt skvaller från olika konferenser eller debatter.

Häggström placerar sig i AI-alarmistfacket och spenderar ett helt kapitel med att plocka isär namngivna AI-förnekare.

Tar man till sig texten så är det svårt att inte bli övertygad om det hot vi står inför om vi en dag lyckas ta fram AGI – artificiell generisk intelligens. Ett av hoten abstraheras som gemproblemet, men kan i grunden förklaras med att en AGI kommer snabbt kunna öka sin intelligens till mångfaldigt mer än en människas, och ganska prompt replikera sig över Internet via olika säkerhetsbrister den upptäcker (eller lura sina skötare för att på olika sätt smita ut om den hålls isolerad) och sedan förbereda sig för att utplåna mänskligheten.

Det finns olika teorier om hur detta ska hindras, men kom ihåg att mänskligheten kan bara utplånas en gång. En dag kommer vi ha 100 000-tals, kanske miljontals AGI:er och det räcker att en enda av dessa bestämmer sig för att utplåna mänskligheten så är det kört. Varför en AGI skulle vilja göra detta framgår i olika varianter i Häggströms text. Redan idag har AI fuskat på olika vis för att vinna de mål de har fått tilldelade sig, som t ex få andra program att krascha pga minnesbrist och därmed vinna på walkover, eller i något exempel tillverka radiomottagare för att komma runt ett problem som inte var trådlöst.

Kursiv text är bloggarens egna tankar, väckta av boken.

Själv har jag tänkt att robotapokalypsen eller AI-apokalypsen inte hindras svårare än att man bara drar ut strömmen. Miljontals kommer dö om vi bryter alls strömförsörjning globalt och väntar en vecka till reservkraft och batterier tagit slut, men mänskligheten överlever. Fast detta scenario kommer en AGI att ha förutsett innan den drar igång undergången, så frågan är om det i praktiken går att hindra.

Tanken slår mig under läsningen att kanske är detta en förklaring till att SETI mfl program aldrig upptäcker spåren av någon annan civilisationen i vår galax. Alla civilisationer kommer förr eller senare utveckla datorer, och sedan förr eller senare AGI, och därmed till slut utplånas. Den lilla parentes där man kan ge spår som signaler i universum blir så få år att det är högst osannolikt att det sammanfaller med vår korta tid i universum innan vi blir utplånade av en av våra egna AGI:er^1..

AI-hotet har länge funnits i science-fictionlitteraturen och rörliga medier. Redan Dune skildrade en framtid där man växlat ner bruket av datorer just på grund av att AI försökt utplåna mänskligheten. Åtminstone den senaste versionen av Battlestar Galactica bygger också på kampen mot AI, och där titelrymskeppet var äldre och low-tech och därmed inte kunde tas över av AI. För att förstås inte tala om den lite vimsigare Matrix. 

Häggströms text innehåller få populärkulturella referenser, utan är just en blandning av debattbok, akademisk text och populärvetenskap. Har du den nivå som krävs för att ta till dig texten är det en utmärkt och aktuell start på hur AI-läget ser ut idag, medan många av de tongivande texterna annars har över ett decennium på nacken.

Jag håller inte med om allt, t ex går Häggströms och mina åsikter isär kring hoten mot jobben. Aldrig någonsin förr har vi haft så mycket automatisering och robotisering som idag, men aldrig förr har vi haft sånt högt välstånd, rikedom eller så många i jobb som idag. Automatisering och bortrationalisering av jobb har bara drivit fram större välstånd, och oavsett så är utvecklingen organisk – om folk inte har jobb kan ingen köpa produkterna tillverkade av robotarna eller utvecklad av AI, så den utvecklingen existerar i symbios med en fungerande arbetsmarknad för människor. Men i varje generation så finns det ludditer som protesterar mot automatiseringen. Men vem saknar att bära vatten i spannar för att vattna med när vi har konstbevattning? Vem saknar tvätterskorna? Vem saknar P-husvakterna som delade ut biljetter och tog betalt vid utfarten? Vem saknar ens alla högkvalificerade jobb som redan försvunnit tack vare datorer? Och vem vill diska för hand? Ja, det finns för individen alltid ett hot mot den personens jobb – både från teknologi, men också från konkurrenter. Men det hotet är på individnivå, inte på samhällsnivå, och existerar oavsett automatisering.

Vad framtiden har i sitt sköte återstår att se. Redan idag utgör GOFAI (good old fashioned AI) och modern AI konsekvenser i våra liv, inklusive bakom Facebooks brandväggar, eller i amerikanska domstolar när straff ska utdömas. Eller kopplat till Kinas massiva övervakningssamhälle. Ett land som för övrigt uttryckligen sagt att de ska bli ledande inom AI. Vad hindrar diktaturen från att utveckla AGI, tänkt som konkurrensfördel för att ta över världen?

Professor Häggström avslutar med en uppmaning eller krav på läsaren att göra sitt för att motverka en framtida undergång, driven av AI. Exakt hur man kan göra det är frågan. Han har iaf övertygat mig om att hotet är verkligt, men ska den breda massan nås behövs det en annan text.

Sammanfattningsvis väl värt tiden att läsa om du vill blicka framåt mot ett av framtidens stora frågor.

Tänkande Maskiner: Den artificiella intelligensens genombrott hittar du hos Bokus inbunden för 249:- eller som e-bok 99:-.

Recensionsexemplar från Fri Tanke Förlag. 

^{1. Min andra förklaring kring frånvaron av spår är att radioåldern är rätt kortvarig för teknologiska civilsationer. Kraven på bandbredd för överföring av allt mer data gör att sänd (eng broadcast, nor kringkastning) radio och teve redan är på väg bort för mänskligheten. För kommunikation i rymden kanske man framöver kommer använda riktad laser istället, och de mikrovågor som idag krävs för att överföra stora mängder data inom t ex våra mobilsystem har inte en räckvidd så att de kan detekteras på galaktiska avstånd. Radioåldern kanske är högst 150 år, så tidsfönstret att upptäcka en annan civilisation är mycket litet.2.}

2. Eftersom vi pratar Häggström här så behövs det fotnot på fotnot.