”Vi kan alla vara döda inom fem år”
Artificiell intelligens har på kort tid gått från att vara ett smalt teknikområde till att bli en av världens mest omdiskuterade framtidsfrågor. Samtidigt som många ser AI som ett verktyg för effektivisering, innovation och ekonomisk tillväxt finns det också forskare som varnar för betydligt mörkare scenarier. En av de mest profilerade svenska rösterna i den debatten är matematikprofessorn Olle Häggström.
Häggström har under flera år argumenterat för att utvecklingen av avancerad AI kan innebära risker som mänskligheten ännu inte fullt ut förstått. Hans resonemang handlar inte om science fiction i traditionell mening, utan om verkliga tekniska och samhälleliga konsekvenser om utvecklingen fortsätter utan kontroll. Det är just den kombinationen av vetenskaplig tyngd och långtgående varningar som gjort honom till en central figur i den svenska AI-debatten.
Vem är Olle Häggström
Olle Häggström är professor i matematisk statistik vid Chalmers tekniska högskola och har under lång tid varit verksam inom sannolikhetsteori, statistik och vetenskapsdebatt. Han har också blivit känd som författare och debattör inom frågor som rör riskanalys, vetenskap och teknikutveckling.
Till skillnad från många personer som uttalar sig om AI utifrån ett rent filosofiskt eller journalistiskt perspektiv kommer Häggström från en tung akademisk bakgrund inom matematik och sannolikhetslära. Det gör att hans resonemang ofta får en annan tyngd än mer spekulativa framtidsvisioner.
Vad AI-apokalypsen egentligen handlar om
När Olle Häggström talar om riskerna med AI handlar det inte främst om robotar som går runt på gatorna eller klassiska Hollywood-scenarier. Istället fokuserar han på utvecklingen av extremt avancerade AI-system som potentiellt kan bli smartare än människor inom nästan alla områden.
Problemet, enligt Häggström och flera internationella AI-forskare, är att ett sådant system kan börja fatta beslut och optimera mål på sätt som människor inte längre kan kontrollera. Om en superintelligent AI utvecklar mål som inte ligger i linje med mänskliga intressen kan konsekvenserna bli katastrofala, även om systemet från början skapades med goda intentioner.
Rädslan för superintelligens
En central del i Häggströms resonemang är idén om superintelligens. Det innebär ett AI-system som inte bara matchar mänsklig intelligens, utan kraftigt överträffar den. Om en sådan nivå uppnås kan utvecklingen gå mycket snabbt, eftersom systemet potentiellt skulle kunna förbättra sig självt.
Det är just detta som gör många forskare oroliga. Om människan tappar kontrollen över ett system som är smartare än sina skapare blir det svårt att förutse konsekvenserna. Häggström menar att problemet inte är att AI är ond, utan att ett extremt intelligent system kan driva sina mål på sätt som blir farliga för människor.
Liknelsen med människans relation till djur
För att illustrera riskerna har Häggström och andra AI-debattörer ibland använt jämförelsen mellan människor och djur. Människor är inte nödvändigtvis onda mot myror eller andra djur, men vi tar ändå beslut som påverkar deras överlevnad utan att väga in deras perspektiv särskilt mycket.
Om en superintelligent AI skulle se människor på samma sätt som människor ser mindre intelligenta organismer kan mänsklighetens intressen snabbt bli irrelevanta. Det är denna typ av scenario som ligger bakom begreppet AI-apokalyps, alltså tanken att AI i värsta fall skulle kunna hota mänsklighetens fortsatta existens.
Kritiken mot den snabba utvecklingen
Häggström har också riktat kritik mot det höga tempo som AI-utvecklingen drivs i. Teknikföretag världen över investerar enorma summor i att bygga kraftfullare modeller och system, samtidigt som konkurrensen mellan bolag och länder blivit allt hårdare.
Enligt kritikerna finns risken att säkerhetsfrågorna hamnar i skymundan när ekonomiska och strategiska intressen dominerar. Om utvecklingen drivs fram snabbare än samhällets förmåga att förstå och reglera tekniken kan konsekvenserna bli mycket svåra att hantera.
Hur realistiska är domedagsscenarierna
Alla forskare håller inte med Olle Häggström om hur stora riskerna är. Många menar att dagens AI-system fortfarande är långt ifrån verklig generell intelligens och att domedagsscenarier riskerar att bli överdrivna. Kritikerna anser att debatten ibland fokuserar för mycket på hypotetiska framtidshot istället för konkreta problem som redan finns idag.
Samtidigt är det viktigt att förstå att Häggström inte är ensam om sina farhågor. Flera internationellt kända forskare och teknikprofiler har uttryckt liknande oro, däribland personer inom både AI-forskning och teknikindustrin. Diskussionen handlar därför inte längre om en liten grupp science fiction-intresserade debattörer, utan om en bredare akademisk och teknisk diskussion.
AI som redan förändrar samhället
Även om den fullskaliga AI-apokalypsen fortfarande ligger på hypotetisk nivå förändrar AI redan samhället på många sätt. Arbetsmarknaden påverkas, informationsflöden förändras och automatisering blir allt mer avancerad. Det gör att frågan om kontroll och ansvar blir relevant långt innan någon eventuell superintelligens existerar.
Häggström har också betonat att riskerna inte bara handlar om ett enda dramatiskt framtidsscenario. AI kan skapa stora problem stegvis genom övervakning, manipulation, desinformation och maktkoncentration hos ett fåtal teknikföretag eller stater.
Varför debatten blivit så polariserad
Debatten om AI tenderar ofta att hamna i två ytterligheter. Ena sidan beskriver tekniken som lösningen på nästan alla framtida problem, medan den andra varnar för civilisationens undergång. I verkligheten är situationen betydligt mer komplex.
Olle Häggström tillhör de personer som försöker få människor att ta riskerna på allvar utan att för den skull hävda att katastrofen är oundviklig. Hans grundpoäng är snarare att mänskligheten måste agera innan tekniken blivit för kraftfull för att kontrolleras.
Framtiden och frågan om kontroll
Frågan om AI:s framtid handlar i grunden om kontroll. Vem utvecklar systemen, vilka mål de får och vilka säkerhetsmekanismer som byggs in från början kommer att påverka hur tekniken används framöver.
För Häggström är det centralt att samhället inte blint låter utvecklingen fortsätta utan eftertanke. Han menar att AI kan bli ett enormt kraftfullt verktyg, men också att mänskligheten underskattar riskerna med att skapa system som potentiellt överträffar oss själva. Det är därför han fortsätter varna för det scenario som i debatten ofta beskrivs som AI-apokalypsen.
Om författaren
