Till tonerna av “Highway to Hell" av AC/DC gör Max Tegmark (ibland kallad världens smartaste svensk) sin åsikt om AI klar i Sommar i P1. Precis som låttiteln antyder är vi på väg käpprätt åt skogen, menar han.
Det är inte första gången han lyfter mer än bara ett varningens finger om AI och dess snabba utveckling. Så sent som i våras skrev han tillsammans med flera andra forskare, företagsledare och politiker under ett uttalande där AI pekades ut som ett existentiellt hot. Bland annat medverkade han i SVT:s 30 minuter.
Förutom professorstiteln leder han även organisationen Future of life institute, som vill minska riskerna med artificiell intelligens.
Inledningsvis i sitt sommarprat berättar MIT-professorn att han den senaste tiden tänkt mycket på liv och död.
Kanske är 56-åringen själv näst på tur i sin familj att lämna jordelivet, berättar han, samtidigt som han gissar på att resten av mänskligheten stryker med ungefär i samma veva, efter ungefär 100.000 år på den här planeten.
“Jag tror nämligen att AI kommer att utplåna hela mänskligheten väldigt snart”, säger Max Tegmark.
Under resten av sitt sommarprat förklarar han hur hans liv som forskare, aktivist och pappa har lett honom till ovanstående slutsats.
Men han ger också tre konkreta skräckexempel på hur AI skulle kunna användas på fel sätt som skulle innebära tack och godnatt för mänskligheten: Illvillig användning, AI-konkurrensen och felriktad AI.
Med det sagt menar han att medan många anser att AI ska vara tillgängligt för alla, så tycker han själv att det skulle vara “mer oansvarigt än att dela ut pistoler och handgranater på lekis och hoppas att ingen ska använda dem.“
Han påpekar också att marschen mot AI har gått mycket snabbare än förväntat.
När han sommarpratade för fem år sedan resonerades det om att det skulle ta 30 år innan AI skulle bli så pass bra på språk och kommunikation att en människa skulle missta en AI för en annan människa. Men nu är vi redan där.
Han sätter AI:s utvecklingen i relation till sin sju månader gamla son, Leo, som han menar är “lyckligt ovetande” om hur vårdslösa vuxna är om framtiden. Sonens språkförmåga ligger långt efter system som exempelvis ChatGPT, menar han.
“AI:s förmåga förbättras snabbare än hans, så jag tror tyvärr inte att han någonsin kommer ikapp AI. Den tanken gör mig både rätt och arg. Hur ska han få jobb och kunna försörja sig? Är det ens något vits att börja skolan?”
Efter det senaste Sommarpratet signerat Tegmark, som publicerades 2018, menade vissa att han då skrämdes i onödan. Men nu har de flesta av de kritikerna tystnat.
“Ett fel många AI-skeptiker begick var att tro att vi behövde förstå hur människohjärnan fungerar innan vi kunde bygga något smartare, men vi lyckades bygga flygande maskiner långt innan vi listade ut hur man bygger en mekanisk fågel. På samma sätt kunde vi bygga tänkande maskiner innan vi listade ut hjärnan.”
Ett annat felaktigt antagande var att intelligensen måste programmeras av människor.
“Intelligensen i dagens bästa AI-system är inte inprogrammerad utan framodlad. Den listar ut saker från stora mängder data. Precis som ett barn kan bli smartare än sina föräldrar kan en AI bli smartare än sina skapare.”
Återigen sätter han AI:s utveckling i relation till sin lilla son.
“Det är som att vi hade gett Leo tre månader att läsa hela nätet utan någon som helst undervisning, utan att han ens kunde prata eller läsa i början, och sedan plötsligt kunna svara på frågor om nästan vad som helst på nästan alla språk. Nu förstår du kanske varför jag är rädd.”
Han understryker att hotet från AI inte handlar om ondska, utan om kompetens.
Men hur kommer det sig då att det har gått så här långt?
Max Tegmark svarar på frågan: Kortsiktiga kommersiella intressen.
Nyfiken på fler sommarprat av tech- och ekonomiprofiler? Vi listar alla namnen här.