En sak är säker. AI-profilerna som varnar för AI håller inte igen. Tvärtom. De tar i. Igår varnade en chefsforskare för Anthropic, Evan Hubinger, att det är “över tio procents risk” att AI dödar hela mänskligheten under det närmaste decenniet. Han gav eko till en ung forskare som vad det verkar i vredesmod lämnat samma bolag. Jacob Coxon, som även arbetat på konkurrerande OpenAI, sa att AI-jättarna leker med människors liv och att ingetdera är ansvarstagande nog för den enorma kraft de utvecklar. “De som bygger AI tror på allvar att detta kan döda oss i slutet av det här årtiondet”, skrev han i en serie inlägg på X som bland annat Financial Times lyft fram. “Det här är inte ett pr-stunt”, fortsatte han. Det farliga ligger inte i dagens modeller utan framtida modellers kapacitet att utveckla sig själva till övermänskliga versioner, enligt Coxon. Hans inlägg på X har nu setts av över 70 miljoner människor och i en intervju med Wired utvecklade han sina tankar. Utspelen kommer efter att även OpenAI:s chefsforskare Jakub Pachocki varnat i ett blogginlägg på söndagen om att inget bolag löst säkerheten nödvändig för att utveckla så kraftfull AI. “Jag hoppas på frivilliga pauser i utvecklingen”, skrev han. Det är inte första gången som en mörk framtid målas upp av AI-expertisen. Men hur allvarligt är hotet? Dagens Nyheter har pratat med en svensk expert. Och han är lite mer tveksam. “Hotet mot mänskligheten är inte den risk jag är mest orolig över när det kommer till artificiell intelligens”, säger Fredrik Heintz, professor i datavetenskap vid Linköping universitet som även forskar på AI. Han lyfter istället akuta problem i cybersäkerhet för it-system och viktig infrastruktur.
