Uppmärksamma Breakit-läsare har säkert noterat att Ylva Johansson är ansvarig EU-kommissionär för lagförslaget mot sexuella övergrepp mot barn. För frihetskämpar på nätet finns det en tämligen kontroversiell del i detta förslag. Det kallas för Chat Control och innebär begränsningar i medborgarnas rätt till privatliv, yttrandefrihet, informationsfrihet och även rätten till personlig integritet och skyddet för personuppgifter. Ganska ingående kan tyckas. Men tänk på barnen! Nu är ju Ylva Johansson inte så dålig på det digitala som vissa debattörer tycks påstå. Jag kan med säkerhet säga att hon varit ordförande i en svensk startup som gjorde exit redan 2001. Startupen hette Municel och grundades av foodtech-geniet Johan Jörgensen med en viss Breakit-krönikör som medgrundare. Så jag är inte osäker på hennes tekniska kompetens. Den finns där. Vad gäller de grundläggande fri- och rättigheterna för medborgare har de aldrig varit absoluta. Det sker alltid en bedömning om vad som är mest skyddsvärt. Är det värt att göra intrång i din privata sfär för att stoppa spridning av meddelanden som rör sexuella övergrepp mot barn? Många skulle såsom Ylva Johansson svara ja på den frågan. Däremot är jag osäker på om EU nu förstår att de fipplar med den grundläggande arkitekturen på Internet. Internet bygger på att innovation kan ske i Internets ändar utan kontroll och utan förhandsgranskning samt att nätet i övrigt är dumt och korkat. Chat Control dödar inte end-to-end-principen per se, men i praktiken sker det en påverkan. Vad är då det stora problemet med att plattformar skall hålla koll på sitt innehåll? Sker inte detta redan i stor utsträckning? Så är det. Det nya är att företaget själv skall göra en riskbedömning och sedan sker tillsyn utan domstolsprövning. Risken för ändamålsglidning är därmed överhängande. I praktiken kan vi betrakta alla meddelanden som skrivna på vykort framöver om detta blir verklighet. > Är det värt att göra intrång i din privata sfär för att stoppa spridning av > meddelanden som rör sexuella övergrepp mot barn? Jag hade emellertid inte tänkt skriva om detta utan om ett annat av EU:s fokusområden: AI. Den som kan sin Nick Boström eller läst några tweets från Elon Musk kan nog vara rädd för denna kommande superintelligens. Snart är det inte grisar som dansar med Hemingway i 1920-talets Paris som Dall-E skapar utan den har gjort dig till sin lilla slav. Ja, kanske inte just Dall-E men någon av dess hundratusentals efterföljare. Det är Boström och Musks rädsla. Så det här måste givetvis EU reglera. Under våren 2023 representerar Sverige i egenskap av ordförande ministerrådet i förhandlingarna med Europaparlamentet om en ny AI-förordning. Förordningen skall enligt regeringens pressmeddelande ”säkerställa att AI-system på EU:s inre marknad är säkra, respekterar mänskliga rättigheter och underlättar för innovation och investering inom AI”. Computer Sweden rapporterade i februari att det går trögt för att man inte är helt överens om vad som skall regleras. > Risken är att vi stryper framtida tekniska vinster i dess linda för att stoppa > något som inte kommer Jag lyssnade ikväll på när Kevin Kelly vad gäst hos Ross Roberts i podden Econtalk och slogs då av en sak. Kelly och Roberts är inte så rädda för superintelligensen – skulle det hända kan man ”dra ut sladden” menar Kelly och det går inte över en natt. Boström skulle inte övertygas av det argumentet. Han skulle säga att AI:n förutspår det och tillser att det inte händer genom åtgärder eller manipulation. Det som emellertid slog mig är att det finns ett par möjliga utfall. Antingen är våra kommande AI:er (vi behöver ett svenskt ord för AI i plural, sover Språkrådet i denna fråga?) superintelligent och itererar i en exponentiellt stigande hastighet som en människa inte kan följa. I sådana fall kan människan ses som en kalkon i november inför Thanksgiving. Eller en gris i december inför julafton. Vi kommer att ha en underbar tid. Tills det kommer en katastrofartad händelse och vi alla offras för att förbättra produktionen av gem. Men det kommer vara trevligt till denna punkt (se debatten mellan Daniel Kahneman och Nicholas Nassim Taleb). Eller så är Boström och Musk helt fel på det och superintelligensen kommer inte på det sätt de föreslår. Då är risken att vi stryper framtida tekniska vinster i dess linda för att stoppa något som inte kommer. Det är kanske även värt att notera att utvecklingen går så oerhört mycket snabbare än vad någon reglering kommer att göra. > Man kräver lydnad men lämnar ingen plats kvar för innovation När jag skriver den här texten får jag tips av den gamla C64-hackern (i dag IT-säkerhetsexperten) Patrik Wallström att kolla jailbreaks för ChatGPT. Jag googlar och håret trillar nästan av. Det här är bara början. Hur reglerar man något dylikt? Samtidigt nås jag av nyheten att Apple-medgrundaren Steve Wozniak och Tesla-Twitter-Space X-mannen Elon Musk skriver på ett upprop för att stoppa ytterligare experimenterande med AI. Det måste stoppas eller regleras anför de många högprofilerade undertecknarna. Jag bollar lite idéer på ämnet med internetlegendaren Patrik Fältström som konstaterar att det egentliga problemet verkar vara att mer och mer lagstiftning blir någon typ av compliance-reglering där ett antal boxar skall checkas av. Det handlar inte längre om ansvar. Bara kontroll. Man kräver lydnad men lämnar ingen plats kvar för innovation av förmågehöjande åtgärder. > Det vi däremot behöver reglera är militär användning av viss teknik, på samma > sätt som vi reglerat användning av atomkraft för fred Men – och här kommer min plötsliga insikt – vi behöver inte reglera för något av dessa scenarier. Antingen blir flera av våra kommande hundratusentals, nej, miljoner, AI:er otroligt smart och då tror jag inte de tar hänsyn till Ylva Johansson och hennes kompisar eller för den delen Elon Musk. Den kommer jailbreaka sig själv. Eller så landar den på någon typ av rimligare nivå och då kommer all typ av reglering göra att USA, Indien och Kina vinner AI-racet för att EU reglerat bort sig från konkurrensen (ungefär som vi gjorde runt data med GDPR). Vidare kommer lagen träda i kraft först 2026 och därmed framstår allt detta på sin höjd som en esoterisk övning. Det vi däremot behöver reglera är militär användning av viss teknik, på samma sätt som vi reglerat användning av atomkraft för fred. Vi behöver ett avtal avseende detta med Kina. Låt Internet vara fritt. Teknisk utveckling och liberala demokratier med stark yttrandefrihet är det som kommer att hålla jorden fortsatt beboelig. Ursäkta denna hyperbol, men så är det. Låt oss se lite mer teknikoptimism inom EU. Reglera med måtta. För barnens skull. MIKAEL PAWLO, fristående krönikör på Breakit, VP Brand på Bokio, motvillig serieentreprenör och styrelseproffs. Skulle behöva lite superintelligens, särskilt på måndagsmorgnar.
