Domedagsprofetierna och drömmen samexisterar när det kommer till AI.
AI ska göra oss smartare och bättre. Den nya tekniken kan erbjuda oss outtömlig intelligens som gör att vi kan bygga större bolag med färre människor. Det säger Sana Labs grundare och vd Joel Hellermark när han pratar på Breakits evenemang SaaS-summit – på länk från Paris där han är för möte med en potentiell partner.
Joel Hellermark är det svenska framtidslöftet som har tagit in närmare 1 miljard kronor och som öppnar kontor i New York och London. Han varnar för att SaaS-bolag som inte bygger sin infrastruktur utifrån AI kommer att bli förbisprungna inom en snar framtid.
En av de som investerat i Sana Labs är Anna Felländer. Hon har varit chefsekonom och digitaliseringschef på storbanken Swedbank. Hon är också expert inom ansvarsfullt AI, panelmedlem på SaaS Summit i den rollen, och grundare av Anch.AI. Det är ett AI-bolag som har utvecklat metod, ramverk, tjänster och verktyg för kontroll av etiska och regulatoriska AI-risker. Nästa år implementeras till exempel EU:s AI Act, där bolag som bryter mot reglerna riskerar att betala dryga böter och där bolag med så kallad högrisk-AI ska redovisa förklarbarhet, transparens och styrning av AI-lösningen och även den mänskliga inblandningen, det vill säga ”human in the loop”.
Du är ju på båda sidorna. Hur balanserar du möjligheterna och riskerna med AI, att pusha framåt och samtidigt dra i tyglarna?
“Vi jobbar hela tiden för att pusha AI – med en etisk lins. Människan ska leda AI, AI ska inte leda oss. Just nu befinner vi oss i ett historiskt skede där generativ AI inte bara behöver förstås av utvecklare och tech team utan av vd:ar och grundare, eftersom det rör sig om enorma kostnadsbesparingar och regelefterlevnad. Frågan kring AI har gått från tech till affär”, säger hon.
“Det betyder att etiska frågor kommer högt upp på agendan i ledningsgrupperna. Det handlar till exempel om att ställa vinst mot ett ansvar att förklara det som tidigare varit som i en svart låda. Frågor som: När övergår skräddarsydda rekommendationer till manipulation?”
Toppcheferna måste göra sig redo för att tumskruvarna kommer att skruvas åt och Anch.AI ska hjälpa.
Anna Felländer på scen under Breakit SaaS Summit. Foto: John Resborn
AI är ett sådant buzzword. Hur går det ihop att rusa mot AI-trenden och att ta tag i etiska frågor som ju måste kräva rätt mycket eftertänksamhet?
“Svenska bolag rusar inte mot AI. De är faktiskt väldigt försiktiga”, säger Anna Felländer.
Det är där Anch.AI kommer in och hjälper bolag bygga in ansvar från början, fortsätter hon.
Men man får ju bilden av att en del drabbas av AI-stress, när AI syns i var och varannan rubrik?
Anna Felländer ser det inte så.
“AI-stress är bra!”, utbrister hon.
“Utse en ansvarig som kan bedöma de etiska och legala riskerna och börja använda generativ AI där risken är låg. Ett ramverk för ansvarsfull AI kan vägleda därefter. Då finns det enorma möjligheter att stärka kundrelationer och kostnadsspara.”
Vilka är de verkliga etiska fallgroparna när man ska implementera AI?
“Integritetskränkning, förlorad autonomi, social exkludering och diskriminering.”
Som ett exempel på social exkludering nämner hon ett telekombolag som oavsiktligt prioriterar underhåll i nät i ekonomiskt starkare områden över svagare, eftersom algoritmen lärt sig att fakturorna betalas snabbare i de köpstarka områdena och det blir därmed mer kostnadseffektivt. AI kan diskriminera genom att till exempel ge sämre eller inga krediter till en kvinna trots att hon har samma ekonomiska ställning som en man för att historisk data visar att män har haft starkare finanser.
“Det sker mycket diskriminering på grund av partisk data. 85 procent av alla AI-projekt leder till missvisande resultat”, säger Anna Felländer.
Anna Felländer på scen under Breakit SaaS Summit tillsammans med Oliver Edholm, grundare och vd, Depict, Caroline Hultman, Principal, J12 Ventures och moderatorn Hannah Meiton, SaaS-veteran och investerare. Foto: John Resborn
Finns en etisk uppsida
AI-tekniken kommer inte leda sig själv rätt. Anna Felländer trycker på att bolag måste visa ledarskap över AI.
“Underskatta inte mänsklig intelligens, kritiskt tänkande, intuition och empati.”
På Breakits scen på SaaS Summit säger hon att även om rädslan är att jobben är hotade så kan en ökad produktivitet på arbetsplatserna – när AI används rätt – öppna för fler och nya jobbtillfällen.
Anna Felländer uppmuntrar bolag som implementerar AI att utse en ansvarig som kan bedöma avkastning och risk utifrån ett integrerat tekniskt, legalt och affärsmässigt perspektiv. Har man inte det riskerar man sanktionskostnader.
“De bolag som tillhör högrisk enligt AI Act behöver förklara hur algoritmen kommit fram till vissa beslut. Och det måste jag som kund också veta, precis som jag måste veta vad som är AI-genererat innehåll och inte.”
“Just nu är det lite vilda västern. Och techteam utvecklar AI i ett organisatoriskt silo. För att omfamna AI ansvarsfullt behövs en riskbedömning som integrerar det tekniska, lega och affärsmässiga perspektivet”, säger Anna Felländer.
Nu har vi pratat om riskerna. Vad ser du för etisk uppsida med AI för bolagen?
“Bolag som följer ansvarsfulla AI-principer kommer att vinna tillit. Vilken sida väljer du – ett bolag som vet och kan förklara hur och varför de använder din data och där du får vara med och bestämma eller en amerikansk jätte som inte berättar något och manipulerar dig in i ett köpbeteende? Tillit är A och O.”