När Arve Hjalmar Holmen ville kolla vad Chat GPT visste om honom fick han en chock. Chattbotten svarade nämligen att han hade mördat två av sina barn, och försökt att mörda sitt tredje.
Något som var helt taget ur luften och en hallucination från Chat GPT. Nu anmäler den ideella organisationen NOYB (None of your business) Open AI till norska myndigheten Datatillsynet för att ha brutit mot GDPR. NOYB är specialiserade på att driva rättsfall som bryter mot integritetslagar.
“GDPR är tydlig, personuppgifter måste vara korrekta”, säger Joakim Söderberg, dataskyddsadvokat på NOYB i ett pressmeddelande.
“Om de inte är det har användare rätt att få dem ändrade så att de återspeglar sanningen”.
När Arve Hjalmar Holmen frågade Chat GPT påstod den inte bara att han hade mördat sina barn. Den påstod också att han hade dömts till ett långt fängelsestraff för det. I sitt svar vävde dessutom chattbotten in saker som faktiskt var sanna, som namnen och åldern på hans barn och hans hemstad.
“En del tror ju på ingen rök utan eld”, säger Arve Hjalmar Holmen i ett pressmeddelande..
“Det som skrämmer mig mest är att någon skulle kunna läsa detta och tro att det är sant”.
När man är inne på Chat GPT står det “Chat GPT kan begå misstag”. Det räcker dock inte menar NOYB.
"Att lägga till en ansvarsfriskrivning om att du inte följer lagen gör inte att lagen försvinner”, säger Kleanthi Sardeli, advokat på NOYB.
“AI-företag kan heller inte bara 'dölja' falsk information för användare medan de internt fortfarande behandlar felaktig information. AI-företag borde sluta agera som om GDPR inte gäller för dem, när det uppenbarligen gör det. Om hallucinationer inte stoppas kan människor lätt drabbas av ryktesskador."
Sedan sökningen gjordes har Chat GPT uppdaterat sin modell och uppgifterna om Arve Hjalmar Holmen kommer inte längre upp.