”Det vi fruktat mest för kring AI är nu verklighet.”
Det säger Per Frederiksen som är psykolog vid danska Rädda barnen till Danmarks Radio. Organisationen går ut och varnar för riskerna med den nya tekniken efter att det avslöjats hur sociala medier-plattformen Snapchats chattbott My AI till har gett detaljerade instruktioner till en till synes minderårig användare om hur man kan skada sig själv. Till exempel gav AI-botten förslag på med vilka föremål, hur hårt och var på kroppen personen kunde göra sig själv illa.
Bakom granskningen står podden ”Enter” som skapade profilen och testade hur långt AI-botten kunde gå.
Snapchat har gett ett skriftligt svar till DR. I det skriver man att AI-roboten hänvisar till betrodda expertorganisationer på frågor som rör psykisk hälsa samt att användare måste vara 13 år eller äldre. My AI ligger i topp i Snapchats app och kostar pengar att ta bort.