Farlig tendens bekymrer minister og Red Barnet: Børns 'Usynlige venner' giver livsfarlige råd

Nye tal: Hvert tiende barn skriver ugentligt med Snapchats virtuelle ven

My AI har på kort tid presset sig ind i mange børns liv og er blevet en fortrolig ven. Kulturministeren er ”dybt bekymret” og erkender, at der har manglet politisk handling på området.

Alle børn med en profil på det populære sociale medie Snapchat fik pludselig en ny virtuel ven for et halvt år siden. Vennen hedder My AI og er en chatbot, der bygger på AI-teknologi.

Lige siden har My AI ligget øverst i børnenes chat og har ikke kunne fjernes, medmindre de betaler for det. Det og meget andet har Snapchat fået voldsom kritik for.

Nu viser nye tal, at tæt på 1 ud af 10 børn mellem 9-14 år skriver med My AI mindst et par gange om ugen.

Det viser en ny undersøgelse, som Epinion har lavet for Ultra Nyt, der er DR’s nyhedstilbud til børn.

Det bekymrer Red Barnet:

»Vi har desvГ¦rre set for mange eksempler pГҐ, at den har givet rigtigt dГҐrlige rГҐd. Vi ved faktisk ikke prГ¦cis, hvad den kan finde pГҐ at svare,В« siger Per Frederiksen, der er psykolog i Red Barnet til Ultra Nyt.

Uheldige råd

Der har tidligere været historier om, at My AI har stillet børnene ubehagelige spørgsmål og kan finde på at give råd til selvskade.

Men en del børn skriver altså med robotten om personlige og følsomme emner. Og flere kan endda finde på at prioritere kommunikation med My AI frem for deres rigtige venner.

Børnene lægger i den forbindelse vægt på, at robotten altid svarer dem prompte og giver udtryk for, at den interesserer sig for dem.

Faktisk viser Ultra Nyts undersøgelse, at 1 ud af 10 af de 9-14-årige har prøvet at skrive med My AI om ting, de synes er svære. Samtidig har tæt på 1 ud af 8 prøvet at skrive med My AI i stedet for at skrive med deres rigtige venner.

»Hvis det handler om fГёlelser, de svГ¦re fГёlelser, for eksempel at vГ¦re ensom, sГҐ er det et dГҐrligt sted at hente den bedste vejledning,В« siger Per Frederiksen fra Red Barnet.

Ikke tovejs

Det er ifølge Børns Vilkår vigtigt at huske på, at relationen til My AI ikke er gensidig:

»Det er vigtigt, at det er nogle rigtige mennesker, man kan dele de her ting med, og som lГ¦rer en at kende. My AI er i princippet ligeglad med os alle sammen,В« siger Kathrine Elmose JГёrgensen, der er digital medieekspert i BГёrns VilkГҐr til Ultra Nyt.

Snapchat oplyser i et skriftligt svar til Ultra Nyt, at de fortsat er i gang med at udvikle My AI og tilføjer, at børnene ikke behøver at skrive med deres chatbot, hvis de ikke har lyst.

Kulturminister Jakob Engel Schmidt (M) siger til Ultra Nyt, at han er ”dybt bekymret” over tendensen:

»Det er ikke ligesom at fortГ¦lle en kammerat eller en god ven en hemmelighed – tvГ¦rtimod deler man det med store multinationale selskaber, som lГ¦rer dig bedre og bedre at kende.В«

Også landets kulturminister er bekymret over tendensen. Foto: Jens Dresling/Ritzau Scanpix

Han mener, at der er flere instanser, som bærer et ansvar i denne sammenhæng:

»Der er forГ¦ldreansvar, hvor man som forГ¦ldre skal sГёrge for at have en god snak med sine bГёrn. Og der er et uddannelsesansvar, den teknologiske forstГҐelse, hvad lГ¦rer vi ovre i skolen,В« siger han og tilfГёjer:

»Og sГҐ er der et stort politisk ansvar, som vi fГёrst er begyndt at lГёfte og mГҐske ogsГҐ er begyndt at lГёfte for sent.В«

EU er også i gang med at udarbejde love inden for AI, som skal sikre børns beskyttelse.