Pornoindustrien slår alarm: Blir misbrukt av KI

Pornoindustrien slår alarm: Blir misbrukt av KI

Pornoskuespillere har fått føle den mørke siden av KI, kunstig intelligens. KI får dem til å gjøre og si ting de aldri ville vært med på.

– Jeg har videoer av meg selv der jeg sier ekle ting som jeg aldri ville sagt, uttalte pornoskuespiller Demi Sutra til Forbes tidligere i år.

– Jeg vil ikke være med på det

Demi Sutra forteller at ukjente personer, ved hjelp av kunstig intelligens, har fått henne til å si til kamera at hun bare er 16 år, samtidig som hun utfører seksuelle handlinger. Sutra hadde tidligere sagt nei til å spille mindreårig i seksuelle scener. Nå har noen brukt kunstig intelligens til å lage en slik scene med henne.

– Jeg vil ikke se meg selv gjøre det. Jeg ønsker ikke å være med på en slik negativ innvirkning på barn. Dette er personer som misbruker barn. Jeg vil ikke være med på det. Og akkurat nå har jeg likevel blitt en del av det – med makt, sier hun til Forbes.

I den iallfall gjennomregulerte delen amerikanske pornoindustri er samtykke vesentlig. Før innspillinger sier skuespillerne klart fra hva de ønsker og ikke ønsker å være med på. Hvis noen tråkker over den linja, kan det være kontraktsbrudd eller i verste fall lovbrudd.

– Alle bekrefter, høyt, hva vi er forberedt på å gjøre den dagen og hva vi ikke er forberedt på å gjøre, forteller skuespiller Leana Lovings til Forbes.

Teknologi for alle

KI-genererte bilder har allerede blitt en del av hverdagen vår. På sosiale medier finnes et utall av apper som gjør deg yngre, eldre eller viser deg som det motsatte kjønn.

Nettavisen har flere ganger skrevet om deepfake-videoer.

• I mai viste Debattens Fredrik Solvang hvordan deepfake kan misbrukes til å få for eksempel «ham» til å budbære påstander som han aldri ville gjort i virkeligheten.

KI-GENERERT: Sika Moon, en KI-generert influenser, har 303.000 følgere på Instagram. Foto: Montasje: Instagram

I verden av influensere har KI laget influenser Sika Moon som for tiden har 314.000 følgere på Instagram. Det er ikke lett å se at den «unge kvinnen» ikke eksisterer, men er laget og drevet av en mann.

Sika Moon er langt fra den eneste genererte lettkledd-modellen.

– Folk vil spesialtilpasse porno

De siste årene har det dukket opp bilde- og videogeneratorer der du kan bestille ditt eget fantasibilde ved å skrive hva du ønsker. En av disse er OpenAIs DALL-E 2.

Mens DALL-E 2 og flere andre sider ikke tillater at du lager seksualisert innhold, er mulighetene større i nettverdenen til porno.

På flere nettsider kan du nå bestille porno fra ditt eget hode gjennom å skrive hva du vil ha.

– Folk vil se på porno og de vil spesialtilpasse den til sin egen smak, sier den anonyme grunnleggeren av et av disse nettverktøyene til Futurism. Mens mange leker seg med å bildegjøre sine fetisher, ser andre en pengemaskin.

En av dem er IT-ekspert Alex Valaitis, som spår at halvparten av modellene på OnlyFans og andre lignende nettsteder kommer til å være KI-genererte innen 2025.

Norsk bekymring

I Norge frykter Kripos at KI, eller generativ kunstig intelligens (GKI) vil bli mer og mer brukt av kriminelle de kommende årene.

Én av mange områder denne teknologien vil bli brukt av kriminelle, er å lage overgrepsmateriale.

– Det er meget sannsynlig at gjerningspersoner allerede generere overgrepsmateriale av barn. Det er sannsynlig at slik video vil kompletteres av troverdige syntetiske lydspor med stemmer i sanntid. Selv om dette er fullstendig syntetisk materiale, vil det rammes av norsk straffelov på lik linje med andre seksualiserte framstillinger av barn, skriver Kripos i denne rapporten om generativ kunstig intelligens og cyberkriminalitet fra 2023.

– Veldig skummelt

– Jeg deler bekymringen til Kripos, sier enhetsleder Nelli Rachel Kongshaug i Rød Kors sitt samtaletilbud Kors på halsen.

Hun har nylig deltatt i seminarer i Belgia der KI-generert overgrepsmateriale var tema.

Nelli Rachel Kongshaug Røde Kors

KONGSHAUG: Nelli Rachel Kongshaug i Røde Kors Foto: MARTIN FJELLANER FR

Kongshaug sier til Nettavisen at KI allerede brukes til å produsere overgrepsmateriale, og overgripere bruker det også til å trene seg i å snakke med barn som de ønsker å forgripe seg på. Foreløpig har hun ikke hørt om tilfeller der vanlige personer har blitt generert inn i troverdige bilder og videoer der «de gjør ting» de aldri ville gjort i virkeligheten.

– Men vi vet at teknologien er lett tilgjengelig og det er veldig skummelt. Jeg er i utgangspunktet positiv til ny teknologi, men dette er den skremmende baksiden. Vi vet at kunstig intelligens gjør det mye enklere å gjennomføre overgrep mot noen fordi du med KI kan få det til å se ut som at personer gjør akkurat hva du vil, sier hun.

Har du blitt utsatt for overgrep med hjelp av KI-genererte bilder, video eller lyd? Ta kontakt med Nettavisen her.