Nå begynner det virkelig å bli skummelt her

SHIT: En hai på stranda i Foten, eller? Se video lenger ned i saken.

Nå begynner det virkelig å bli skummelt her

(Fredriksstad Blad): Sist torsdag ble skillet mellom den håndfaste, virkelige verden og den kunstige, visket enda litt mer ut. Det er Open AI – selskapet som det siste året har fått hele klodens befolkning til å la seg fascinere av språkmodellen Chat GPT – som igjen sprenger grenser:

Det er utviklet et program som kan produsere falske videoer på opptil 60 sekunder, basert på instruksjonene du som bruker selv gir. Sora, som programmet heter, og som nok ganske snart vil være like populært og omtalt som Chat GPT, lar deg velge emne og stil. Det er også mulig bruke et stillbilde for å produsere en slik video.

Og nok en gang må vi som vanlige mennesker snappe etter pusten – og på én og samme gang la oss fascinere, imponere og kjenne på uro.

For nå går kunstig intelligens – styrt av et knippe globale giganter – fremover i et tempo så rivende at knapt noen greier å henge med i svingene. Og hvor vi må stille spørsmålet: Vil det om ikke veldig lenge i det hele tatt være mulig å skille mellom hva som er ekte og falskt?

Venstres Grunde Almeland mener det som skjedde torsdag sannsynligvis markerer et historisk skifte i vårt forhold til teknologi, og at det nå er tidskritisk for norske politikere å komme på offensiven.

Han er ikke alene. I hele den vestlige verden fremkaller nå kunstig intelligens svettetokter hos ledende politikere. For hvordan skal man egentlig få en utvikling som nå nærmest går med lynets hastighet inn i kontrollerte former? Og er det i det hele tatt mulig?

Her kan du se eksempel på en video Sora har laget, basert på brukerens ønske. Den viser samme frekvens fra fem vinkler. Er du i stand til å se at dette ikke er ekte? Bill Peebles, som er helt sentral i utviklingen av Sora, har publisert den på X:

Hva om noen hadde laget et falskt lydklipp hvor Arne Sekkelsten «avslørte» sin plan for å jukse til seg valget i Fredrikstad? spurte jeg i en kommentar før jul. Da hadde én av presidentkandidatene i Slovakia akkurat blitt utsatt for noe lignende.

Ifølge Freedom House ble systematisk desinformasjon brukt til å forvirre offentligheten i politiske og samfunnsmessige saker i 16 land i fjor. Det skjer gjennom å spre nyheter, bilder og videoer som publikum oppfatter å være ekte, men som er rent oppspinn.

Det er et skremmende bakteppe på vei inn i et år hvor det er valg i Storbritannia, India og ikke minst USA. Ifølge Open AI jobber selskapet knallhardt med å legge inn begrensninger for at programmene deres ikke skal brukes til å spre løgner, desinformasjon og falske nyheter.

– Inntil vi vet mer, tillater vi ikke folk å bygge applikasjoner til bruk i valgkamp og lobbyvirksomhet, heter det fra selskapet.

Norske eksperter på området er likevel tvilende til hvor godt slike tiltak faktisk vil kunne fungere. Eskil Grendahl Sivertsen ved Forsvarets forskningsinstitutt (FFI) er blant dem. Han mener at alt vi allerede kjenner til av tidligere valgmanipulasjon i tiden fremover kan gjennomføres i mye større omfang og med langt større treffsikkerhet med KI.

Midt oppi denne rivende teknologiutviklingen, som akkurat nå kan virke ganske kaotisk og uoversiktlig, melder flere spørsmål seg rundt det aller viktigste av hva vi har. Ytringsfriheten.

En frihet som bygger på de tre prinsippene om sannhetssøking, demokrati og individets rett til fri meningsdannelse. Den nylig publiserte – og svært viktige – rapporten «Generativ kunstig intelligens og ytringsfrihet», viser hvordan disse prinsippene er under stadig større press nå som muligheten til å manipulere på en troverdig måte blir tilgjengelig for absolutt alle.

• Økt grad av desinformasjon leder ikke til sannhetssøken.
• Algoritmer som presenterer det man allerede er enig i, styrker ikke personlig autonomi.
• Utenlandske trollfabrikker underbygger ikke demokratiet.

Med fremveksten av sosiale medier, og nå etter hvert kunstig intelligens, er det interessant å se hvordan synet på offentlig regulering av ytringsfriheten har endret seg fundamentalt.

Mens den norske ytringsfrihetskommisjonen i 1999 mente at jo mindre reguleringer vi har av det offentlige rom, jo bedre er det for ytringsfriheten – så kommer nå samme kommisjon til stikk motsatt konklusjon:

Det vi trenger nå er reguleringer for å bevare ytringsfriheten, lyder anbefalingen.

I tiden fremover vil mye handle om hvilke tiltak det faktisk er mulig å innføre for å gjøre det enklere å skille sant og ekte fra falskt og fabrikkert. Samtidig som ytringsfriheten best blir ivaretatt for oss alle.

Hai på stranda, eller?! Nok et eksempel på en KI-generert video via den nye tjenesten Sora. Ville du vært i stand til å se at dette ikke er ekte?

I en fersk rapport peker Norges institusjon for menneskerettigheter (NIM) og teknologiråder på disse mulige tiltakene:

1. Utvikle standarder for merking og verifisering av det som er kunstig generert innhold.
2. Stille de globale plattformselskapene Google, Meta (Facebook og Instagram) og X (tidligere Twitter) til ansvar når de sprer ulovlig, skadelig og falskt innhold.
3. Styrke befolkningens forståelse av kildekritikk på digitale flater.
4. Støtte de redaktørstyrte mediene, fordi det i møtet med kunstig intelligens i tiden fremover bli enda viktigere at publikum kan stole på tradisjonelle, redaktørstyrte medier.
5. Sterke koalisjoner av stater for å regulere et marked som er dominert av globale aktører (nevnt i punkt to).

Til det siste punktet understrekes det spesielt at her må Norge være med. Det er en særdeles viktig påpekning i en tid hvor KI-toget, på godt og vondt, dundrer fremover med stadig større fart.

Og hvor en fartsgrense akkurat nå ville føles velkomment.