Deepfake-teknologi brukes både til underholdning og til å manipulere offentligheten – noe som kan få alvorlige konsekvenser, blant annet i politiske valg. Får vi se det i det kommende norskje valget?

 Under en konferanse om digital sikkerhet i regi av SINTEF holdt forsker Viggo Tellefsen Wivestad et foredrag om deepfake. Han åpnet med en video av seg selv som Brad Pitt – både med utseendet og stemmen til skuespilleren. Selvfølgelig var det ikke ekte.

– Jeg klonet stemmen hans på under tre minutter, avslørte Wivestad.

Hva er deepfake?

Deepfake er en teknologi som bruker kunstig intelligens til å manipulere lyd, bilder og video. Begrepet «deep» kommer fra dyp læring, en gren innen KI, som gjør det mulig å lage svært realistiske forfalskninger.

I dag kan enkle opptak brukes til å klone stemmer, og verktøy som Microsofts teknologi kan generere falske videoer basert på kun ett bilde. Mens slike teknologier kan ha nyttige bruksområder, blir de også utnyttet til svindel og manipulering.

Farlige konsekvenser

Deepfake har allerede hatt stor påvirkning, blant annet i amerikansk politikk. Under valgkampen ble det laget falske lydopptak av president Joe Biden, der han angivelig ba folk om å ikke stemme. I tillegg har det blitt spredd manipulerte bilder av kjendiser, som blant annet skulle fremstille Taylor Swift-fans som Trump-tilhengere.

Dette er skadelig fordi det skaper usikkerhet om hva som er ekte og hva som ikke er det. Hvis man ikke kan stole på lyd og bilder, blir det lettere å avvise ekte hendelser som falske.

Svindel og kriminalitet

Teknologien gir også kriminelle nye muligheter. Wivestad nevner et tilfelle i Hong Kong der en finansmann ble lurt til å overføre 25 millioner dollar etter et videomøte med det han trodde var sin sjef og flere kolleger. Det viste seg at alle deltakerne i møtet var deepfake, både ansikter og stemmer.

Deepfake brukes også i cybermobbing. I Sør-Korea har skoleelever laget pornografiske videoer med ansiktene til medelever. Også kjendiser har blitt utsatt for lignende forfalskninger.

Hvordan avsløre deepfake?

Wivestad advarer om at metoder for å avsløre deepfake stadig må oppdateres, men gir noen råd:

Se etter feil i detaljer, som antall fingre eller merkelige former.
Skygger, speilinger og bakgrunn kan avsløre manipulasjon.
Vurder om bildet kommer fra en troverdig kilde.
Spør deg selv om innholdet er ment for å skape sterke følelser – det kan være et forsøk på manipulering.
For å unngå å bli lurt i videomøter anbefaler han å ha et kodeord eller stille spørsmål som svindlere ikke kan vite svaret på.

Hva kan gjøres?

Teknologiselskaper som Microsoft, Google og OpenAI jobber med å utvikle metoder for å avsløre deepfake, men utfordringen er at teknologien også blir stadig mer avansert.

Løsningen ligger ikke bare i verktøyene, men i hvordan samfunnet regulerer og bruker dem. Wivestad understreker at vi trenger institusjoner, forskere og journalister vi kan stole på. Kritisk tenkning, digital bevissthet og gode sikkerhetsrutiner blir viktigere enn noen gang.

Saken er skrevet på bakgrunn av innhold i andre nettsteder, blant annet gemini.no