Deepfakes

Ved hjelp av lett tilgjengelige KI-teknologier kan hvem som enkelt manipulere og skape kunstige videoer, bilder, etterligne stemmer, eller kombinere alle disse teknikkene.

Deepfake er ikke lenger science fiction, men brukes i dag aktivt til alt fra underholdning til utpressing, mobbing og svindel.

Hva er en deepfake?

En deepfake er et bilde, en lydfil eller en video som er laget eller endret av kunstig intelligens slik at det virker helt ekte. Navnet er satt sammen av deep learning (avansert maskinlæring) og fake (forfalskning).

Med dagens teknologi kan hvem som helst laste opp et bilde av en person – og i løpet av kort tid få en video der den personen sier eller gjør ting. Det kreves lite teknisk forkunnskap, og det er lett å komme i gang med tilgjengelige apper og tjenester.

Typiske former for deepfakes:

• Bytte ansikt: Ditt ansikt plasseres på en annen persons kropp.
• Stemmekloning: En KI lager en kopi av stemmen din og får deg til å «snakke» i en lydfil eller video.
• Realistiske bilder eller videoer: Fullt syntetisk innhold som ser ekte ut, generert med tekst eller bilder.
• Leppesync og bevegelseskontroll: Videoer der munn- og ansiktsuttrykk manipuleres slik at du ser ut til å si noe annet.

Shutterstock

Slik avslører du en deepfake

Verktøyene som er tilgjengelig i dag gjør det mulig å lage overbevisende videoer, bilder og lydklipp. Selv om teknologien raskt blir bedre, er det allikevel noen kjennetegn du kan se etter:

• Bevegelsene er litt stive eller unaturlige.
• Øynene blunker sjeldent eller ujevnt.
• Se nøye på ansikt. Hvordan er huden, kinn, ansiktshår og fregner – er det noe som ikke stemmer?
• Lyden stemmer ikke helt med munnbevegelsene.
• Bakgrunnen endrer seg eller virker uekte. Se ekstra etter om refleksjoner og skygger stemmer.
• Stemmen høres metallisk eller unaturlig flat ut.
• Sjekk kildens troverdighet – kryssjekk bilder eller videoer med andre kilder, kjente nyhetskanaler ol. for å bekrefte opprinnelsen.

Hvis du er i tvil, ikke del videre. Å spre et falskt bilde eller en video kan skade andre – og i noen tilfeller være straffbart.

Når deepfakes brukes til å lure eller skade

Deepfakes misbrukes stadig oftere til utpressing, svindel og mobbing. De brukes for å skape falske historier, ødelegge omdømme til noen eller lokke folk til å gi fra seg penger eller personopplysninger.

Noen vanlige former for misbruk:

• Utpressing og trusler: Noen lager manipulerte bilder eller videoer og truer med å dele dem dersom du ikke betaler.
• Mobbing og krenking: Deepfakes kan spres på nett for å latterliggjøre eller henge ut enkeltpersoner på nett.
• Svindel og økonomisk bedrageri: Stemmekloning og falske videoer brukes i investeringssvindel, bedrageri eller for den saks skyld – til falske telefonanrop fra «slektninger» eller «sjefer».
• Manipulasjon: Falske nyheter og videoer brukes til å påvirke meninger, eller skape forvirring i sosiale medier.

Konsekvensene kan være store – både økonomisk, sosialt og psykisk. Mange opplever maktesløshet når falske videoer eller bilder spres på nett, og det er vanskelig å stoppe det.

Hva sier loven?

Selv om det i dagens lovverk ikke er forbudt å lage deepfakes av andre, kan det du gjør med bilde/video/stemme i etterkant, som å publisere, få konsekvenser. Da kan andre bestemmelser om personvern og menneskerettigheter slå inn, selv om det ikke eksplisitt nevnes i lovverket.

EU jobber for at KI-generert innhold skal klassifiseres, blant annet med krav til merking, og andre retningslinjer for deepfakes.

Hva du kan gjøre hvis du blir svindlet?

• Ta vare på bevis: Lagre meldinger, skjermbilder og lenker.
• Anmeld til politiet: Det er ulovlig å bruke andres bilder eller stemmer uten samtykke.
• Meld fra til nettstedet eller appen: De fleste plattformer har rutiner for å fjerne ulovlig innhold.
• Ikke betal ved utpressing: Ofte blir kravet høyere hvis du betaler, og det er ingen garanti for at utpressingen stopper.
• Søk støtte: Slettmeg.no kan hjelpe deg med å få fjernet innhold.