Ansvarlig redaktør Kristoffer Egeberg og utvikler Jari Bakken i Faktisk.no, her i lokalene til Faktisk i Pilestredet.
Ansvarlig redaktør Kristoffer Egeberg og utvikler Jari Bakken i Faktisk.no, her i lokalene til Faktisk i Pilestredet.

Google med nytt verktøy som kan avsløre manipulerte bilder

Faktisk.no håper det kan gi dem en daglig liste over manipulerte bilder på internett.

Publisert

Google utvikler et verktøy som kan være med å avsløre manipulerte bilder. Verktøyet Assembler består av sju forskjellige maskinlæringsmodeller, som på hver sin måte sjekker om bildet er manipulert.

Verktøyet er fortsatt i utvikling, men det skal for eksempel kunne avsløre såkalte deepfakes. Det skriver Jared Cohen, direktør og grunnlegger i Jigsaw, i et blogginnlegg.

Jigsaw er en del av Google, og det er de som utvikler Assembler sammen med Google Research.

– Jeg synes det er kult at Google bruker ressurser på å lage verktøy som dette. Som alle store plattformer, har de utfordringer med manipulert innhold og misinformasjon, så dette er positive takter, sier Jari Bakken, utvikler i Faktisk.no og VG.

Ingen fasit

Han var på besøk hos Jigsaw i Washington DC sammen med faktasjekkere fra andre land for å komme med innspill til hva de synes er nyttig med et slikt verktøy.

Bakken forklarer at Assembler analyserer bildene og legger fram et resultat som gir deg sannsynligheten for at bildet er manipulert. Han påpeker at dette ikke kan gi en fasit, men en indikasjon, sånn at man selv kan grave videre.

– Selv om sannsynligheten er høy, vil det være en mulighet at den tar feil. Det er mer et beslutningsstøtteverktøy enn en fasit, sier han.

Han håper at sluttproduktet også vil inneholde omvendt bildesøk, som betyr at man med Googles søketjeneste kan finne bilder som ligner på det bildet man har, eller få vite hvor bildet har blitt publisert tidligere. Dette er et av verktøyene Faktisk.no bruker mest i dag når de skal sjekke ut et bilde.

– Da kunne vi fått en liste hver dag med de manipulerte bildene på internett dagen før. Det ville vært en viktig funksjon, en slags Google-alert for manipulerte bilder, sier Bakken.

Jari Bakken, redaksjonell utvikler i VG og Faktisk.no, her i Faktisk-redaksjonen
Jari Bakken, redaksjonell utvikler i VG og Faktisk.no, her i Faktisk-redaksjonen

Bevisstgjøre folk

Bakken mener Assembler også er et verktøy som kan øke bevisstgjøringen om manipulasjon, siden Assembler mest sannsynlig skal vise fram hvordan bildet er tuklet med.

Har tror dét vil være mer betydningsfult i arbeidet mot falske nyheter, enn en funksjon som kan avsløre «deepfakes».

– Man kan bli fascinert av deepfakes, men folk blir allerede lurt av teknologi som er mye billigere og enklere, sier Bakken

Deepfakes er ikke et særlig problem i Norge, og heller ikke det største falske nyheter-problemet i verden forøvrig, ifølge både Bakken. Det vanligste i Norge er å ta bilder ut av dens rettmessige kontekst.

– Deepfake er en forestilt frykt. Vi er mer bekymret for «cheap-fakes», som er mye enklere å lage, sier Bakken.

Han nevner en video av Nancy Pelosi, lederen i Representantenes hus i USA, der det ser ut som at hun er full. Den er manipulert på en enkel måte ved å sette ned tempoet, alt går i «sakte film», sånn at det høres ut som hun snøvler.

Faktisk.no har satt seg på en liste over at de ønsker å teste Assembler, men vet ennå ikke om eller når det vil skje.