Slik oppdager du deepfakes

Deepfakes er en relativt ny fremgangsmåte trusselaktørene bruker for å utføre svindel ved hjelp av en moderne teknologier som kalles kunstig intelligens og maskinlæring. «Deep» referer til metoden «deep learning» (dyplæring) som er en gren innen maskinlæring-familien – og med «fakes» menes forfalskning. Trusselaktørene har ved hjelp av dyplæring kommet opp med en ny svindelmetode for å forfalske og etterligne utseende og stemmen til en person ved hjelp av video og lyd. Dyplæring bruker, med ulik grad av suksess, kunstige nevrale nettverk for å etterligne tankemønsteret til den menneskelige hjernen. Mange personer bruker nå videoredigeringsapper for mobil med støtte for dyplæring for å lage humoristiske TikTok-videoer av politikere og andre offentlige personer på nettet (se video nederst).

Slik bruker trusselaktørene deepfakes for å svindle deg

Det begynner med at trusselaktøren planlegger et svindelangrep mot bedriften du jobber i. I planleggingsfasen bruker trusselaktøren bedriftens nettsider, stillingsannonser og sosiale medier som LinkedIn for å samle inn informasjon om deg og din arbeidsgiver. Trusselaktørene søker ofte etter artikler og nyheter om bedriften for å komme opp med en troverdig angrepsstrategi og fremgangsmåte for sosial manipulering.

Eksempel på deepfake-angrep

La oss ta et eksempel for å illustrere en ofte brukt fremgangsmåte. Og det potensielle skadeomfanget deepfakes har for norske virksomheter.

Stian jobber i en stor anerkjent internasjonal organisasjon i Oslo som tilbyr forretningsrelatert rådgivning til mellomstore bedrifter. Stian og kollegene har nylig lansert en ny tjeneste, og som har fått mye omtale i media. Og nå som tjenesten vokser rakst ligger det flere stillingsannonser på FINN.

En svindler får øye på en nyhetsartikkel som presenterer tjenesten deres og de flinke folkene som har laget den. Svindleren søker etter personene i artikkelen for å samle inn informasjon som brukes for å kartlegge arbeidsgruppen.

Mens Stian er på jobbreise får han en telefon fra prosjektlederen i teamet. Sjefen hans ber han om å overføre et pengebeløp fra prosjektkontoen. Stians sjef oppmuntrer med at de har vunnet en stor kontrakt. Og bedriften har fått inn kvalifiserte søkere for de nye stillingene på FINN. Stian ber prosjektlederen sin om kopi av faktura. Men, lederen sier det haster og han vil få den tilsendt førstkommende mandag på e-post.

Når Stian blir skeptisk oppgir sjefen hans detaljer om prosjektet for å bygge opp Stians tillit. Stian velger å logge seg på nettbanken og overføre pengene. Han er samtidig glad for at prosjektet ser ut til å lykkes. Nå som Stian er tilbake på kontoret i Oslo blir han kalt inn av sjefen. Han må forklare sjefen sin hvorfor han har overført 2.4 millioner kr som nå er tapt. Pengene ble overført fra prosjektkontoen og til en utenlandsk konto som Stian trodde tilhørte en avdeling i Belgia.

Fremgangsmåten til svindlerne i dette eksemplet

I dette svindelangrepet har trusselaktørene brukt prosjektlederens stemme fra tidligere podcaster som omhandlet den nye tjenesten deres. Trusselaktørene eksporterte lydopptaket og brukte dyplæring for å lære stemmens kjennetegn som tone og nyanser, men med egne ord.

Trusselaktøren brukte også en teknikk som kalles «spoofing» for å forfalske mobilnummeret til Stians arbeidsgiver. Får du telefon fra et norsk telefonnummer. Og hvor en ukjent oppringer ringer fra et annet land bør du avslutte samtale raskt for å forhindre svindel. For sikkerhetsskyld bør du avslutte samtalen og så prøve å søke opp eller ringe opp nummeret direkte. Da kommer du i kontakt med personen som faktisk eier telefonnummeret, og ikke svindlerne.

Slik oppdager du deepfakes

Deepfakes kan du enkelt oppdage ved å studere kvaliteten på innholdet i videoene og i lydopptaket. Mange videoer og lydopptak med deepfakes er manipulert med dyplæring av dårlig kvalitet, og som gjør at du enkelt kan avsløre når innholdet du ser eller hører er manipulert med maskinlæring.

For at trusselaktørene skal lykkes med å bruke maskinlæring for å lage deepfakes, så må de ha datasett av høy kvalitet. En podcast eller annet lengre videoopptak gir ofte grunnlaget som skal til for å hjelpe algoritmene forbedre kvaliteten i det falske innholdet. Teknologier innen dyplæring utvikles og forbedres raskt, nå med filmer hvor effektene i spillefilmene er laget med kunstig intelligens for å spare produksjonskostnader.

I denne videoen ser du hvordan kunstig intelligens og maskinlæring blir brukt for å etterligne og forfalske skuespilleren Tom Cruise. En skuespiller eller en programleder kan enkelt la seg etterligne i deepfakes fordi datagrunnlaget er ofte godt.