Vi er vant til å kjenne igjen stemmer og ansikter når vi snakker med folk i den fysiske verden. I den virtuelle verden har vi frem til 2023 kunnet anta med nesten absolutt visshet at stemmen vi hører gjennom telefon, eller ansiktet vi ser i et online-møte, faktisk tilhører den personen som vi kjenner fra før. Men fra 2024 kan vi ikke lenger ta dette for gitt. Teknologi basert på maskinlæring gjør det lett å etterligne tale og ansikter i videomøter, noe som tvinger oss til å være mer skeptiske til hvem vi tror vi ser og snakker med online. Verktøy basert på maskinlæring gjør det mulig for en angriper å snakke på en måte som høres ut som deg, eller opptre i et videomøte med ansikt og stemme som deg. Slike forfalskninger kalles deepfake, som refererer til at falsk lyd og bilde genereres av teknologi basert på dype nevralnettverk (DNN). Dette kalles også dyplæring, som er teknologien bak roboter, autonome kjøretøy og ansiktsgjenkjenning.
Deepfake-teknlogi.
Denne teknologien kan dessverre også benyttes for cyberkriminalitet, for eksempel ved å spoofe identitet til personer i telefonsamtaler eller online-møter. En angriper kan f.eks. spoofe identiteten til virksomhetens direktør under et online-møte, og gi en ansatt med høye autorisasjoner instruks om å overføre en stor pengesum til en konto kontrollert av angriperen. Alternativt kan angriperen spoofe identiteten til en ansatt i en bedrift under et videomøte, og sende en chattemelding med en link til en skadelig nettside. Fordi kollegaer kjenner og stoler på hverandre, vil de typisk klikke på lenken. Det fins allerede eksempler på slike angrep, og virksomheter må i økende grad være oppmerksomme på denne angrepsvektoren i tiden fremover. I februar 2024 ble en ansatt i en virksomhet i Hong Kong lurt til å overføre £20 millioner til svindlere som brukte deepfake-teknologi for å fremstå som ledere i selskapet under et videomøte, se artikkel. Trusselaktører trenger lyd- og videoopptak for å produsere deepfake-etterligninger. Et mulig sikkerhetstiltak kan da være å aldri gjøre opptak, forhindre opptak, eller i det minste å aldri publisere slike opptak på nett. Men for noen mennesker som politikere er det å vise seg i offentligheten gjennom online medier en nødvendig del av jobben. Derfor må andre sikkerhetstiltak utformes for å mitigere slike trusler. Den raske fremveksten av denne trusselen viser hvor dynamisk digital sikkerhet er som fagområde. Virksomheter må hele tiden følge med på trussellandskapet og innføre nye tiltak for å opprettholde et forsvarlig nivå av digital sikkerhet.