Sådan kan deepfakes påvirke din virksomhed

Verdensomspændende bekymring er stigende over de negative virkninger, som deepfakes kan have på samfundet, og det er der god grund til.

15-08-2022 - 8 minutters læsning. Under kategorien: cybercrime.

Sådan kan deepfakes påvirke din virksomhed

Verdensomspændende bekymring er stigende over de negative virkninger, som deepfakes kan have på samfundet, og det er der god grund til. I 2019 blev en medarbejder i et energiselskab baseret i Storbritannien narret til at tro, at han talte i telefon med sin chef, den administrerende direktør for det tyske moderselskab, som bad ham om at overføre $243.000 til en ungarsk leverandør.

Medarbejderen talte selvfølgelig ikke med den rigtige administrerende direktør, men med en svindler, der efterlignede den rigtige administrerende direktør gennem stemmeændrende AI.

Denne form for social engineering-angreb er ikke helt ny. Faktisk identificerede cybersikkerhedsforskere i 2019 flere vellykkede deepfake lydangreb på virksomheder. I virksomhederne ringede deres "CEO" til en finansansvarlig for at bede om en hasteoverførsel. Stemmerne fra den rigtige CEO var blevet taget fra indtjeningsopkald, YouTube-videoer, TED Talks og andre optagelser og indsat i et AI-program, som gjorde det muligt for svindlere at efterligne stemmerne.

Disse typer hændelser er lydversionen af det, der er kendt som deepfake-videoer, som har forårsaget global panik i de sidste par år. Efterhånden som vi vænner os til eksistensen af deepfakes, kan dette påvirke vores tillid til alle videoer, vi ser, eller lydoptagelser, vi hører, inklusive de rigtige. Videoer, som engang plejede at være den ultimative form for sandhed, der oversteg redigerede billeder, der nemt kan ændres, kan nu også bedrage os.

Hvad er deepfakes?

Deepfakes er falske video- og lydoptagelser af enkeltpersoner, der er beregnet til at få dem til at se ud, som om de har sagt og gjort ting, som de faktisk ikke har. "Deep" relaterer til "deep learning" teknologien, der bruges til at producere medier og "fake" til dets kunstige natur.

I de fleste tilfælde er en persons ansigt overlejret på andres kroppe, eller deres faktiske figur er ændret på en sådan måde, at de ser ud til at sige og gøre noget, som de aldrig har gjort.

Udtrykket blev skabt i 2017, da en bruger på det sociale medie Reddit postede en falsk voksenvideo, der viser nogle Hollywood-berømtheders ansigter. Senere offentliggjorde brugeren også den maskinlæringskode, der blev brugt til at lave videoen.

Kan vi opdage og stoppe deepfakes?

Lige nu er forskere og virksomheder ved at undersøge, hvordan de kan bruge AI til at identificere og dermed undgå at falde for deepfakes. Nye fremskridt er begyndt at komme frem, som er beregnet til at hjælpe os med at identificere, hvilke billeder og optagelser der er ægte, og hvilke der er falske.

For eksempel har Facebook, Microsoft, Partnership on AI-koalitionen og akademikere fra flere universiteter skabt en konkurrence for at hjælpe med at forbedre opdagelsen af deepfakes. Den har til formål at opmuntre folk til at producere en teknologi, der kan bruges af alle til at opdage, når der er blevet skabt deepfake materiale og falsk information.

Deepfake Detection Challenge indeholder et datasæt og leaderboard, sammen med bevillinger og priser, for at motivere deltagerne til at designe nye metoder til at identificere og stoppe falske optagelser, der er beregnet til at bedrage andre.

Alligevel forhindrer dette ikke de falske medier i at blive skabt, delt, set og hørt af millioner af mennesker på internettet og sociale medier, før de fjernes. Og uden tvivl kan det være ekstremt svært at minimere skaden, når først ondsindet materiale bliver distribueret.

Hvordan kan du genkende deepfake-videoer?

Indtil nogle yderst pålidelige tekniske løsninger er designet, bør alle lære at identificere de afslørende tegn på deepfakes. Så her er fejlene, du skal lede efter:

  • Blinken - Ifølge forskning ser det ud til, at blinken ikke er så godt repræsenteret i deepfake-videoer.

  • Hovedposition – Nogle gange vil ansigtskanterne på den person, der efterlignes, være slørede.

  • Hud med kunstigt udseende - Hvis ansigtet ser ekstra glat ud, som om det er blevet redigeret, kan det være et tegn på deepfakes.

  • Langsom tale og anderledes intonation - Nogle gange vil du bemærke, at den, der bliver efterlignet, taler ret langsomt, eller der er ikke helt et match mellem den rigtige persons stemme og den falske.

  • Et generelt mærkeligt udseende og følelse - I sidste ende bør du stole på din sunde fornuft. Nogle gange kan du simpelthen fornemme, at der er noget galt med en video.

I dag kan det i nogle tilfælde være nemt at få øje på deepfakes. Men i fremtiden, efterhånden som teknologien skrider frem, vil det gradvist blive langt sværere at opdage. 

Deepfakes kan have konsekvenser for mange 

Her er en liste over, hvad deepfakes kan have en meget negativ indvirkning på:

#1. Politik

Deepfakes kan påvirke valg, da de kan lægge ord i munden på politikere og få dem til at se ud som om, at de har gjort eller sagt visse ting, som de faktisk ikke har. Deepfake-producenter kan rette deres indhold mod populære sociale mediekanaler, hvor det delte indhold øjeblikkeligt kan gå viralt. En deepfake video er en god måde at skabe fake news på.

#2. Retfærdighed

Falske beviser til straffesager kan bruges mod mennesker i retten, og på denne måde kan de blive anklaget for forbrydelser, de ikke har begået. Dermed kan de forkerte personer komme i fængsel. Og på den anden side kan folk, der er skyldige, blive sat på fri fod baseret på falske beviser.

3. Aktiemarkedet

Deepfakes kan bruges til at manipulere aktiekurser, når ændrede optagelser af indflydelsesrige personer, der fremsætter visse udtalelser, bliver distribueret. Forestil dig, hvad der ville ske, hvis en falsk video af en administrerende direktør for en virksomhed som Apple, Amazon eller Google erklærer, at de har gjort noget ulovligt. For eksempel, tilbage i 2008, faldt Apples aktie 10 point baseret på falske nyheder om, at Steve Jobs havde lidt et alvorligt hjerteanfald.

#4. Online mobning

Deepfake-teknologi kan også bruges til at forstærke cybermobning, især da den nu er ved at blive bredt tilgængelig. Folk kan nemt blive til ofre, når manipulerede medier af dem bliver lagt ud på nettet, typisk på sociale medier. Eller de kan blive afpresset af cyberkriminelle, der truer med at lække optagelserne, hvis de for eksempel ikke betaler et bestemt beløb.

#5. Virksomheder

Nogen kan komme med falske udsagn om din virksomhed for at destabilisere og forringe den. Ondsindede aktører kan få det til at se ud som om, at du eller en i din organisation indrømmer at have været involveret i forbrugersvindel, bestikkelse eller seksuelt misbrug. Det er klart, at denne slags falske udsagn kan ødelægge din virksomheds omdømme og gøre det svært for dig at bevise det modsatte. 

Hvad kan man gøre ved det?

På grund af de nuværende huller i loven bliver producenter af falske videoer ikke inkrimineret. Men Deepfakes Accountability Act har til formål at skabe foranstaltninger til at kriminalisere denne type falske medier.

Sådanne foranstaltninger kan betyde, at den der laver deepfakes, ville være forpligtet til at afsløre, at optagelserne er ændret. Og hvis de undlader at gøre det, vil det blive betragtet som en forbrydelse. Eksistensen af denne slags regler er obligatorisk for at beskytte deepfake-ofre og også offentligheden mod misinformation.

Hvordan kan du beskytte din virksomhed mod kunstig intelligens og deepfakes?

Dine konkurrenter kan ty til deepfake afpresning for at forsøge at eliminere dig fra branchen eller sprede misinformation om din virksomhed.

Uanset hvor gode teknologiske deepfake-detektionsløsninger bliver, vil de ikke forhindre manipulerede medier i at blive delt og nå ud til et stort antal mennesker. Så den bedste måde er at lære dine medarbejdere at identificere falske optagelser og sætte spørgsmålstegn ved alt, der virker mistænkeligt i organisationen.

#1. Træn dine medarbejdere

Emnet deepfakes kan blive en del af din cybersikkerhedstræning. For eksempel, hvis dine medarbejdere modtager et uventet opkald fra den administrerende direktør, der beder dem om at overføre 1 million dollars til en bankkonto, skal de først og fremmest stille spørgsmålstegn ved, om personen på den anden linje er den, de siger, de er. Måske ville en god modforanstaltning være at have et par sikkerhedsspørgsmål på plads, der skal stilles for at bekræfte identiteten på personen i røret.

#2. Overvåg dit brands online tilstedeværelse

Dit brands tilstedeværelse bliver sandsynligvis allerede overvåget online. Så sørg for, at der er nogen i din organisation, der holder øje med falsk indhold, der involverer din organisation, og hvis noget mistænkeligt dukker op, skal de have en plan for at håndtere det.

#3. Vær gennemsigtig

Hvis du bliver et offer for deepfakes, skal du sikre dig, at dine stakeholdere er opmærksomme på det målrettede angreb. At prøve at ignorere, hvad der er sket, eller antage, at folk ikke har troet på, hvad de har set eller hørt, vil ikke få problemet til at forsvinde. Derfor bør din PR-indsats være centreret omkring at kommunikere, at nogen fra din virksomhed er blevet efterlignet og fremhæve den kunstige karakter af de distribuerede optagelser.

Afsluttende tanker

Farerne ved deepfakes er reelle og bør ikke undervurderes. Et enkelt dårligt ment rygte kan ødelægge din virksomhed. Så du, både som individ og organisation, bør være parat til at håndtere truslen fra deepfakes.

Forfatter Sofie Meyer

Kort om forfatteren

Sofie Meyer er copywriter og phishing-aficionado her i Moxso. Hun er uddannet cand.mag. i dansk og har gennem sin uddannelse haft en stor interesse for cyberkriminalitet, hvilket resulterede i et specialeprojekt om phishing.

Lignende indlæg