Hoe herken je een deepfake?
Brussel, 18 maart 2022 - Woensdag dook een videoboodschap op van Oekraïens president Volodymyr Zelensky, waarin hij zijn manschappen opriep de wapens neer te leggen in het conflict met Rusland. Het filmpje ging viraal maar bleek al snel vervalst te zijn, en vormt zo verder bewijs dat deze oorlog zich voor een belangrijk deel online afspeelt, met desinformatie, gecoördineerde cyberaanvallen en dus ook deepfakes. Maar wat zijn deepfakes net, en hoe kan je ze herkennen? Meer uitleg door Nico Dekens, expert terzake en gecertifieerd instructeur bij het SANS Institute, wereldwijd de grootste referentie inzake cyberveiligheidstrainingen en -certificaties.
Wat zijn deepfakes?
Het woord ‘deepfake’ is een samentrekking van ‘deep learning’ en ‘fake’, en is een verzamelnaam voor doorgaans gesofisticeerd vervalste foto's, video’s of audio-opnames. Soms zijn de mensen erop onbestaande, computergegenereerde identiteiten die er uitzien en klinken als echte mensen, maar net zo goed gaat het om echte, vaak bekende mensen. Hun beelden en stemmen worden dan gemanipuleerd om het te laten lijken alsof ze bepaalde dingen doen of zeggen.
In bepaalde contexten, zoals bijvoorbeeld het opnieuw tot leven brengen van overleden acteurs in films, gebeurt dat met een legitiem doel. In andere contexten, en in handen van de verkeerde mensen, kunnen deze levensechte vervalsingen een erg krachtig en misleidend wapen zijn, zoals het geval is bij de vervalste video van Zelensky.
Ze kunnen zo onder andere gebruikt worden om mensen lastig te vallen of zwart te maken, om geld te stelen, maar ook om fake news te verspreiden en kiezers te misleiden. Er zijn zelfs al gevallen bekend van onbestaande, frauduleuze bedrijven met enkel onbestaande werknemers. Meer dan ooit komt het er dus op aan voorzichtig te zijn met wat je online ziet en leest.
En hoewel deepfakes almaar gesofisticeerder en dus moeilijker te ontmaskeren worden, zijn er toch altijd een aantal onvolmaaktheden waaraan je ze kan herkennen, of het nu over een foto, video of audio gaat.
Deepfakes herkennen
De meest voorkomende categorie deepfakes is die van de vervalste profielfoto’s op sociale media - hieronder een voorbeeld van de website thispersondoesnotexist.com, met vijf verschillende aanwijzingen dat het om een vervalsing gaat.
- Achtergrond: is vaak onscherp of scheef, en kan een inconsistente belichting hebben, zoals uitgesproken schaduwen die in verschillende richtingen wijzen;
- Bril: kijk goed naar de verbinding tussen het montuur en de armen bij de slaap. Deepfakes hebben vaak slecht passende verbindingen met enigszins verschillende maten of vormen;
- Ogen: deepfakes die momenteel voor valse profielfoto's gebruikt worden lijken hun ogen op dezelfde plek in het brilframe te hebben, wat resulteert in wat sommigen de ‘deepfake stare’ of deepfake-blik noemen;
- Sieraden: oorbellen kunnen amorf zijn of op een vreemde manier aan het lichaam passen. Halskettingen kunnen in de huid ingebed lijken;
- Kraag en schouders: schouders kunnen misvormd zijn of niet bij elkaar passen, terwijl de kraag kan verschillen aan beide kanten.
Wat video’s betreft, zeggen onderzoekers van het befaamde Massachusetts Institute of Technology (MIT) dat deepfakes “ de natuurlijke fysieke kenmerken van een scène of belichting vaak niet volledig kunnen weergeven”. Ze stelden daarvoor volgende vragenlijst op:
- Wangen en voorhoofd: lijkt de huid te glad of te rimpelig? Is de leeftijd van de huid vergelijkbaar met de leeftijd van het haar en de ogen?;
- Ogen en wenkbrauwen: verschijnen er schaduwen op plaatsen die je zou verwachten?;
- Brillen: is er enige schittering of net te veel schittering? Verandert de hoek van de schittering als de persoon beweegt?;
- Gezichtshaar: ziet het er echt uit? Deepfakes kunnen een snor, bakkebaarden of baard toevoegen of verwijderen;
- Moedervlekken in het gezicht: zien ze er echt uit?;
- Knipperen: knippert de persoon voldoende, of net te veel?
- Grootte en kleur van de lippen: passen de grootte en de kleur bij de rest van het gezicht?
Gaat het over audio of stemopnames, dan kan met technologieën zoals spectrogrammen aangetoond worden wanneer deze vals zijn. Gewone stervelingen die daar niet over beschikken kunnen letten op een monotone uitspraak, vreemde toonhoogtes of emoties, en het ontbreken van achtergrondgeluid. Vervalste stemmen zijn sowieso niet eenvoudig om te herkennen. Als u in naam van een legitieme organisatie gebeld wordt maar denkt mogelijks een bedrieger aan de lijn te hebben, kunt u ophangen en zelf te bellen: niet erg handig, maar wel veilig. Vertrouw ook enkel nummers die u al kent, of terugvindt op officiële documenten of platformen.
Conclusie
Wees je ervan bewust dat aanvallers actief gebruik maken van deepfakes. Ze kunnen nepaccounts aanmaken op sociale media om contact te leggen, of nepvideo's maken om de publieke opinie te beïnvloeden. Sommigen verkopen zelfs hun diensten op het zogenaamde dark web, een obscure maar uitgebreide uithoek van het internet, zodat andere aanvallers ze ook kunnen gebruiken. Wapen jezelf daarom voor je eigen veiligheid met deze basisbeginselen. Vermoed je een deepfake gespot te hebben, meld dit dan aan de website of bron die de inhoud host.
Paul Geens