Deepfake101
Een deepfake is een door AI gemanipuleerde video, foto of audiofragment die bedoeld is om mensen te misleiden. Het is de geavanceerde vorm van cheapfakes, waarbij mensen handmatig media knippen of bewerken. Oplichters doen zich voor als een invloedrijk persoon of plaatsen bestaand beeldmateriaal in valse context. De gevolgen zijn serieus: van grote fraudezaken en desinformatie tot reputatieschade en het bewust beïnvloeden van politieke besluitvorming. Wij leren je de fijne kneepjes achter het maken van deepfakes, zodat jij desinformatie voortaan in een oogwenk doorziet.
De bouwstenen van nepnieuws
Om nepnieuws te creëren heb je verschillende tactieken. Daarbij wordt de technologie om ze te maken, steeds toegankelijker. Veel tools zijn gratis en eenvoudig te gebruiken zoals faceswapping apps en lip-syncing tools. Zelfs het klonen van een stem is een fluitje van een cent. Vaak heb je alleen een computer, internet en wat beeldmateriaal nodig.
Een AI-tekenwedstrijd
AI-technieken voor deepfakes worden steeds geavanceerder door zelflerende algoritmes. Om te begrijpen hoe dit werkt, kun je denken aan twee kinderen die een tekenwedstrijd houden. Het eerste kind probeert een realistische tekening te maken van iets wat hij nog nooit heeft gezien. Het tweede kind beoordeelt of de tekening echt lijkt en geeft feedback. Ze blijven dit herhalen, waardoor ze steeds beter worden in hun taak – de één in het maken van overtuigende beelden, de ander in het herkennen van onnatuurlijkheden. Uiteindelijk is de tekening zo goed dat het niet van de werkelijkheid te onderscheiden is.
Dit is precies hoe Generative Adversarial Networks (GAN’s) werken. De generator maakt telkens een beeld – volledig verzonnen, niet gebaseerd op bestaande foto’s of echte data. De discriminator vergelijkt dit beeld met data uit de werkelijkheid als voorbeeld en bepaalt of het beeld echt of nep is. Door samen te trainen, worden ze beide steeds beter in hun taak. Een bijzonder voorbeeld hiervan is de website This Person Does Not Exist– die bij elk bezoek aan de site een levensecht portret laat zien van een niet-bestaand persoon.
Van minimalisme naar ultra-realisme
Een andere techniek die wordt gebruikt, is een zogeheten auto-encoder. Zie het als een kopieerapparaat dat afbeeldingen scant en print. Alleen scant het niet de volledige afbeelding maar probeert het de kenmerkende details van een beeld te herkennen, zoals de vorm van een gezicht. Dit proces gebeurt in een aantal stappen.
Allereerst scant de encoder het plaatje en maakt er een versimpelde versie van – alsof je een foto omzet naar een simpele lijntekening waarbij alleen grove lijnen en contouren overblijven. Vervolgens komt het beeld terecht in de bottleneck. Daar bepaalt de AI welke kenmerken sprekend zijn voor een beeld en wat kan worden weggelaten. De decoder verzamelt deze informatie en probeert een originele tekening te maken op basis van de grove lijnen van de encoder. Vervolgens vergelijkt de AI het beeld met de oorspronkelijke afbeelding, waardoor het steeds beter wordt in het onderscheiden van informatie.
Recipe for disaster: wat maakt een goede deepfake?
Met alleen knippen en plakken ben je er echter nog niet volgens de Cybersecurity and Infrastructure Agency (CISA). Sterker nog: het moet mensen overtuigen, iets teweegbrengen in de maatschappij en een psychologische impact hebben, aldus het CISA-document over desinformatietechnieken. Professionals proberen vaak het vertrouwen van het publiek te winnen door bekende politici of CEO’s te imiteren. Daarnaast plaatsen ze de personages vaak in een realistische setting, zoals een nieuwsuitzending of persconferentie, of ze creëren fictieve journalisten en websites om een geloofwaardige indruk achter te laten. De misleidende video’s spelen daarnaast vaak in op je emoties – ze maken je bang, woedend of misschien verward – om opzettelijk je rationele denkvermogen te blokkeren.
Verspreidingsstrategieën
Om een deepfake-video succesvol het leven in te blazen, richten professionals zich vaak op subgroepen met een sterke mening of overtuiging. Deepfakes worden afgestemd op het wereldbeeld van de doelgroep om dit beeld te versterken en meer verdeeldheid te creëren, aldus het International Centre for Counter-terrorism (ICCT) rapport. Telegram is vanwege de anonimiteit en weinig moderatie een populair platform om deepfakes te verspreiden. Maar deepfakes worden ook via sociale media zoals Facebook, Twitter en TikTok verspreid. De video’s veroorzaken veel ophef – en dus interactie – waardoor algoritmes het verdere werk door voor een snelle verspreiding. Zodra mensen in je vertrouwde netwerk een deepfake delen en het op je feed verschijnt, komt het door de sociale invloed des te geloofwaardiger over blijkt uit onderzoek van projectgroep Solaris
Informatie manipulatie
Nog een trucje uit de toverdoos: professionals manipuleren de online-informatiestroom, aldus onderzoekers van Rathenau Instituut. Professionals creëren een leger van nep-accounts en botnetwerken die massaal dezelfde boodschap delen. Het laat een overtuigende indruk achter en bevestigt het narratief, terwijl het tegelijkertijd minder ruimte achterlaat voor een tegenargument. Ook benoemt het CISA-document dat onderwerpen waar weinig betrouwbare informatie over beschikbaar is – zogenaamde information gaps –op een tactische manier worden misbruikt door het te overspoelen met nepberichtgeving. De zoekresultaten worden daardoor gedomineerd met misleidende berichtgeving.
Laat je niet misleiden: zo ontmasker je nepnieuws
Weten hoe nepnieuws wordt gemaakt, de intenties herkennen en weten welke tactieken erachter schuilgaan: dat is de krachtigste remedie tegen nepnieuws. Als je toch twijfelt, helpt het om zelf op onderzoek uit te gaan. Hier zijn een aantal tips om jezelf weerbaar te maken tegen nepnieuws:
- Factcheck-tools: Gebruik tools die je helpen om onwaarheden te herkennen zoals Reverse Image Search, Microsoft Video Authenticator en Deepware Scanner.
- Controleer en verifieer: Op wat voor website zie je de berichtgeving? Zijn er betrouwbare nieuwsbronnen die de informatie bevestigen? Controleer ook de bronvermeldingen van het nieuwsbericht waar je over twijfelt, waar halen zij de informatie vandaan?
- Check de afzender: Wie heeft het geschreven? Is het een bekend account of een anonieme gebruiker zonder geschiedenis? En heeft de afzender politieke of financiële belangen bij het onderwerp?
- Gebruik je voelsprieten: Speelt het bericht in op je emoties? Dan kan dit een bewuste tactiek zijn om je denkvermogen te beïnvloeden. Wees vooral kritisch bij angst zaaiende berichten en dramatische uitspraken, met name als het gaat over crisis, oorlog of een dreiging.
- Blijf kritisch: Nepnieuws bevat soms halve waarheden. Maar dat maakt nog niet alles waar. Vraag jezelf af of het materiaal is geknipt om de context te veranderen.