Deepfakes komen regelmatig onder de aandacht vanwege pornografie of grappige viral filmpjes, maar ook in het zakelijke verkeer zijn ze in opkomst. De behoefte aan checks bij bijvoorbeeld banken, cryptoplatformen en recherche nemen toe, stelt Joris Mollinga, medeoprichter van het Delftse DuckDuckGoose.
Het was voormalig president Barack Obama die de wereld in 2018 als deepfake waarschuwde voor deepfakes. Het verbaast dan ook niet dat de technologie zich in de tussentijd rap heeft doorontwikkeld en de nepbeelden verfijnder zijn. En dat de toepassing ervan zich steeds verder uitbreidt. Nog immer is het echter de manipulatie van gezichten waar de nadruk op ligt. Reden voor DuckDuckGoose, dat in 2020 startte en inmiddels met twaalf man is, om producten en diensten te ontwikkelen die beoordelen of een stilstaande of bewegende gezichtsafbeelding authentiek of deepfake is – hoewel Mollinga opmerkt ook aan een product gericht op audio en stemmen te werken.
Voor gezichten heeft het onder andere zijn toepassing bij digitale identiteitsverificatie, zoals het onboardingproces voor het openen van een bankrekeningen, het afsluiten van een verzekering of tewerkstelling via een uitzendbureau. “Bij steeds meer banken kun je je met een selfie identificeren. We zien dat je daar doorheen kan komen als je een deepfake voorschotelt. En dus een rekening op andermans naam of op een synthetische identiteit kunt openen.”
Bij sommige crypto-platformen betreft tien procent van de nieuwe aanvragen al deepfakes, stelt Mollinga. “Die toepassing is echt iets van de laatste maanden.” Wat volgens hem komt doordat de technologie steeds beter, toegankelijker en schaalbaarder wordt. “Fraudeurs willen in één keer vele accounts creëren.”
1-0 achter
Andere aandachtsgebieden zijn de forensische markt (voor inzet bij digitaal recherchewerk) en de overheid. “Debatten in de Tweede Kamer worden online uitgezonden en opgeslagen en kunnen door iedereen gedownload en gemanipuleerd worden. Als bijzondere beelden opgepikt worden via social media, wil je kunnen checken of ze authentiek zijn of niet.”
Praktisch gezien levert Mollinga’s bedrijf een API-platform waar plaatjes over video’s naartoe worden gestuurd. Binnen vijf seconden beoordeelt het systeem of er sprake is van deepfaking. Door er een heat map bij te leveren, waarop te zien is welke delen volgens DuckDuckGoose gemanipuleerd zijn, moeten gebruikers een geïnformeerde beslissing kunnen nemen. En wordt er meegegeven of de deepfake met bijvoorbeeld een smartphone of geavanceerdere technologie gemaakt is, om zo marktontwikkelingen te schetsen.
Het detecteren van deepfakes lijkt een soort haasje over. Mollinga ziet een analogie met virussoftware, die je ook constant moet updaten. Zijn team scant de markt dan ook proactief naar nieuwe toepassingen. “Dat heeft tot nu toe goed gewerkt, maar geeft wel het nadeel dat je altijd met 1-0 achter staat – hoewel er wel wat tijd zit tussen beschikbaarheid van technologie en de toepassing ervan.”
Daarom doet DuckDuckGoose onderzoek naar een manier waarop het systeem kan aangeven dat het er niet zeker over is of het een deepfake is. Omdat er wellicht een nieuwe, nog onbekende werkwijze is gebruikt. “Dat is beter dan een foutieve classificatie geven”, legt Mollinga uit. “En dan kunnen we nader onderzoek doen naar die uitzonderingen.”
Mindshift
Het is dus een uitdagende strijd – en dan hebben we het nog niet eens over deepfakes voor fake news gehad. Ondertussen mag echter niet vergeten worden dat deepfakes ook een positieve toepassing kunnen hebben. Mollinga wijst bijvoorbeeld op media en entertainment, waar amateur deepfakers al realistischere special effects maken dan filmstudio’s, en toepassing in de modewereld om modellen meerdere outfits te laten showen. “Overal waar audiovisueel materiaal gebruikt wordt, gaan we deepfakes tegenkomen. Er is een mindshift nodig in dat wat we zien niet altijd echt is. Ook niet als het een video is.”
Foto: Frank Ruiter (in opdracht van Emerce)
Dit artikel verscheen eerder in het decembernummer van Emerce Magazine #193.
