Deepfakedetectie die determineert en beschrijft

Kunstmatige intelligentie is nu al in staat om beelden te genereren die vrijwel niet van echt te onderscheiden zijn. Hoe blijven we op de lange termijn het verschil aanduiden? Onderzoekers van Fraunhofer hebben een duit in de virtuele zak gedaan met een tool die niet alleen specifiek deepfakes detecteert, maar ook aanduid waarom een afbeelding als echt of juist als artificieel wordt geclassificeerd.

Het maken van deepfakes is de afgelopen jaren snel geëvolueerd. Moderne AI-modellen kunnen realistische gezichten, objecten en zelfs handen met het juiste aantal vingers produceren, wat leidt tot een overvloed aan gemanipuleerde foto’s op internet en daarbuiten die steeds moeilijker van ‘echt’ te onderscheiden zijn. Dit brengt logischerwijs een verhoogd risico op desinformatie met zich mee.

Gecombineerde aanpak

In het RealOrRender-project van Fraunhofer werken onderzoekers van Fraunhofer IOSB samen met het Duitse Federale Bureau voor Informatiebeveiliging (BSI) om aan te tonen hoe innovatieve AI-methoden kunnen worden gebruikt voor een betrouwbaar onderscheid tussen deepfakes en echte beelden.

Waar veel bestaande detectiesystemen uitsluitend vertrouwen op een neuraal netwerk dat een afbeelding als ‘echt’ of ‘kunstmatig’ classificeert, kiest Fraunhofer voor een gecombineerde aanpak. Het systeem probeert eerst een afbeelding opnieuw op te bouwen met behulp van een AI-beeldgenerator. Vervolgens vergelijkt een tweede AI-model de oorspronkelijke afbeelding met de gereconstrueerde versie. Hoe beter de reconstructie lukt, hoe groter de kans dat de afbeelding oorspronkelijk ook door een generatief AI-model is gemaakt. Door deze methode te combineren met een traditionele beeldclassificatie stijgt de betrouwbaarheid van de detectie aanzienlijk. Volgens de onderzoekers ligt de herkenningsnauwkeurigheid momenteel tussen de 85 en 91 procent, afhankelijk van het type afbeelding.

Bewuste misleiding

Een belangrijk verschil met veel andere detectietools is dat RealOrRender uitlegt waarop de beoordeling is gebaseerd. In plaats van alleen een melding te geven dat een afbeelding waarschijnlijk door AI is gemaakt, laat het systeem zien welke kenmerken de doorslag geven om tot die veronderstelling te komen.

Die transparantie is belangrijk voor gebruikers die de uitkomst willen controleren. Door inzicht te geven in de besluitvorming wordt het eenvoudiger om de betrouwbaarheid van de analyse te beoordelen. Volgens Fraunhofer neemt de noodzaak voor betrouwbare deepfakedetectie snel toe. AI-gegenereerde beelden worden steeds vaker ingezet om nepnieuws geloofwaardiger te maken, bewijs te manipuleren of mensen bewust te misleiden. Daardoor kan het vertrouwen in digitale informatie ernstig worden aangetast.