EO

De kracht van deepfakes

16 april 2020 om 10:51 uur

Portetten van ThisPersonDoesNotExist.com, afbeeldingen van niet-bestaande personen die gegenereerd zijn door geavanceerde algoritmen.

Techbedrijven die technologie in de ban doen. Dat zie je niet vaak. Zeker als om toepassingen van artificial intelligence (AI) gaat. ‘Deepfakes’ hebben het voor elkaar gekregen. Deze algoritmes die fotorealistische video’s genereren, worden geweerd uit angst voor de gevolgen voor onze toekomst, maar ook voor ons verleden. En de foto's bij dit artikel? Die zijn hartstikke nep.

 

Door Pieter van Boheemen, onderzoeker bij het Rathenau Instituut.

 

Elke keer als je de website ThisPersonDoesNotExist.com ververst, verschijnt een nieuw portret. Het lijken willekeurige profielfoto's van onbekenden te zijn, net zoals de duizenden die je voorbij hebt zien komen op social media. In werkelijkheid gaat het om afbeeldingen van niet-bestaande personen die gegenereerd zijn door geavanceerde algoritmen. De foto's bovenaan deze pagina zijn ook deepfakes. In rap tempo kom je ze overal op het internet tegen.

 

Ook verschijnen er video's waarin met vergelijkbare technologie het gezicht van twee mensen is verwisseld. Zo ontstaan lachwekkende samensmeltingen, bijvoorbeeld tussen Donald Trump en Mr. Bean. Je kunt ze vinden onder de hashtag #DonaldBean. Deze beelden bewijzen niet dat computers slimmer worden dan mensen, maar wel dat ze ons steeds beter voor de gek weten te houden.

 

President ‘Donald Bean', een deepfake-combinatie van Mr. Bean en president Donald Trump.

 

Vijftienduizend deepfakes

De technologie achter deze video's is vernoemd naar het pseudoniem van een van de aanjagers. In november 2017 plaatste ene ‘Deepfake' op het social media platform Reddit een video waarin het gezicht van een porno-actrice is vervangen door die van celebrity Gal Gadot. Een paar maanden later publiceerde Deepfake de software ‘FaceApp', waarmee een grote schare enthousiastelingen de ene na de andere pornografische video, met daarin het hoofd van bekende vrouwen, produceerde. Binnen een paar weken ging het anders zo libertaire platform Reddit over tot een verbod. Zelfs op Pornhub - 's werelds grootste pornowebsite - gingen deepfakes in de ban. Desondanks telde het Amsterdamse Deeptrace in oktober 2019 bijna vijftienduizend deepfakes op het web, waarvan 96 procent porno. In Nederland vielen onder anderen Dionne Stax en Bridget Maasland aan deepfakers ten prooi. Ook zijn de eerste slachtoffers van afpersing - deepfake sextortion - een feit.

 

Het aandeel niet-pornografische deepfakes groeit ondertussen gestaag en de gevolgen worden steeds duidelijker. Onderzoeksbureau Graphika ontdekte een wereldwijd netwerk van meer dan negenhonderd Facebook-accounts met nepprofielfoto's die werden ingezet om extremistische berichten te verspreiden. In India en Maleisië zijn deepfakes al ingezet als politiek wapen. Op basis van deepfakes worden mensen beschuldigd, maar het omgekeerde gebeurt ook: authentieke video's worden bestempeld tot deepfakes, en zo misstanden ontkend. Deze en nog veel meer voorvallen zetten Facebook en Twitter er begin 2020 mede toe aan om zich aan te sluiten bij het verbod op deepfakes.

 

Deepfakes laten ook personen uit het verleden niet rusten. Onderzoekers van het MIT Center for Advanced Virtual Reality creëerden een video waarin president Nixon lijkt te vertellen dat astronauten zijn gestrand op de maan.

 

Deepfake-video waarin president Nixon vertelt dat astronauten zijn gestrand op de maan.

 

In een ander deepfake-audiofragment lijkt Winston Churchill de inauguratiespeech van Donald Trump voor te lezen. Aan een paar audio- en beeldfragmenten en een laptop hebben kwaadwillenden genoeg om een overtuigende video in elkaar te zetten en de geschiedenis te vervalsen.

 

Deepfake-audiofragment waarin Winston Churchill de inauguratiespeech van Donald Trump voorleest.

 

Ook positieve kanten

Nu is het aantal deepfakes onder historische video's nog te overzien. Maar wat als er straks meer video's beschikbaar zijn waarin George Bush lijkt toe te geven dat de aanslagen op het World Trade Center door de CIA zijn gepleegd? Of waarin Kim Jong-il oproept tot wereldvrede, of Nelson Mandela in een kwaad daglicht wordt gezet? Wordt het niet tijd dat we technologie niet alleen beoordelen op basis van de impact op de toekomst, maar ook op het verleden?

 

Natuurlijk zijn er ook positieve ontwikkelingen. Zo kun je dankzij deepfaketechnologie nu een selfie maken met Salvador Dali, kun je Mona Lisa zien spreken en zingt Jacques Brel het nummer ‘Ne me quitte pas' als nooit tevoren. Bovendien zijn de makers van deepfakes in een continue wapenwedloop verstrikt met de makers van detectiealgoritmen. Zolang nog niet duidelijk is wie daarin zal zegevieren, koester ik mijn geschiedenisboeken.

 

Een niet bestaande kleurenversie van Jacques Brel die het nummer 'Ne me quitte pas' ten gehore brengt.

 

Kennis

RSS

(Not) safe for designers: Slimme materialen (tien kandidaten)

26-10-20 13:41 Welkom terug, beste lezer. Na alle constructieve overwegingen uit de...

Micromotoren: vanuit de ruimte naar de werkvloer

26-10-20 13:11 45 procent van alle beroepsziekten in Europa en Noord-Amerika bestaan uit...

‘Postcorona’ meer vraag naar robots verwacht

26-10-20 12:39 Tegen 2022 hebben fabrieken wereldwijd te beschikking over bijna 4 miljoen...

Meer kennis »

Laatste productnieuws

Frequentieomvormer

Frequentieomvormer

De P86 ACOPOSinverter is een frequentieomvormer voor driefasige synchrone en inductiemotoren, met of zonder encoders.

Safety-relaismodule

Safety-relaismodule

Met de relais-outputmodule SRO 022 kunnen nu ook spanningen tot 230V/6A nu ook ‘safety’-georiënteerd worden aangestuurd.

Geïntegreerd meetsysteem voor lineaire geleiding

Geïntegreerd meetsysteem voor lineaire geleiding

Het in de loopwagen van de lineaire kogelrailsystemen geïntegreerde IMScompact-meetsysteem is beschikbaar voor loopwagens vanaf maat 15.

Meer productnieuws »

Laatste nieuws

Nieuw motorconcept kan vliegtuiguitstoot met 20 tot 50% verminderen

Nieuw motorconcept kan vliegtuiguitstoot met 20 tot 50% verminderen

Onderzoekers van de TU Delft gaan - samen met partners Safran Group, Airbus en Rotterdam The Hague Innovation Airport ] - werken aan een geavanceerde ‘Advanced Propulsion and Power Unit’ (Appu) voor vliegtuigen van…

Nieuwe stap in ontwikkeling goedkope, printbare sensoren

Nieuwe stap in ontwikkeling goedkope, printbare sensoren

Onderzoekers van UHasselt, Swansea University en de Universiteit van Dresden hebben stappen gezet in de ontwikkeling van infraroodsensoren uit goedkope, printbare elektronica. “Onze sensoren bestaan uit organische…

'Corona dwingt tot versneld digitaliseren en draagt bij aan fundamentele herziening arbeidsmarkt'

'Corona dwingt tot versneld digitaliseren en draagt bij aan fundamentele herziening arbeidsmarkt'

De coronapandemie dwingt bedrijven tot versneld digitaliseren. De pandemie leidt tot toenemende onzekerheid op de arbeidsmarkt en draagt, in combinatie met toenemende automatisering, bij aan een fundamentele herziening…

Meer nieuws »

Product van de maand

RSS
Veilige Laserscanner PSENscan | Nu ook verticaal te gebruiken

De veiligheids- laserscanner PSENscan is nu ook geschikt voor het beveiligen van de gebieden die verticale toepassingen...

Focus op

ABB BV
ABB BV

Machineveiligheid, systemen en componenten

B&R Industriële Automatisering BV *
B&R Industriële Automatisering BV *

Perfection in Automation

Elobau Benelux BV *
Elobau Benelux BV *

creating sustainable solutions

Pilz Nederland
Pilz Nederland

Voor industriële (veilige) automatiseringsoplossingen

Ringspann Benelux BV
Ringspann Benelux BV

Partner in aandrijf- en opspantechniek

Rotero Holland BV
Rotero Holland BV

Stappenmotor - Servomotor - Elektro Magneet

Download gratis engineering boeken

A gratis boeken downloaden

 

Agenda

2 november 2020, online

Hoppenbrouwers 'Leren & Werken event'

Event over de kansen en opleidingsmogelijkheden binnen het technische installatiebedrijf Hoppenbrouwers.

3 november 2020, Vianen

Masterclass Machineveiligheid XL

3, 4, 10, 11 november 2020

5 november 2020, online

EMVT Kennisdag

Toepassers en ontwikkelaars op het gebied van vermogenselektronica en elektromagnetisme delen hun kennis...

Meer agendapunten »

Gratis nieuwsbrief

EOL