De meeste Nederlanders ontvangen wel eens misleidende tekstberichten en e-mails van online criminelen die zich voordoen als een bekende of een betrouwbare organisatie. Met een door AI gekloonde stem kunnen de criminelen nu ook echt zo klinken. De technologie ‘voice cloning’ is inmiddels zo ver ontwikkeld dat echte en gekloonde stemfragmenten voor veel mensen niet meer van elkaar te onderscheiden zijn, zo blijkt uit onderzoek.
· 6 op de 10 Nederlanders denkt dat een door ‘voice cloning’ gegenereerde stem van een bekende echt is
· Slechts 4% kan met zekerheid een gekloond stemfragment juist onderscheiden
Minder dan de helft van de Nederlanders kan een gekloonde stem van een bekende onderscheiden van de echte. En online criminelen zetten in het buitenland deze techniek al in om mensen te misleiden. Met de campagne Laat je niet interneppen roept de Rijksoverheid iedereen op om alert te zijn voor online misleiding en de afzender van (spraak)berichten en gesprekken altijd goed te controleren. Ook als het lijkt te gaan om een bekende in nood.
Ingrijpende manier van online misleiding
Met makkelijk toegankelijke en betaalbare online AI programma’s is een stem van elk willekeurig persoon eenvoudig na te maken. In Engelstalige landen zoals de Verenigde Staten en Groot-Brittannië maken online criminelen al misbruik van voice cloning technologie door zich voor te doen als een bekende. Omdat stemkloon-programma’s inmiddels Nederlandse stemmen al zeer realistisch kunnen nabootsen, verwacht de Rijksoverheid dat deze ingrijpende manier van online misleiding binnenkort ook hier zal opduiken.
Ruud de Wild
Slechts 4% van de respondenten uit het onderzoek herkende met zekerheid een gekloond stemfragment van radiopresentator Ruud de Wild als nep. Zelfs wanneer respondenten zich bewust waren dat er sprake was van gekloonde stemfragmenten, kon slechts de helft onderscheid maken tussen het origineel en de gekloonde kopie. 83% geeft dan ook toe lastig te kunnen onderscheiden of een stem van een bekende echt of gekloond is.