De afgelopen twee jaar heeft het Rathenau Instituut onderzoek gedaan naar virtual reality (VR), augmented reality (AR) en spraaktechnologie. We noemen deze technologieën ‘immersieve technologie’, omdat ze ons dieper dan ooit onderdompelen in de digitale wereld. Zo transporteert virtual reality ons naar een volledig kunstmatige wereld, waarin alle geluiden en beelden gecreëerd worden door computers. We kunnen nu soldaten trainen op een virtueel slagveld. Augmented reality voegt juist digitale lagen aan onze ervaring toe. Met een slimme bril ziet een automonteur handige informatie terwijl hij naar de motor kijkt. En via spraaktechnologie kunnen we met computers praten, en luisteren vele apparaten, zoals onze smartphones en slimme speakers, op steeds meer plekken met ons mee.
Onze vergaande onderdompeling in digitale technologie roept urgente maatschappelijke en politieke vragen op. Immersieve technologie heeft namelijk drie eigenschappen die ten goede, maar zeker ook ten kwade ingezet kunnen worden:
De opkomst van immersieve technologie vervaagt de grens tussen mensen en computer, tussen fysiek en digitaal en tussen nep en echt. Diverse publieke waarden zijn daardoor in het geding, waaronder privacy, autonomie, waarachtigheid en gezondheid. Daarom presenteert het Rathenau Instituut op basis van drie onderzoeksrapporten tien ontwerpeisen voor de digitale samenleving van morgen. Tien eisen die van overheden, bedrijven en burgers om urgente actie en dialoog vragen. Zodat immersieve technologie onze wereld rijker, en niet armer maakt.
Immersieve technologie verzamelt voortdurend gevoelige, intieme data, zoals een opname van onze stem, onze gebaren of ons gezicht. Dit levert tal van privacyrisico’s op. Onze stem en ons gezicht kunnen letterlijk gestolen worden en gebruikt worden om fraude te plegen of onze reputatie te beschadigen. Bovendien zullen we ons meer dan ooit bekeken voelen en ons gedrag daarop aanpassen. Weten we nog wie meekijkt of meeluistert, en wanneer? De bescherming van deze intieme gegevens is nog niet op orde. De overheid moet deze gegevens, met name biometrische gegevens, beter juridisch beschermen, zodat burgers meer regie krijgen over hun lichaams- en gedragsgegevens.
Het gebruik van spraak- en AR-technologie kan iemands anonimiteit in zowel publieke als private ruimtes bedreigen. De identiteit van toevallige voorbijgangers kan steeds accurater en op steeds grotere afstand worden achterhaald door hun gezicht, loopgedrag of stemgeluid te analyseren. Daarbij worden opnames vergeleken met databases die gevuld zijn met beeld- en audiomateriaal, dat veelal van het internet geschraapt wordt. Sommige opsporingsdiensten maken hier al gebruik van. Er zijn ook publiek toegankelijke apps waarmee je anderen kunt identificeren. Als we niet uitkijken, zijn er binnenkort tal van toepassingen beschikbaar waarmee bedrijven, overheden en burgers je anonimiteit zomaar kunnen opheffen. Dat is een onacceptabele inbreuk op de privacy van mensen, en op hun veiligheid. Toepassingen waarbij burgers in de publieke ruimte, op afstand, zijn te identificeren, moeten daarom worden verboden.
Via immersieve technologie geven we uitdrukking aan onze identiteit. Net zoals we in het fysieke domein kledingstukken of tatoeages gebruiken om ons te onderscheiden, kan dat ook in het virtuele domein. Avatars vertegenwoordigen ons in VR en met AR-veranderen we ons uiterlijk. Met sommige toepassingen kunnen we zelfs het uiterlijk van anderen aanpassen. Dat kan leiden tot zeer ongewenste en vernederende sociale situaties. Denk aan de DeepNude-app, die de kleding verwijdert uit afbeeldingen van vrouwen en hen er realistisch naakt uit laat zien. Het is daarom essentieel dat de overheid duidelijk maakt wat je wel en niet mag doen met de opname van een ander. Mensen verdienen bescherming tegen ongewenste digitale ingrepen op hun lichaam.
Immersieve technologie roept ook nieuwe vragen op over ons eigendomsrecht – ten aanzien van onze eigendommen in zowel de virtuele als de fysieke wereld. Van wie is de data op sociale media precies? En van wie zijn de profielen die je daarop kan baseren? Van wie is een stemopname, een afbeelding, of informatie over onze oogopslag in VR? Is ons eigendom geschonden als iemand in AR een scheldwoord op onze muur schildert? De bestaande juridische kaders dienen daarom verhelderd en geactualiseerd te worden, met als uitgangspunt: wat offline geldt, geldt ook online.
Er wordt al langer gesproken over de uitdaging om onze digitale samenleving inclusief te maken, niet te discrimineren op basis van geslacht of huidskleur en geen stereotypes aan te moedigen. Deze uitdaging geldt nadrukkelijk voor de manier waarop immersieve technologie onze werkelijkheid aanpast. Zo is er al kritiek op VR-spellen en porno, die stereotypes aanmoedigen en steevast witte mannen in de hoofdrol verbeelden. Denk ook aan voice-toepassingen die vrouwen minder goed verstaan dan mannen, of een virtuele achtergrond die slechter werkt als iemand met een zwarte huidskleur in beeld komt. Bedrijven en ontwikkelaars moeten inclusie centraal stellen bij de ontwikkeling en het gebruik van hun toepassingen.
Immersieve technologie kan gebruikers flink verwarren. Zo dachten kinderen die in VR met orka’s hadden gezwommen, later dat ze dit écht hadden gedaan. Spraakassistenten spreken met levensechte stemmen. Weet je straks nog dat je een robot aan de lijn hebt? Omdat immersieve technologie steeds krachtigere simulaties produceren, wordt het op den duur lastig voor gebruikers om werkelijkheid en fictie van elkaar te scheiden. Met immersieve technologie kan de menselijke ervaring zo veranderen, dat we niet meer weten of we onze ogen en oren nog kunnen vertrouwen. Ontwikkelaars en bedrijven moeten daarom afspreken, dat gebruikers vooraf worden geïnformeerd als iets nep is, en niet voor de gek worden gehouden.
Door middel van immersieve technologie kunnen mensen beïnvloed en gemanipuleerd worden. De intieme gegevens die verzameld worden, geven bedrijven tal van inzichten in iemands persoonlijkheid, gedrag en voorkeuren. Fysiek-virtuele ruimtes bieden ook nieuwe mogelijkheden voor gerichte reclames, die op een direct en onbewust niveau kunnen inspelen op iemands verlangens, voorkeuren en keuzes. Bedrijven, burgers en staten proberen de perceptie van burgers zo sturen, dat ze bepaalde gedachtes toelaten of bepaalde keuzes maken. Denk aan de deep fakes, waarmee gebruikers elkaar op sociale media bestoken, en de complottheorieën die online rondgaan en gestut worden door gemanipuleerde audiofragmenten. Met immersieve technologie neemt propaganda nieuwe vormen aan. Je kunt andere mensen welbewust in een andere werkelijkheid laten geloven. Daarom is een samenlevingsbrede inzet nodig, met bijdragen van onafhankelijke journalistiek, investeringen in de mediavaardigheid van burgers en heldere afspraken over hoever beïnvloeding mag gaan.
Immersieve technologie kan onze gezondheid verbeteren, maar ook schaden. De technologie kan mensen nieuwe vaardigheden bijbrengen, menselijke vaardigheden uitbreiden en leerprocessen versnellen en goedkoper maken. Maar therapieën met VR en AR zijn nog jong – er is nog onvoldoende kennis van de risico’s die gepaard gaan met het gebruik van de technologie, en van de langetermijneffecten. Van VR- en AR-toepassingen is bekend dat ze in extreme gevallen kunnen leiden tot verslaving. En met name AR-toepassingen blijken ook risico’s met zich mee te dragen ten aanzien van de fysieke veiligheid. Zo hebben spelers van het populaire mobiele spel Pokémon GO al meermaals (dodelijke) verkeersongelukken veroorzaakt. Er is meer onderzoek nodig naar negatieve effecten en bedrijven moeten meer doen om gebruikers ertegen te beschermen.
De afgelopen twintig jaar is een klein aantal technologiebedrijven uitgegroeid tot machtige commerciële giganten die de interneteconomie domineren. Dit geldt ook voor de markt voor AR, VR en spraaktechnologie. Denk aan de grote spraakassistenten Google Assistant en Amazon Alexa. Zo hebben ze grote macht ten opzichte van consumenten. Probeer als consument Google of Facebook maar eens tot de orde te roepen. Ze hebben ook macht ten opzichte van nieuwkomers op de markt, die ze vaak al snel opkopen. En hun marktmacht vertaalt zich uiteindelijk in politieke macht: de internationale giganten kunnen nationale overheden krachtig beïnvloeden en spelen met hun sociale media een sleutelrol in het politieke debat. Daarom moet de overheid effectiever tegenwicht bieden tegen de macht van de grote technologiebedrijven. En bedrijven moeten meer verantwoordelijkheid nemen om de rechten van consumenten te beschermen.
Immersieve technologie zet het gemeenschappelijke karakter van de publieke ruimte onder druk. Ten eerste omdat mensen de mogelijkheid krijgen om publieke ruimtes via een persoonlijke digitale bril te bekijken – we schreven al over een app die zwervers uit het straatbeeld haalt. Dat ondergraaft de sociale cohesie en versterkt de maatschappelijke fragmentatie die nu al te zien is. Ten tweede kunnen commerciële AR-ontwikkelaars zoveel virtuele lagen en toepassingen op een publieke ruimte loslaten, dat het niet meer een plek voor iedereen is. Denk aan een strand dat in Pokémon Go zoveel Pokémons toebedeelt kreeg, dat het overspoeld werd door Pokemonfans. Voor digitale uitingen in publieke ruimtes moeten heldere regels gelden, zodat de gemeenschappelijkheid bewaard blijft. Dat vraagt om het ontwikkelen van een nieuwe sociale etiquette: hoe gaan we fatsoenlijk met elkaar om in deze nieuwe wereld?
Het uitvoeren van deze tien ontwerpeisen is hard nodig om de koers van de digitale samenleving bij te sturen. Maar het is nog maar het begin. Daarom eindigt het instituut met een oproep aan de burger: "Laat je horen en spreek uit wat jij nodig hebt in de digitale wereld van morgen. We moeten ons digitale lot niet uit handen geven. We moeten als democratische burgers onze digitale toekomst zelf bepalen."
De Pi-Pop is een e-bike zonder de gewone energiecellen. Hij werkt op kracht zonder lithium-ion,…
Straling vanuit de ruimte is een uitdaging voor kwantumcomputers, omdat hun rekentijd beperkt wordt door…
Na meer dan 40 jaar voor KSB te hebben gewerkt, gaat directeur Nico Gitz binnenkort…
3T Electronics & Embedded Systems, onderdeel van de Kendrion Group, heeft een nieuwe locatie in…
Een nieuw huisbeveiligingssysteem schiet indringers de tuin uit met paintballs of traangas. Het is te…
Om ervoor te zorgen dat er steeds meer hernieuwbare waterstof wordt geproduceerd in Nederland en…