EO

Rathenau Manifest: Stel nu 10 ontwerpeisen aan de digitale samenleving van morgen

26 oktober 2020 om 11:06 uur

Met de doorbraak van ‘immersieve’ technologieën, zoals augmented reality, virtual reality en spraakcomputers, gaat de digitale samenleving een nieuwe fase in. De fysieke en digitale wereld raken meer dan ooit met elkaar verknoopt. Dat roept urgente maatschappelijke en politieke vragen op. Het Rathenau Instituut presenteert daarom een manifest met tien ontwerpeisen aan de digitale samenleving van morgen.


De afgelopen twee jaar heeft het Rathenau Instituut onderzoek gedaan naar virtual reality (VR), augmented reality (AR) en spraaktechnologie. We noemen deze technologieën ‘immersieve technologie', omdat ze ons dieper dan ooit onderdompelen in de digitale wereld. Zo transporteert virtual reality ons naar een volledig kunstmatige wereld, waarin alle geluiden en beelden gecreëerd worden door computers. We kunnen nu soldaten trainen op een virtueel slagveld. Augmented reality voegt juist digitale lagen aan onze ervaring toe. Met een slimme bril ziet een automonteur handige informatie terwijl hij naar de motor kijkt. En via spraaktechnologie kunnen we met computers praten, en luisteren vele apparaten, zoals onze smartphones en slimme speakers, op steeds meer plekken met ons mee.

 

Op 24 oktober host het Rathenau Instituut een talkshow over immersieve technologie tijdens de Dutch Design Week. Op 26 november vindt Rathenau Live plaats om online samen te ontdekken hoe immersieve technologie ons en onze leefwereld verandert.

 

Onze vergaande onderdompeling in digitale technologie roept urgente maatschappelijke en politieke vragen op. Immersieve technologie heeft namelijk drie eigenschappen die ten goede, maar zeker ook ten kwade ingezet kunnen worden:

 

  1. Biometrische surveillance: Om de toepassingen goed te laten werken, moeten camera's, slimme speakers, VR-brillen en andere hardware delen van ons lichaam en onze omgeving digitaal opnemen. Onze gezichten, oogbewegingen, stemmen en ons gedrag moeten worden herkend en gevolgd. Dat betekent dat immersieve technologie ons voortdurend en van dichtbij surveilleert. Maar willen we wel dat onze stem, ons gezicht en zelfs onze emotie door tal van bedrijven, organisaties en overheden geobserveerd en verzameld wordt?
  2. Digitale modificatie: Met behulp van deze gegevens kun je de digitale wereld maken en aanpassen. Je kunt gezichten, stemmen of leefwerelden namaken, vervormen of weglaten. Zo is je stem met een opname van enkele minuten te klonen. Met gezichtsfilters in Snapchat veranderen we ons uiterlijk. En deep fake-video's op sociale media verspreiden een vervalst beeld van de werkelijkheid. Zelfs de wereld om ons heen kan worden bijgewerkt en aangepast. Zo ontwikkelde een programmeur in San Francisco een smakeloze AR-app die daklozen uit het straatbeeld filtert. Ook dit roept grote vragen op. Is nep nog van echt te onderscheiden? Wordt onze samenleving beter als de fysieke wereld digitaal wordt gemanipuleerd?
  3. Beïnvloeding via intuïtieve interactie: Immersieve technologie biedt nieuwe manieren om computers te bedienen en met de digitale wereld om te gaan. Tot nu toe gebruikten we vooral het toetsenbord, de muis en een scherm. Nu kunnen we onze stem en bewegingen gaan gebruiken. De bediening wordt natuurlijker. Met VR-brillen dompelen we ons onder in virtuele werelden en via AR-brillen kunnen we virtuele monsters of kunstwerken in de fysieke wereld zien en aanraken. En zo worden we, vaak zonder dat we het doorhebben, dieper de digitale wereld ingetrokken en kunnen digitale toepassingen ons nog sterker beïnvloeden. Ja, we kunnen makkelijk met een spraakassistent praten, maar die spraakassistent kan ons ook beïnvloeden, onze vriend worden en ons zelfs verslaven. Uiteindelijk dient de spraakassistent ook de belangen van degene die de assistent heeft gemaakt. Dus tot hoever willen we ons eigenlijk laten onderdompelen?

 

De opkomst van immersieve technologie vervaagt de grens tussen mensen en computer, tussen fysiek en digitaal en tussen nep en echt. Diverse publieke waarden zijn daardoor in het geding, waaronder privacy, autonomie, waarachtigheid en gezondheid. Daarom presenteert het Rathenau Instituut op basis van drie onderzoeksrapporten tien ontwerpeisen voor de digitale samenleving van morgen. Tien eisen die van overheden, bedrijven en burgers om urgente actie en dialoog vragen. Zodat immersieve technologie onze wereld rijker, en niet armer maakt.

 

Ontwerpeis 1. We willen de baas blijven over ons digitale lijf

Immersieve technologie verzamelt voortdurend gevoelige, intieme data, zoals een opname van onze stem, onze gebaren of ons gezicht. Dit levert tal van privacyrisico's op. Onze stem en ons gezicht kunnen letterlijk gestolen worden en gebruikt worden om fraude te plegen of onze reputatie te beschadigen. Bovendien zullen we ons meer dan ooit bekeken voelen en ons gedrag daarop aanpassen. Weten we nog wie meekijkt of meeluistert, en wanneer? De bescherming van deze intieme gegevens is nog niet op orde. De overheid moet deze gegevens, met name biometrische gegevens, beter juridisch beschermen, zodat burgers meer regie krijgen over hun lichaams- en gedragsgegevens.

 

Ontwerpeis 2. We willen anoniem kunnen blijven

Het gebruik van spraak- en AR-technologie kan iemands anonimiteit in zowel publieke als private ruimtes bedreigen. De identiteit van toevallige voorbijgangers kan steeds accurater en op steeds grotere afstand worden achterhaald door hun gezicht, loopgedrag of stemgeluid te analyseren. Daarbij worden opnames vergeleken met databases die gevuld zijn met beeld- en audiomateriaal, dat veelal van het internet geschraapt wordt. Sommige opsporingsdiensten maken hier al gebruik van. Er zijn ook publiek toegankelijke apps waarmee je anderen kunt identificeren. Als we niet uitkijken, zijn er binnenkort tal van toepassingen beschikbaar waarmee bedrijven, overheden en burgers je anonimiteit zomaar kunnen opheffen. Dat is een onacceptabele inbreuk op de privacy van mensen, en op hun veiligheid. Toepassingen waarbij burgers in de publieke ruimte, op afstand, zijn te identificeren, moeten daarom worden verboden.

 

Ontwerpeis 3. We willen controle over onze virtuele identiteit

Via immersieve technologie geven we uitdrukking aan onze identiteit. Net zoals we in het fysieke domein kledingstukken of tatoeages gebruiken om ons te onderscheiden, kan dat ook in het virtuele domein. Avatars vertegenwoordigen ons in VR en met AR-veranderen we ons uiterlijk. Met sommige toepassingen kunnen we zelfs het uiterlijk van anderen aanpassen. Dat kan leiden tot zeer ongewenste en vernederende sociale situaties. Denk aan de DeepNude-app, die de kleding verwijdert uit afbeeldingen van vrouwen en hen er realistisch naakt uit laat zien. Het is daarom essentieel dat de overheid duidelijk maakt wat je wel en niet mag doen met de opname van een ander. Mensen verdienen bescherming tegen ongewenste digitale ingrepen op hun lichaam.

 

Ontwerpeis 4. We willen duidelijkheid over nieuwe digitale eigendomskwesties

Immersieve technologie roept ook nieuwe vragen op over ons eigendomsrecht - ten aanzien van onze eigendommen in zowel de virtuele als de fysieke wereld. Van wie is de data op sociale media precies? En van wie zijn de profielen die je daarop kan baseren? Van wie is een stemopname, een afbeelding, of informatie over onze oogopslag in VR? Is ons eigendom geschonden als iemand in AR een scheldwoord op onze muur schildert? De bestaande juridische kaders dienen daarom verhelderd en geactualiseerd te worden, met als uitgangspunt: wat offline geldt, geldt ook online.

 

Ontwerpeis 5. We willen leven in een inclusieve digitale wereld

Er wordt al langer gesproken over de uitdaging om onze digitale samenleving inclusief te maken, niet te discrimineren op basis van geslacht of huidskleur en geen stereotypes aan te moedigen. Deze uitdaging geldt nadrukkelijk voor de manier waarop immersieve technologie onze werkelijkheid aanpast. Zo is er al kritiek op VR-spellen en porno, die stereotypes aanmoedigen en steevast witte mannen in de hoofdrol verbeelden. Denk ook aan voice-toepassingen die vrouwen minder goed verstaan dan mannen, of een virtuele achtergrond die slechter werkt als iemand met een zwarte huidskleur in beeld komt. Bedrijven en ontwikkelaars moeten inclusie centraal stellen bij de ontwikkeling en het gebruik van hun toepassingen.

 

Ontwerpeis 6. We willen kunnen weten dat iets nep is

Immersieve technologie kan gebruikers flink verwarren. Zo dachten kinderen die in VR met orka's hadden gezwommen, later dat ze dit écht hadden gedaan. Spraakassistenten spreken met levensechte stemmen. Weet je straks nog dat je een robot aan de lijn hebt? Omdat immersieve technologie steeds krachtigere simulaties produceren, wordt het op den duur lastig voor gebruikers om werkelijkheid en fictie van elkaar te scheiden. Met immersieve technologie kan de menselijke ervaring zo veranderen, dat we niet meer weten of we onze ogen en oren nog kunnen vertrouwen. Ontwikkelaars en bedrijven moeten daarom afspreken, dat gebruikers vooraf worden geïnformeerd als iets nep is, en niet voor de gek worden gehouden.

 

Ontwerpeis 7. We willen bescherming tegen manipulatie en beïnvloeding

Door middel van immersieve technologie kunnen mensen beïnvloed en gemanipuleerd worden. De intieme gegevens die verzameld worden, geven bedrijven tal van inzichten in iemands persoonlijkheid, gedrag en voorkeuren. Fysiek-virtuele ruimtes bieden ook nieuwe mogelijkheden voor gerichte reclames, die op een direct en onbewust niveau kunnen inspelen op iemands verlangens, voorkeuren en keuzes. Bedrijven, burgers en staten proberen de perceptie van burgers zo sturen, dat ze bepaalde gedachtes toelaten of bepaalde keuzes maken. Denk aan de deep fakes, waarmee gebruikers elkaar op sociale media bestoken, en de complottheorieën die online rondgaan en gestut worden door gemanipuleerde audiofragmenten. Met immersieve technologie neemt propaganda nieuwe vormen aan. Je kunt andere mensen welbewust in een andere werkelijkheid laten geloven. Daarom is een samenlevingsbrede inzet nodig, met bijdragen van onafhankelijke journalistiek, investeringen in de mediavaardigheid van burgers en heldere afspraken over hoever beïnvloeding mag gaan.

 

Ontwerpeis 8. We willen dat onze gezondheid niet geschaad wordt

Immersieve technologie kan onze gezondheid verbeteren, maar ook schaden. De technologie kan mensen nieuwe vaardigheden bijbrengen, menselijke vaardigheden uitbreiden en leerprocessen versnellen en goedkoper maken. Maar therapieën met VR en AR zijn nog jong - er is nog onvoldoende kennis van de risico's die gepaard gaan met het gebruik van de technologie, en van de langetermijneffecten. Van VR- en AR-toepassingen is bekend dat ze in extreme gevallen kunnen leiden tot verslaving. En met name AR-toepassingen blijken ook risico's met zich mee te dragen ten aanzien van de fysieke veiligheid. Zo hebben spelers van het populaire mobiele spel Pokémon GO al meermaals (dodelijke) verkeersongelukken veroorzaakt. Er is meer onderzoek nodig naar negatieve effecten en bedrijven moeten meer doen om gebruikers ertegen te beschermen.

 

Ontwerpeis 9. We willen een digitale markt met eerlijke machtsverhoudingen

De afgelopen twintig jaar is een klein aantal technologiebedrijven uitgegroeid tot machtige commerciële giganten die de interneteconomie domineren. Dit geldt ook voor de markt voor AR, VR en spraaktechnologie. Denk aan de grote spraakassistenten Google Assistant en Amazon Alexa. Zo hebben ze grote macht ten opzichte van consumenten. Probeer als consument Google of Facebook maar eens tot de orde te roepen. Ze hebben ook macht ten opzichte van nieuwkomers op de markt, die ze vaak al snel opkopen. En hun marktmacht vertaalt zich uiteindelijk in politieke macht: de internationale giganten kunnen nationale overheden krachtig beïnvloeden en spelen met hun sociale media een sleutelrol in het politieke debat. Daarom moet de overheid effectiever tegenwicht bieden tegen de macht van de grote technologiebedrijven. En bedrijven moeten meer verantwoordelijkheid nemen om de rechten van consumenten te beschermen.

 

Ontwerpeis 10. We willen dat publieke ruimtes publiek blijven

Immersieve technologie zet het gemeenschappelijke karakter van de publieke ruimte onder druk. Ten eerste omdat mensen de mogelijkheid krijgen om publieke ruimtes via een persoonlijke digitale bril te bekijken - we schreven al over een app die zwervers uit het straatbeeld haalt. Dat ondergraaft de sociale cohesie en versterkt de maatschappelijke fragmentatie die nu al te zien is. Ten tweede kunnen commerciële AR-ontwikkelaars zoveel virtuele lagen en toepassingen op een publieke ruimte loslaten, dat het niet meer een plek voor iedereen is. Denk aan een strand dat in Pokémon Go zoveel Pokémons toebedeelt kreeg, dat het overspoeld werd door Pokemonfans. Voor digitale uitingen in publieke ruimtes moeten heldere regels gelden, zodat de gemeenschappelijkheid bewaard blijft. Dat vraagt om het ontwikkelen van een nieuwe sociale etiquette: hoe gaan we fatsoenlijk met elkaar om in deze nieuwe wereld?

 

Het uitvoeren van deze tien ontwerpeisen is hard nodig om de koers van de digitale samenleving bij te sturen. Maar het is nog maar het begin. Daarom eindigt het instituut met een oproep aan de burger: "Laat je horen en spreek uit wat jij nodig hebt in de digitale wereld van morgen. We moeten ons digitale lot niet uit handen geven. We moeten als democratische burgers onze digitale toekomst zelf bepalen."

 

Gerelateerd nieuws

Nieuw in Parijs: de fietsambulance

Nieuw in Parijs: de fietsambulance (video)

In drukke steden kun je je met een elektrische fiets vaak veel sneller verplaatsen dan met een auto. Om dat voordeel ook te benutten bij levensbedreigende zaken, heeft het Franse bedrijf Ecox Enterprises een elektrische…

Onderzoeksraad over AZ-stadion: ‘Regelmatige constructieve controle moeten verplicht worden gesteld’

Onderzoeksraad over AZ-stadion: ‘Regelmatige constructieve controle moeten verplicht worden gesteld’ (video)

De Onderzoeksraad voor de Veiligheid vindt dat eigenaars van grote gebouwen verplicht moeten worden gesteld om regelmatig constructieve controles uit te voeren. Dit schrijft de Raad in zijn onderzoeksrapport naar de…

Hoorapparaat van de toekomst luistert naar hersengolven

Hoorapparaat van de toekomst luistert naar hersengolven

De huidige generatie hoorapparaten worstelt met het ‘cocktail party effect’: daarbij moet één specifieke spreker uit een omgeving vol pratende mensen en achtergrondlawaai gefilterd worden. Een hoorapparaat weet…

Webshop

webshop

 

Gratis nieuwsbrief

EOL

 

Product van de maand

RSS
Nieuw: dynamische inclinometer van DIS Sensors

Monitor machines en installaties zónder dat trillingen de gemeten waarden beïnvloeden met de dynamische inclinometer...

Focus op

ABB BV
ABB BV

Machineveiligheid, systemen en componenten

B&R Industriële Automatisering BV *
B&R Industriële Automatisering BV *

Perfection in Automation

Elobau Benelux BV *
Elobau Benelux BV *

creating sustainable solutions

Pilz Nederland
Pilz Nederland

Voor industriële (veilige) automatiseringsoplossingen

Ringspann Benelux BV
Ringspann Benelux BV

Partner in aandrijf- en opspantechniek

Rotero Holland BV
Rotero Holland BV

Stappenmotor - Servomotor - Elektro Magneet

Download gratis engineering boeken

A gratis boeken downloaden

 

Agenda

8 december 2020, online

Medische elektronica event

De focus van dit event ligt op de ontwikkeling (+ voorwaarden/regelgeving) en productie van medische...

8 december 2020, München

automatica

Vakbeurs over automatisering en robotica

10 december 2020, 10, 11 en 14 december 2020

Machineveiligheid in vogelvlucht (online training)

Meer agendapunten »