26 jun. 2025
4 minuten
Volgens een studie van meer dan 40.000 wetenschappelijke publicaties en patenten op het gebied van computer vision (CV) is deze technologie fundamenteel verweven geraakt met de surveillance van mensen. “Beeldherkenning wordt systematisch ingezet om mensen te volgen, analyseren en controleren – vaak zonder hun medeweten of toestemming.”
a, Gedurende drie decennia van gepatenteerde artikelen over computer vision (n = 11.917) is het percentage dat wordt gebruikt in patenten die surveillance mogelijk maken, gestaag toegenomen.
b, Aantal computer vision-artikelen gebruikt in patenten die surveillance mogelijk maken. Vergeleken met de jaren 90 en 2010 is het aantal computer vision-artikelen dat alleen in niet-surveillance-patenten wordt gebruikt relatief stabiel gebleven, terwijl het aantal computer vision-artikelen dat in surveillance-patenten wordt gebruikt meer dan vervijfvoudigd is.
c, Verschillen in woordfrequenties tussen artikeltitels uit de jaren 90 en die uit de jaren 2010. De onderzoekers rapporteren sterk gepolariseerde woorden (met z-scores berekend met behulp van gewogen log-odds ratio’s). Alle getoonde woordassociaties zijn statistisch significant (P < 0,01). Er is een duidelijke kwalitatieve verschuiving van de meer generieke focus op artikelen uit de jaren 90 (turkooizen balken) naar een grotere focus op het analyseren van semantische categorieën en mensen (bijvoorbeeld ‘semantisch’, ‘actie’ of ‘persoon’) in de jaren 2010 (roze balken).
Vijf keer meer surveillancepatenten sinds 1980
De studie traceert de ontwikkeling van CV-onderzoek over vier decennia en laat een vijfvoudige toename zien van papers die zijn doorvertaald naar surveillancepatenten. Opvallend daarbij is dat het taalgebruik binnen de wetenschappelijke publicaties steeds meer gecamoufleerde termen hanteert om surveillance te normaliseren of te verdoezelen.
“Hoewel vaak wordt gesteld dat slechts een klein deel van CV-onderzoek wordt misbruikt, toont onze analyse aan dat surveillance eerder de norm is geworden dan de uitzondering,” aldus Dr. Birhane, directeur van het AI Accountability Lab (AIAL).
Taalgebruik verhult mensgericht toezicht
Een van de inzichten is hoe de taal binnen de sector de mens als onderwerp van toezicht versluierd. Termen als ‘object recognition’ en ‘activity detection’ verwijzen steeds vaker direct naar menselijke lichamen en gedragingen, maar worden gepresenteerd alsof het om abstracte of niet-menselijke entiteiten gaat. Deze verobjectivering van mensen leidt ertoe dat surveillance onzichtbaarder en dus moeilijker te reguleren wordt.
a, Relatieve frequenties van datatypen die zijn geëxtraheerd uit computer vision-artikelen en patenten. Voor elk jaar van 2010 tot en met 2019 hebben de onderzoekers tien paren van artikelen en patenten willekeurig geselecteerd en geanalyseerd (n = 200). De meeste geannoteerde computer vision-artikelen en patenten (88%, s.d. = 5,7%) verwijzen naar data over mensen. De meeste artikelen en patenten (68%, s.d. = 4,7%) verwijzen specifiek naar data over menselijke lichamen en lichaamsdelen. Slechts 1% (s.d. = 0,7%) van de artikelen en patenten richtte zich uitsluitend op niet-sociaal relevante data.
b, Voorbeelden van afbeeldingen die zijn geanalyseerd in computer vision-artikelen. Voor een aselecte steekproef van de computer vision papers (n = 50) tonen ze één voorbeeld van een afbeelding die door de paper is geanalyseerd. Voor papers die afbeeldingen met mensen hebben geanalyseerd, tonenze een voorbeeld van deze afbeeldingen van mensen (gemarkeerd in rood). Voor papers die geen afbeeldingen van mensen hebben geanalyseerd, tonen ze een voorbeeld van deze afbeeldingen waarop geen mensen staan (gemarkeerd in grijs).
Topspelers in surveillance-ontwikkeling
Het onderzoek wijst ook aan welke instellingen het meest bijdragen aan surveillance-technologie via computer vision:
- Microsoft
- Carnegie Mellon University
- MIT
- University of Illinois Urbana-Champaign
- Chinese University of Hong Kong
De landen die hierin wereldwijd domineren zijn de VS, China en het VK.
Privacy en fundamentele vrijheden onder druk
Volgens de onderzoekers bedreigt deze ontwikkeling kernrechten zoals privacy, bewegingsvrijheid, meningsuiting en expressie. Vooral kwetsbare gemeenschappen en gemarginaliseerde groepen lopen verhoogd risico slachtoffer te worden van onzichtbare controlemechanismen, zoals algoritmische profilering, gezichtsherkenning in publieke ruimten, en gedragsmonitoring.
“Wat ons het meest zorgen baart, is dat het steeds moeilijker wordt om je eraan te onttrekken. Je kunt niet zomaar ‘offline’ gaan of onzichtbaar zijn. Surveillance wordt een onlosmakelijk onderdeel van het dagelijks leven,” zegt Birhane.
Technologie is kneedbaar – en omkeerbaar
Het onderzoek is niet alleen bedoeld als waarschuwing, maar ook als praktisch hulpmiddel voor beleidsmakers, activisten en onderzoekers die willen bouwen aan ethische technologie.
“We willen grassroots-bewegingen voorzien van harde data om systeemverandering af te dwingen,” aldus Birhane. “Ook CV-onderzoekers zelf kunnen bewuster kiezen: projecten weigeren die bijdragen aan surveillance, ethische implicaties bestuderen of de samenleving informeren.”
Dr. Birhane’s werk wordt inmiddels ondersteund met een beurs van 200.000 euro van het European AI & Society Fund, gericht op maatschappelijk verantwoorde AI.
Het laatste nieuws
Anderen lazen ook
