3 jan. 2015
4 minuten
Computers herkennen, net als mensen, beelden die zij al eerder hebben gezien. Ze kunnen gezichten identificeren, handschrift herkennen, een ECG interpreteren en analyseren wat er op een foto is te zien. Maar dat wil nog niet zeggen dat ze dat allemaal op dezelfde manier ‘zien’ als mensen.
Als zowel mensen als computers een afbeelding zien van een leeuw en het dan ook een leeuw noemen – wat maakt het dan uit hoe zij tot die conclusie zijn gekomen? In veel gevallen is het resultaat van de analyse nuttiger dan de weg er naar toe. Maar als een hacker toegang wil krijgen tot een geautomatiseerd systeem zou hij een ingang kunnen vinden als hij weet hoe een kunstmatig brein dingen ziet.
Illusie
Een groep computerwetenschappers van de University of Wyoming en de Cornell University heeft onlangs uitgezocht hoe afbeeldingen kunnen worden gemaakt die voor computers een betekenis hebben, maar die er voor het menselijk oog uitzien als TV-storing. "Het is niet moeilijk om beelden te produceren die voor mensen compleet onherkenbaar zijn maar waarvan state-of-the-art computers (diep neurale netwerken) denken dat het herkenbare objecten zijn", schreven zij in een paper dat is aangeboden voor publicatie in een wetenschappelijk tijdschrift.
En computers herkennen niet alleen signalen in de ruis, maar ze doen dat ook met een grote mate van zelfvertrouwen. Het gaat dan om beelden zoals te zien op de foto bij dit artikel. Een computer zegt dat hij voor 99% zeker is dat hij een gorilla, een poolvos, een bikini, een paling of een rugzak ziet.
"Tot op zekere hoogte zijn dit optische illusies voor kunstmatige intelligentie", zegt Jeff Clune, een van de auteurs. "Precies zoals optische illusies de mens voor de gek houden, onthullen deze beelden aspecten van de manier waarop diepe neurale netwerken ‘zien’. Dat maakt ze meteen ook kwetsbaar. En voor ons zijn het geen optische illusies, omdat ons beeldverwerkingssysteem anders werkt."
Pixels aanpassen
Clune en zijn collega’s gebruikten een algoritme om willekeurige beelden te genereren die onherkenbaar zijn voor mensen. In het begin, verklaart Clune, zou de computer onzeker kunnen zijn over wat hij ziet. "Hij meldt dan: dat lijkt nergens op, maar als je me dwingt om te raden is het beste wat ik kan bedenken een leeuw. Maar het lijkt maar voor 1 procent op een leeuw."
Van daaruit gingen de onderzoekers verder door de pixels van het beeld zodanig aan te passen tot de computer het met bijna complete zekerheid kon identificeren als een herkenbaar object, terwijl het voor mensen onherkenbaar bleef. Hoewel het beeld voor het menselijk oog nog steeds betekenisloos zou zijn, representeert het volgens Clune de Platonische voor van wat de computer ziet. En dat is essentieel: het is niet zo dat de computer per se het beeld onluist identificeert, maar hij ziet en interpreteert de dingen anders – en meer verfijnd – dan een mens. Clune: "Je zou kunnen zeggen dat deze DNN’s liefhebbers zijn van kubistische kunst. Als ze een oog, een neus en een mond zien noemen ze het een gezicht, zonder zich te bekommeren over de plek waar die dingen zich bevinden."
Als mensen staren naar de zelfde kleurblokken in bijvoorbeeld een schilderij van Paul Klee, ziet de één er een eend in en iemand anders een konijn. Als DNN’s kijken naar hetzelfde abstracte beeld komen ze allemaal tot dezelfde conclusie. "Dat is precies wat we hebben geprobeerd – en het werkt", zegt Clune. "Twee verschillende DNN’s kijken naar dezelfde TV-storing en zeggen: ja, absoluut een leeuw".
Als een mens een leeuw ziet neemt hij in een fractie van een seconde beslissingen: het is een dier, het is groot, het loopt op vier poten, het heeft een staart, het heeft zandkleurige manen, oh dat is een leeuw. De checklist in het brein van de computer is veel verfijnder. Dat kijkt naar ‘leeuwachtigheid’ op pixelniveau.
Mogelijkheden
En omdat deze computers illusies op dezelfde manier interpreteren zijn er belangrijke mogelijkheden voor digitale veiligheid en zelfs menselijke communicatie. Clune geeft een voorbeeld: "Google haalt met beeldzoekfilters automatisch pornografische beelden weg. Met de door ons beschreven techniek zou je pornofoto’s kunnen publiceren die door de Google-filters worden herkend als konijnen."
In landen waar de vrijheid van meningsuiting en van pers zijn beperkt, zouden burgers in het geheim kunnen communiceren. Clune: "Mensen zouden boodschappen o over persvrijheid kunnen inbedden om ze langs automatische censuurfilters te loodsen".
Bron: The Atlantic
Anderen lazen ook
