17 feb. 1999
2 minuten
De modellen die toekomstige gebeurtenissen kunnen voorspellen zijn vaak zo complex dat bijna niemand begrijpt hoe een bepaald advies tot stand komt. Dat zorgt voor steeds meer twijfel bij betrokkenen over de uitkomsten. Om meer inzicht te krijgen in de totstandkoming van een voorspelling gaat de Technische Universiteit Eindhoven (TU/e) in beeld brengen wat er gebeurt in zo’n model. Hoogleraar Visualisatie Jack van Wijk heeft hiertoe een Top-subsidie van NWO gekregen van bijna 700.000 euro.
Voorspellende modellen maken gebruik van algoritmes die gebeurtenissen uit het verleden analyseren om toekomstige gebeurtenissen te voorspellen. Deze modellen worden steeds meer en voor een breed scala aan toepassingen gebruikt door het bedrijfsleven, de industrie, overheid, gezondheidszorg en het onderwijs. Voorbeelden zijn het voorspellen van benodigd onderhoud aan machines, het opsporen van fraude, de toekenning van kredietverlening en het bepalen van de medische behandeling met de hoogste slagingskans.
Inzicht in complexe modellen
Beslissingen en adviezen op basis van voorspellende modellen kunnen een grote invloed hebben. De laatste jaren worden er echter door de wetenschappelijke wereld, maar ook door de overheid en samenleving. meer en meer vraagtekens gezet bij de inzet van dergelijke methoden. Vaak zijn de modellen namelijk zo complex, dat niemand meer kan begrijpen hoe een advies tot stand is gekomen. Van Wijk: "Als het gaat om een aanbeveling voor een film, dan vinden we dit prima. Maar als het gaat om een zware medische ingreep, het afwijzen van een hypotheek of het sturen van een helikopter naar een verdacht schip, dan zullen weinig mensen dat blindelings accepteren." Daarnaast kunnen de automatisch gegenereerde modellen ook leiden tot ongewenste negatieve neveneffecten zoals discriminatie, bijvoorbeeld wanneer beslissingen zijn gebaseerd op onjuiste of vertekende gegevens.
Van Wijk gaat nu methoden en technieken ontwikkelen die inzichtelijk maken welke keuzes en informatie hebben geleid tot een bepaalde aanbeveling van een automatisch beslismodel. Bijvoorbeeld welke informatie is gebruikt, of deze correct is, welke aspecten als meest relevant gezien worden, welke aspecten elkaar beïnvloeden, waarom in twee bijna dezelfde gevallen toch verschillende aanbevelingen gedaan worden, en wat de zekerheid is van een aanbeveling.
Gebruikers centraal
Het streven is om tools te ontwikkelen waarmee de gebruiker intuïtief en eenvoudig door een beslismodel kan navigeren, gebruikmakend van interactieve visualisatie. Zo kunnen betrokkenen zelf beoordelen of het advies van het model eerlijk was en inzicht krijgen in hoe zij ervoor kunnen zorgen dat het model een volgende keer een andere beslissing neemt.
Samenwerking
Visualisatie staat centraal in het voorstel, maar voor het slagen is samenwerking met experts op het gebied van data-analyse, mens-machine interactie en psychologie cruciaal. Het voorstel is voortgekomen uit samenwerking in het kader van de Jheronimus Academy of Data Science (Jads). Het onderzoek zal worden uitgevoerd door drie promovendi, begeleid door een team van onderzoekers met verschillende achtergronden.
Anderen lazen ook
