TU/e gaat ‘black box’ van voorspellende modellen visualiseren

Voorspellende modellen maken gebruik van algoritmes die gebeurtenissen uit het verleden analyseren om toekomstige gebeurtenissen te voorspellen. Deze modellen worden steeds meer en voor een breed scala aan toepassingen gebruikt door het bedrijfsleven, de industrie, overheid, gezondheidszorg en het onderwijs. Voorbeelden zijn het voorspellen van benodigd onderhoud aan machines, het opsporen van fraude, de toekenning van kredietverlening en het bepalen van de medische behandeling met de hoogste slagingskans.

Inzicht in complexe modellen

Beslissingen en adviezen op basis van voorspellende modellen kunnen een grote invloed hebben. De laatste jaren worden er echter door de wetenschappelijke wereld, maar ook door de overheid en samenleving. meer en meer vraagtekens gezet bij de inzet van dergelijke methoden. Vaak zijn de modellen namelijk zo complex, dat niemand meer kan begrijpen hoe een advies tot stand is gekomen. Van Wijk: "Als het gaat om een aanbeveling voor een film, dan vinden we dit prima. Maar als het gaat om een zware medische ingreep, het afwijzen van een hypotheek of het sturen van een helikopter naar een verdacht schip, dan zullen weinig mensen dat blindelings accepteren." Daarnaast kunnen de automatisch gegenereerde modellen ook leiden tot ongewenste negatieve neveneffecten zoals discriminatie, bijvoorbeeld wanneer beslissingen zijn gebaseerd op onjuiste of vertekende gegevens.

Van Wijk gaat nu methoden en technieken ontwikkelen die inzichtelijk maken welke keuzes en informatie hebben geleid tot een bepaalde aanbeveling van een automatisch beslismodel. Bijvoorbeeld welke informatie is gebruikt, of deze correct is, welke aspecten als meest relevant gezien worden, welke aspecten elkaar beïnvloeden, waarom in twee bijna dezelfde gevallen toch verschillende aanbevelingen gedaan worden, en wat de zekerheid is van een aanbeveling.

Gebruikers centraal

Het streven is om tools te ontwikkelen waarmee de gebruiker intuïtief en eenvoudig door een beslismodel kan navigeren, gebruikmakend van interactieve visualisatie. Zo kunnen betrokkenen zelf beoordelen of het advies van het model eerlijk was en inzicht krijgen in hoe zij ervoor kunnen zorgen dat het model een volgende keer een andere beslissing neemt.

Samenwerking

Visualisatie staat centraal in het voorstel, maar voor het slagen is samenwerking met experts op het gebied van data-analyse, mens-machine interactie en psychologie cruciaal. Het voorstel is voortgekomen uit samenwerking in het kader van de Jheronimus Academy of Data Science (Jads). Het onderzoek zal worden uitgevoerd door drie promovendi, begeleid door een team van onderzoekers met verschillende achtergronden.