‘Wees voorzichtig met machine learning’

"Wetenschappers moeten de verwachtingen beter managen", aldus de wiskundeprof, die zich bezighoudt met de analyse van de theoretische eigenschappen van machine learning en deel uitmaakt van de expertgroep voor de nationale AI-strategie die binnenkort wordt gepresenteerd.

Schmidt-Hieber spreekt vandaag zijn oratie uit. Daarin gaat hij in op de AI-strategie en pleit voor een sterkere link tussen statistici en wiskundigen om zo machine learning naar een volgend niveau te tillen. "De Nederlandse AI-strategie moet ervoor zorgen dat ons land succesvol wordt in het toepassen van AI. In een wereld waarin landen volop inzetten op AI en de opkomst van nieuwe machtige platformen razendsnel gaat, is het van groot belang om AI te omarmen, om zo de Nederlandse concurrentiepositie veilig te stellen. Daarnaast heeft Nederland een goede positie om juridische, ethische en technische risico’s te ondervangen en te zorgen dat we de ontwikkelingen omzetten in kansen waar alle Nederlanders van profiteren, aldus de betrokkenen."

Realistischer in onze verwachtingen

Schmidt-Hieber staat achter de strategie, maar waarschuwt ook. "We moeten voorzichtig zijn met de gedachte dat AI al onze problemen kan oplossen. Bedrijven en overheden willen nu massaal investeren in AI en machine learning en verwachten dan grote opbrengsten. Machine learning-methoden zijn nog steeds erg kwetsbaar en makkelijk te foppen. Een kleine reclamesticker op een stopbord kan een zelfrijdende auto bijvoorbeeld doen geloven dat het een snelheidsbord is. Dit probleem kunnen we nog niet oplossen, ondanks alle verwachtingen. Als die verwachtingen niet worden waargemaakt, crasht het hele systeem. Dat zagen we ook rond de AI hypes in de jaren ’50 en ’80 en bij de financiële crisis van 10 jaar geleden. Wiskundige formules waren opeens niet meer toepasbaar op die daling van de huizenprijzen. We moeten realistischer zijn in onze verwachtingen en als wetenschappers moeten we sceptisch zijn en deze signaleren niet negeren."

Babylonische spraakverwarring

Schmidt-Hieber baseert zijn benadering op zijn onderzoek in de statistiek. Binnen dat vakgebied werkt het overgrote deel van wetenschappers en bedrijven aan directe toepassingen. Schmidt-Hieber begeeft zich meer aan de theoretische kant. Juist in dat stadium moet volgens hem door statistici al veel meer dezelfde taal worden gesproken als wiskundigen, econometristen en psychologen. Eigenlijk door iedereen die zich bezig houdt met data science. De hoogleraar begint zijn oratie met het verhaal van de toren van Babel, die door de Babylonische spraakverwarring uiteindelijk niet tot in de hemel reikte. "Die kant dreigt het op te gaan binnen de wiskunde. We praten allemaal door elkaar en worden er niet meer wijzer door. Onze formules zijn zo complex geworden dat ze te ver van elkaar af staan. We zouden vaker bij de punt van de toren moeten beginnen en naast de toepassingen ook het fundament moeten bouwen. Machine Learning en data science in het algemeen zijn nu nog te vaak een berg formules. En als de formule je niet aanstaat, verander je ‘m gewoon hier en daar. Zo zou het niet moeten zijn, we hebben meer theoretisch bewijs nodig."

Black boxes

Deep learning imiteert bijvoorbeeld hoe het menselijk brein leert en bestaat in de praktijk vaak uit miljoenen parameters. Deep learning word vergeleken met ‘black boxes’ omdat we niet begrijpen hoe ze tot conclusies komen. Tot voor kort dachten we dat we dit theoretisch konden analyseren. Met de door Schmidt-Hieber ontwikkelde nieuwe methoden kunnen we de black boxes een beetje openen en meer van de binnenkant begrijpen. Schmidt-Hieber: "Maar dit is slechts een begin, er is nog veel werk te verzetten."