Worstelen met AI als systeemtechnologie

En ja, er gaat nogal eens wat mis met deze ‘systemen die intelligent gedrag vertonen door hun omgeving te analyseren en - met enige graad van autonomie - actie te ondernemen om specifieke doelen te bereiken'. Social media algoritmes die tunnelvisie faciliteren en polarisatie in de hand werken, foutieve selectievinkjes bij de belastingdienst, die in de computersystemen een heel eigen leven gaan leiden, profilering op uiterlijke kenmerken bij surveillance systemen, noem maar op. En als er dan iets misgaat, weten we niet goed waar we de oorzaak daarvan moeten zoeken. Ligt het aan de algoritmes? En wie heeft die dan gemaakt? Zijn ‘we' te weinig ‘keen' op de consequenties? Begrijpen ‘we' wel hoe algoritmes zijn gemaakt, is dat transparant voor de gebruiker en het (soms, vaak?) lijdend voorwerp?

Het rapport komt met een tiental aanbevelingen (te vinden in het plaatje rechtsboven), die best wel ambitieus zijn, zeker voor een overheid die de laatste jaren al niet echt uitblinkt in slagvaardigheid. Maar ze zijn te belangrijk om halfslachtig aan te pakken of -veel erger- te negeren, want het gaat er ook om hoe we ons als democratische samenleving willen blijven manifesteren. Ik krijg nu een Aha-erlebnis over de Brede Maatschappelijke Discussie, die in de begin jaren 80 van de vorige eeuw werd gevoerd over (jawel!) kernenergie. Het resultaat daarvan is history, niet in de laatste plaats door een zetje in de rug vanuit Tsjernobyl.

Ik denk niet dat wij als klein kikkerlandje AI, net als kernenergie, in de ijskast zullen zetten (alle mini-AI-rampjes ten spijt). Afgezien van de rijdende trein, die al niet meer te stoppen is, ondergraaf je ook je innovatietiepositie in het mondiale krachtenveld. Maar goed nadenken en discussiëren over de consequenties van AI, en daar ook naar handelen, allerlei checks & balances inbouwen voor ethisch verantwoorde toepassing is minstens zo noodzakelijk als het stimuleren van fundamenteel en toegepast onderzoek naar AI. Eigenlijk kunnen we al niet meer zonder...

Richard Bezemer,
hoofdredacteur Elektrodata