Nieuwe benadering van articifiële intelligentie biedt meer zekerheid bij onzekerheid

Het onderzoek verschijnt in AAAI.

De onderzoekers hebben een nieuwe benadering ontwikkeld voor het zogenaamde ‘onzekere, gedeeltelijk waarneembare Markov-beslissingsproces’ (uPOMDP – uncertain partially observable Markov decision process). Simpel gezegd zijn dit modellen gebaseerd op de echte wereld die de kans op een gebeurtenis inschatten.

Een zelfrijdende auto komt bijvoorbeeld met allerlei onbekende situaties in aanraking wanneer deze begint te rijden. Om de AI van zelfrijdende auto’s te valideren, worden uitgebreide berekeningen gemaakt om te analyseren hoe de AI met verschillende situaties om zou gaan. De onderzoekers stellen dat deze analyses veel realistischer gemaakt kunnen worden met behulp van hun nieuwe benadering, zodat de AI sneller betere en veiligere beslissingen kan nemen.

Van theorie naar praktijk

Gedeeltelijk waarneembare Markov-beslissingsprocessen (POMDP’s) worden al in de praktijk gebruikt om allerlei situaties te simuleren en modelleren. Deze POMDP’s worden gebruikt om de verspreiding van een epidemie te voorspellen, te berekenen hoe lucht- en ruimtevaartuigen een botsing kunnen voorkomen en zelfs om bedreigde diersoorten te onderzoeken en beschermen.

"We weten dat deze modellen heel goed een realistisch beeld kunnen geven van de echte wereld. Door de grote hoeveelheid verwerkingskracht die nodig is om ze te gebruiken worden ze in de praktijk echter weinig ingezet", aldus Nils Jansen, een van de hoofdauteurs. "Dankzij deze nieuwe benadering kunnen we al onze berekeningen en theoretische informatie consistenter en regelmatiger in de echte wereld gebruiken."

Zelfrijdende auto’s

De doorbraak van het team is te danken aan het feit dat ze de onzekerheid van de echte wereld expliciet in de modellen hebben opgenomen. Jansen: "Huidige modellen vertellen je bijvoorbeeld dat er een kans van 80 procent is dat een rit in een zelfrijdende auto helemaal veilig is. Het is onduidelijk wat er bij die andere 20 procent van de gevallen kan gebeuren, en wat voor soort risico je dan kunt verwachten. Dat is een onduidelijke, vage benadering van risico. Met deze nieuwe benadering kan een systeem veel gedetailleerdere verklaringen geven van wat er mis kan gaan en dit meenemen in de berekeningen. Op deze manier krijgen gebruikers specifiekere voorbeelden van wat er mis kan gaan en kunnen ze betere, en meer toepasselijke aanpassingen doorvoeren om die specifieke risico´s te voorkomen."

De benadering die de onderzoekers hebben gebruikt voor deze POMDP’s is eerder al door andere onderzoekers gebruikt, maar alleen in specifieke, beperkte situaties en bij gedachte-experimenten. "Voor de eerste keer hebben we deze eerdere theoretische gedachte-experimenten nu in een praktische, realistische benadering weten te verwerken’, vertelt Jansen. ‘Dit werd als een uniek en moeilijk probleem beschouwd, maar dankzij onze interdiscipliaire aanpak hebben we een echte doorbraak kunnen maken."