Voorstel voor aanpassingen in Machinerichtlijn voor machines uitgerust met ‘machine learning’

In het rapport van TNO is specifiek gekeken naar de Essentiële Veiligheids- en Gezondheidseisen van de Machinerichtlijn (V&G-eisen, Bijlage I). De focus ligt op industriële machines die uitgerust zijn met machine learning tijdens de gebruiksfase. De Machinerichtlijn is opgesteld in een tijd waarin er nog geen praktijktoepassingen van machines met machine learning bestonden. De verwachting is dat de mogelijkheid tot aanpassen van acties door middel van machine learning op de werkvloer tot nieuwe risico’s kan leiden. De voorgestelde V&G-eisen aan het eind van het rapport zijn dus voornamelijk van toepassing op deze categorie machines.

 

Overzicht definitief voorstel

Aanvullende V&G-eisen:
Ten aanzien van ergonomie van het besturingssysteem (aanvulling op: paragraaf 1.1.6,
Bijlage 1 MR)
1. Een machine met machine learning technologie moet in staat zijn om adequaat en passend te kunnen reageren op de mens.
2. Een machine met machine learning technologie moet aangeven welke acties deze gaat ondernemen en op basis van welke informatie.

Ten aanzien van veiligheid en betrouwbaarheid van de besturingssystemen (aanvulling op: paragraaf 1.2.1, Bijlage 1 MR)
3. Machines met machine learning mogen geen beslissingen of overwegingen maken in relatie tot schade aan mens en omgeving.

4. Machine learning mag niet leiden tot acties van de machine buiten zijn gedefinieerde taak en bewegingsruimte.
5. Machines met machine learning technologie dienen bij verkeerde beslissingen van de machine achteraf corrigeerbaar te zijn om te voorkomen dat het in de toekomst op dezelfde manier fout gaat.
6. De acties van een machine met machine learning technologie moet vooraf en achteraf te herleiden zijn op basis van transparantie in toegepaste datasets, testomgevingen en afwegingskaders of toetsingscriteria voor beslissingen van algoritmen.
7. Het beslisproces van een machine met machine learning technologie moet gelogd worden en bewaard blijven.
 

Download hier het rapport van TNO:

TNO-2018-R10499.