In het rapport van TNO is specifiek gekeken naar de Essentiële Veiligheids- en Gezondheidseisen van de Machinerichtlijn (V&G-eisen, Bijlage I). De focus ligt op industriële machines die uitgerust zijn met machine learning tijdens de gebruiksfase. De Machinerichtlijn is opgesteld in een tijd waarin er nog geen praktijktoepassingen van machines met machine learning bestonden. De verwachting is dat de mogelijkheid tot aanpassen van acties door middel van machine learning op de werkvloer tot nieuwe risico’s kan leiden. De voorgestelde V&G-eisen aan het eind van het rapport zijn dus voornamelijk van toepassing op deze categorie machines.
Aanvullende V&G-eisen:
Ten aanzien van ergonomie van het besturingssysteem (aanvulling op: paragraaf 1.1.6,
Bijlage 1 MR)
1. Een machine met machine learning technologie moet in staat zijn om adequaat en passend te kunnen reageren op de mens.
2. Een machine met machine learning technologie moet aangeven welke acties deze gaat ondernemen en op basis van welke informatie.
Ten aanzien van veiligheid en betrouwbaarheid van de besturingssystemen (aanvulling op: paragraaf 1.2.1, Bijlage 1 MR)
3. Machines met machine learning mogen geen beslissingen of overwegingen maken in relatie tot schade aan mens en omgeving.
4. Machine learning mag niet leiden tot acties van de machine buiten zijn gedefinieerde taak en bewegingsruimte.
5. Machines met machine learning technologie dienen bij verkeerde beslissingen van de machine achteraf corrigeerbaar te zijn om te voorkomen dat het in de toekomst op dezelfde manier fout gaat.
6. De acties van een machine met machine learning technologie moet vooraf en achteraf te herleiden zijn op basis van transparantie in toegepaste datasets, testomgevingen en afwegingskaders of toetsingscriteria voor beslissingen van algoritmen.
7. Het beslisproces van een machine met machine learning technologie moet gelogd worden en bewaard blijven.
Download hier het rapport van TNO:
TNO-2018-R10499. |
De Pi-Pop is een e-bike zonder de gewone energiecellen. Hij werkt op kracht zonder lithium-ion,…
Straling vanuit de ruimte is een uitdaging voor kwantumcomputers, omdat hun rekentijd beperkt wordt door…
Na meer dan 40 jaar voor KSB te hebben gewerkt, gaat directeur Nico Gitz binnenkort…
3T Electronics & Embedded Systems, onderdeel van de Kendrion Group, heeft een nieuwe locatie in…
Een nieuw huisbeveiligingssysteem schiet indringers de tuin uit met paintballs of traangas. Het is te…
Om ervoor te zorgen dat er steeds meer hernieuwbare waterstof wordt geproduceerd in Nederland en…