Vorige week waren Mirko Tobias Schäfer en Iris Muis van de Utrecht Data School te gast om bij het Europees Parlement te vertellen over het Impact Assessment Mensenrechten en Algoritmes (IAMA). Samen met Arthur Vankan en Janneke Gerards hebben Schäfer en Muis hebben het IAMA ontwikkeld als instrument, een soort handleiding, dat organisaties ondersteunt bij de besluitvorming rondom de ontwikkeling en inzet van algoritmes.
Schäfer en Muis waren uitgenodigd door Kim van Sparrentak (GroenLinks) om, ook namens hun mede-auteurs, te spreken op het event Fundamental Rights in the AI Act van The Greens/EFA.
De toekomstige AI Act
Op dit moment zijn het Europees Parlement en de Europese Raad in onderhandeling over de definitieve versie van de Artificial Intelligence Act, een EU-wet die eisen zal stellen aan (het gebruik van) AI-systemen. Een onderdeel van deze AI Act wordt waarschijnlijk een ’fundamental rights impact assessment’. Ter inspiratie voor zo’n assessment spraken Schäfer en Muis over wat IAMA is en hoe het gebruikt kan worden.
Andere sprekers op het event waren staatssecretaris voor Koninkrijksrelaties en Digitalisering Alexandra van Huffelen en de Tsjechische vicepremier Ivan Barto¨.
Impact Assessment Mensenrechten en Algoritmes
In de toekomst kunnen algoritmes overheden en bedrijven ondersteunen bij het uitvoeren van wettelijke verplichtingen. Onzorgvuldigheid, ineffectiviteit of, erger nog, een inbreuk op mensenrechten, zoals de toeslagenaffaire, moeten dan wel voorkomen worden. Op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties, ontwikkelden Schäfer, Vankan, Muis en Gerards, hierom het IAMA.