Regulering van technologie vraagt om ander mensbeeld

- EN- NL

Bij de regulering van digitale technologie, zoals generatieve AI en algoritmen, gaat het meestal over de technologie en niet zozeer over de mens die ermee omgaat. Althans, niet de mens zoals die werkelijk in elkaar zit. We moeten ervan uitgaan dat de mens nooit helemaal voorspelbaar is, is de boodschap van Esther Keymolen, anders wordt de regulering nooit effectief. Zij aanvaardt op vrijdag 19 april de leerstoel Regulering van digitale technologie aan Tilburg University. In haar werk richt zij zich op de ethische en filosofische vragen van technologie-regulering.

Digitale technologie doordrenkt ons leven steeds meer: social media, navigatiesystemen, ChatGPT en vele andere toepassingen zijn gemeengoed geworden. Ons leven wordt er voor een deel zelfs door bepaald. Met nieuwe weten regelgeving worden onze data in deze systemen zo goed mogelijk beschermd en de risico’s die kleven aan deze nieuwe technologieŽn zo veel mogelijk beperkt: denk aan de AVG (algemene Verordening Gegevensbescherming), de AI Verordening en de Ethische Richtsnoeren voor Betrouwbare AI.

Met de mens wordt in al deze regulering wel degelijk rekening gehouden, maar effectief is dat vaak nog niet. Esther Keymolen illustreert dit aan de hand van vier categorieŽn mensen die zich met digitale technologie bezighouden: de burger, de beroepsmatige gebruiker of ontwikkelaar, de ambtenaar en de wetenschapper.

Als burger accepteren we bijvoorbeeld cookies zonder precies te weten waar we ja op zeggen; de kleine lettertjes lezen we niet. Soms hebben we behoefte aan andere gebruiksvoorwaarden dan die geboden worden, zoals de privacy regelen per groep in plaats van individueel, of willen we beschikbare informatie juist niet weten - zoals de kans op een erfelijke ziekte. De regelgeving gaat ervan uit dat de mens zelf de regie voert over diens data, maar die mens is een fictie, stelt Keymolen.

De techniekprofessional en tech-bedrijven worden geacht technologie te ontwerpen en gebruiken volgens ethische en juridische principes, maar eenvoudig is dat niet. Wat is bijvoorbeeld eerlijke technologie? Hoe doe je recht aan menselijke waardigheid in technologische praktijken? Dergelijke netelige juridische en ethische kwesties worden steeds vaker geformuleerd als technische vragen waarop het antwoord programmeerbaar is. Niet al het menselijk leven kan echter in data en systemen worden gevangen. Soms is daarom een bredere publieke discussie of politieke beslissing meer op zijn plaats dan een technische.

Ambtenaren die met digitale technologie werken doen enorm hun best om het goed te doen, bijvoorbeeld door te checken of algoritmes niet discrimineren. Maar afdoende is dat vaak niet - wat gebeurt er met de mensen die toch niet in een hokje passen? Hier biedt de technologie geen hapklare oplossing voor.

Voor advies wordt vervolgens naar de wetenschapper gekeken, maar die heeft ook niet overal een eenduidig antwoord op als het gaat om de inzet van technologie. De wetenschap kan verschillende scenario’s schetsen, maar er blijven altijd vragen die in de politieke arena van de democratie beantwoord moeten worden.

Positief mensbeeld

De oplossing is volgens Keymolen om, in navolging van de filosoof Helmuth Plessner, de mens niet te zien als iemand die tekortschiet als het gaat om digitale technologie, maar als een creatief, dynamisch persoon die in verbinding staat met de omgeving. Volgens dit positieve mensbeeld is de mens voortdurend bezig het leven vorm te geven, vaak met technologie, en is daar nooit klaar mee. Het is deze veranderlijkheid die de mens kenmerkt en die regulering dient te beschermen.

Daarom moeten we niet alleen investeren in het afstemmen van de technologie op de mens, wat nog steeds essentieel is maar nooit perfect. Ook moeten we oplossingen bedenken voor wanneer het mis gaat, alternatieven regelen, voorzien in checks and balances, en exit strategieŽn bedenken. Een pluralistische aanpak is nodig. Pas als we de onvoorspelbaarheid van de mens koesteren, zal de technologie ons dienen.

Inaugurele rede

Esther Keymolen spreekt op vrijdag 19 april 2024 om 16.15 uur haar inaugurele rede uit in de aula van Tilburg University. Titel rede: Technological Times: Looking out for the Human . De rede is ook te volgen via livestream .