Racisme is ingebed in nieuwe technologieën, zegt socioloog Ruha Benjamin
Vrij Nederland – Racisme is ingebed in nieuwe technologieën, zegt socioloog Ruha Benjamin
Als we blijven denken dat technologie neutraal is, hebben alleen de mensen met die kennis de macht en het recht om de vragen te stellen.’
‘haar opvalt hoe mensen nog steeds denken dat racisme alleen als zodanig kan worden benoemd als er kwade opzet in het spel is.
‘Ieder mens heeft een naam. En iedereen kan begrijpen dat je door de ander beoordeeld kan worden op basis van je naam. Voor je iemand ontmoet, heeft die persoon zich een beeld gevormd van jou aan de hand van je naam. . . . Dat is in essentie wat er met nieuwe technologieën gebeurt.’
‘Absoluut. Elke dag is er nieuws over discriminerende algoritmen. Juist daarom is het belangrijk dat we de onderliggende processen begrijpen. We worden nu teveel geobsedeerd door de nieuwste technologie waarvan vervolgens blijkt dat die discrimineert. We worden kwaad, de maker excuseert zich, past aan en de volgende dag is er weer een ander probleem.’
Het gaat over de totale relatie tussen samenleving en technologie.’
We moeten onze collectieve burgerlijke macht claimen in het ontwerp van nieuwe technologie, in plaats van alleen de ontvanger te zijn. Want dan kunnen we niet meer doen dan reageren, reageren op het laatste probleem, en morgen is er weer een nieuw probleem. Dit vergt een fundamentele heroriëntering van expertise en kennis.’
Als we blijven denken dat technologie objectief en neutraal is, een kwestie van technische kennis, dan hebben alleen de mensen met die kennis de macht en het recht om de vragen te stellen. Als we het als een maatschappelijk proces zien, dan heeft iedereen in de samenleving de verplichting en de verantwoordelijkheid om er kritisch over na te denken.’
Het is lastiger om nieuwe technologieën te reguleren die op het eerste gezicht zijn ingevoerd ter verhoging van de efficiëntie, zoals de voorspellende algoritmen in de gezondheidszorg, en waarvan vervolgens blijkt dat ze minderheidsgroepen discrimineren. Willen we dat voorkomen, dan hebben we een andere infrastructuur nodig die controleert vóórdat de nieuwe technologie de markt bereikt.’
‘De deelname van burgers in de discussie rond technologie kan ook betekenen dat we nieuwe technologische ontwikkelingen afwijzen. In het onderwijs, bijvoorbeeld. Daar zien we concrete voorbeelden van een techlash.