Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
bron: Onderwijsland
Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van het CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is de indirecte discriminatie was nog groter dan gedacht, aldus Algorithm Audit.
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een laag risico kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Bron: ANP
Laatste nieuws
-
18 okt Een reis van groei en ontwikkeling in het onderwijs
-
18 okt Wat zijn de mogelijkheden van ICT in het onderwijs?
-
18 okt Vierdaagse lesweek geeft minder tijd voor basisvaardigheden
-
17 okt De twee grootste uitdagingen voor leren en ontwikkelen in organisaties
-
17 okt Tweede Kamer steunt plan voor focus op rekenen, lezen en schrijven
-
17 okt Security top tips om je school tiptop in orde te houden
-
16 okt Scholieren moeten voortaan met een leesbaar handschrift schrijven
-
16 okt Nederlandse taal hoger onderwijs de norm en minder internationale studenten
-
16 okt Campagne helpt jongeren naar professionele hulp bij geldzorgen
-
16 okt Tieners eten vaak ongezond, peuters en ouderen eten het gezondst
Praat mee
Heeft u al een account? Dan kunt u
Inloggen
Heeft u nog geen account? Maak dan een account aan