Ich finde das immer noch schwierig,
"Der DUO-Algorithmus führte zu häufigeren Kontrollen bei Schülern, die näher bei ihren Eltern wohnen. Doch Kinder türkisch-niederländischer und marokkanisch-niederländischer Eltern leben im Durchschnitt näher bei ihren Eltern als Kinder ohne Migrationshintergrund."
Fazit: Diskriminierung laut Artikel.
Ich bin mir nicht sicher, ob ich dieser Schlussfolgerung völlig zustimme.
https://www.nu.nl/binnenland/6313872/discriminatie-studenten-met-migratieachtergrond-door-duo-groter-dan-gedacht.html
Von chopin78
7 Kommentare
En dat dus onder het toeziend oog van kabinetten met VVD, D66, CDA en CU. Die laatste 3 zitten al een half jaartje vol op het orgel over de rechtsstaat en het in gevaar brengen daarvan door een coalitie met de PVV. Maar onder hun beleid kon dus naast de Belastingdienst ook bij DUO institutioneel racisme weelderig groeien. Bij welke overheidsinstanties nog meer vraag ik me af.
Gevalletje correlatie-causatie. De onderliggende logica is niet gebaseerd op afkomst, dus ik zie niet echt een probleem.
Ik denk dat de vraag dan moet zijn, waarom controleert het algoritme van DUO vaker bij mensen die dichter bij hun ouders wonen?
Ongeacht of je dit racisme vind, dit soort voorkeuren in de selectie moeten een goed onderbouwde reden hebben, anders is de data die je op die manier krijgt niet objectief en relevant voor de bevolking die je wil vertegenwoordigen in die data.
Het risico dat je op deze manier loopt is dat als je besloten hebt dat de selectie voorkeur geeft aan een bepaalde groep, de data die je daaruit krijgt ook voorkeur geeft aan een bepaalde groep, en als je die data dan weer gebruikt om een selectie te maken graaf je jezelf steeds meer in.
Dus bijvoorbeeld deze data is bevooroordeelt naar mensen met een immigratie achtergrond door deze selectie. Als je nu een algoritme op deze data traint dan zal dat algoritme wel bevooroordeeld zijn naar specifiek mensen met een migratieachtergrond.
Dit is hoe geïnstitutionaliseerde discriminatie in veel gevallen werkt. Soms is het ook met meer voorbedachte raden, zoals Mark Rutte die in 2003 gemeenten aanspoorde om Somaliërs extra te controlleren op fraude. Maar vaak is het ook beleid dat op het oog niet discriminatoir is. De leader precizeert het wel naar indirecte discriminatie, maar ook ‚discriminatie‘ is daarmee niet onjuist volgens mij.
Een groot probleem met het benoemen van discriminatie, racisme en seksisme, is volgens mij de hardnekkige mythe dat deze dingen alleen plaatsvinden waar bijvoorbeeld kwaadwillende buitenlanderhaters die groep uit pure minachting een hak proberen te zetten. Waarmee ‚dit is discriminatie‘ gelijk wordt gelezen als ‚hier is iemand met volle overgave kwaadaardig bezig geweest‘. Dit is één, relatief uitzonderlijke, vorm van discriminatie. Veel vaker gebeurt het doordat bestaande structurele ongelijkheid of onbewuste vooroordelen niet kritisch gewogen worden bij het kiezen van een houding, het doen van uitspraken, of het vormen van beleid, waardoor deze ongelijkheden in stand gehouden of versterkt worden.
Overigens is ‚indirecte discriminatie‘ hier niet zozeer de conclusie van het artikel, maar van DUO zelf. [Hier](https://www.duo.nl/organisatie/pers/excuses-voor-indirecte-discriminatie-bij-controles-op-de-uitwonendenbeurs.jsp) vind je hun persbericht over de eerdere constatering die in het artikel genoemd wordt, en [hier](https://duo.nl/particulier/home/actueel/vervolgonderzoek-bevestigt-indirecte-discriminatie-controles-uitwonendenbeurs.jsp) de nieuwe.
Natuurlijk ben je het er niet mee eens. Omdat je zelf een racist bent waarschijnlijk
Onafhankelijk onderzoek vs ik ben het er niet mee eens.
Goede argumenten OP.
Dude letterlijk twee alineas later word in het artikel gezegd dat studenten met een laag risico en een migratie achtergrond twee keer zo veel gecontroleerd wordt. Dus je mag wel zeker zeggen dat er sprake van discriminatie is.
Daarnaast kan ik als AI student zeggen dat je best kan spreken van een racistisch algoritme zelfs al lijkt het algoritme niet direct op ras te selecteren. Als je ziet dat bepaalde rassen door een algoritme anders behandeld worden zelfs als het algoritme niet direct op ras selecteert is er een mogelijkheid dat het algoritme geleerd heeft hoe het een ras kan herkennen op basis van andere eigenschappen.