Close Menu
    Mangelnde Diversität in der KI-Entwicklung: „Oft männlich, weiß und gut ausgebildet“
    Niederlande

    Mangelnde Diversität in der KI-Entwicklung: „Oft männlich, weiß und gut ausgebildet“

    Share.
    View 16 Comments

    16 Kommentare

    1. asoftbird on

      „Volgens Stoelinga is het net zo belangrijk dat bedrijven eerst bedenken waarvoor ze AI willen inzetten.“

      Lol, laat dat nou precies zijn wat die techbro’s niet kunnen.

    2. Inevitable-Extent378 on

      Gebrek aan diversiteit bij HBO verpleegkunde: vaak vrouw, wit en afkomstig van de HAVO.
      Gebrek aan diversiteit bij universiteit in Kaapstad: vrijwel geen witte mensen en vrouwen te vinden
      Gebrek aan diversiteit bij de C-suite op grote accountantskantoren: amper gekwalificeerde vrouwen die zich aanmelden omdat ze toch voor de MER en P&A hadden gekozen.

      Wat is het probleem precies? mensen maken verschillende keuzes. Als je collectieve druk tot het niveau van propaganda wil uitvoeren om te voorkomen dat mensen een opleiding kiezen die bij hen past qua niveau en interesse dan kan dat, maar gelijke kansen en gelijke uitkomsten zijn niet hetzelfde. Je maatschappij zal er niet gelukkiger van worden.

      Als ze dit willen oplossen moeten ze maar dames uit de kunstacademie halen en verplichten om achter een computer met cijfers en programmeertalen te werken. Of weer de mannen van de opleiding en stuur ze maar naar de kappersopleiding. Lijkt mij niet wenselijk, maar blijkbaar is gelijke uitkomst het doel geworden.

    3. Shinnchan on

      Dit hele artikel heeft vrij weinig met AI te maken. Het artikel gaat meer over het gebrek aan genderdiversiteit. Verander ICT in bouw, techniek of zorg en je hebt vrijwel hetzelfde artikel.

    4. NLwino on

      Dat er in de ICT veel mannen werken is gewoon de waarheid. Dat begint al bij de opleiding. Toen ik nog de opleiding deed waren er maar een paar meiden. Dat je met 95% jongens in de klas komt schrikt veel dames af om op de opleiding te beginnen. Maar lijkt mij dus niet specifiek een probleem van „AI-ontwikkeling“ zelf. Ik heb nu wel een paar vrouwelijke collega’s en die geven wel aan dat ze niet merken dat het tijdens sollicitaties een probleem is. Sterker nog, bedrijven nemen al te graag vrouwen aan omdat er daar zo weinig van zijn te vinden in de ICT. Hoe wel ik niet in de AI branch werk.

      Maar het probleem is niet alleen dat er teveel witte mannen aan werken. Maar ook dat de input voor de AI’s te veel daarop gebaseerd zijn. Het artikel haalt twee dingen door elkaar. „AI input“ en „AI developers“.

      „hoogopgeleid“ lijkt mij wel vrij logisch. Kans is toch dat je met hoge opleiding sneller in dat beroep komt dan zonder opleiding.

    5. Zondagsrijder on

      Wat naar dat „ontwikkeling“ en „gebruik“ op één hoopje worden gegooid.

      Voor ontwikkeling heb je hardcore computer science nodig – dus algebra, lineaire algebra, etc. Opleidingen die nauwelijks vrouwen trekken door het hoge turbonerd gehalte. En dan kun je hier dus ook geen laagopgeleiden op zetten. Wit – dat is het zéker niet met veel Aziaten en ook andere nationaliteiten.

      De inzet – dus de gemaakte modellen data voeren en dat commercialiseren – zeker. Typische techbros die nauwelijks echt iets van computers begrijpen, maar wel op de laatste tech-hype springen en er wat engineers op zetten. Maar dat is niet technisch maar gewoon marktregulatie.

    6. Reasonable-Intern823 on

      Je zal maar als journalist werken en je rol teniet doen door je politieke voorkeuren. Schijtberoep.

    7. JustOneAvailableName on

      Ironisch genoeg brengen AI taalmodellen juist Nigeriaans-Engels naar de mainstream, want ChatGPT’s RLHF is vooral daar gedaan en iedereen scraped OpenAI voor nieuwe trainingsdata.

    8. Mor_Hjordis on

      >Veel minder vrouwen dan mannen werken aan AI-toepassingen. Dat zorgt voor problemen. Het gebrek aan vrouwelijk perspectief kan de technologie onveiliger maken en het risico op discriminatie vergroten.

      Ik vind dit al zo slecht begin van het artikel, ben daardoor al afgehaakt.

    9. Virtual_Friend on

      Wat een Kwalitatief Uitermate Teleurstellend artikel weer. Waarom blijven dit soort „nieuws“berichten steeds terug komen? Het is telkens vanuit hetzelfde perspectief geschreven (tegen hoogopgeleide blanke mannen) en duidelijk bedoelt om de publieke opinie te beïnvloeden. Ik zou het bijna propaganda willen noemen.

      Het lijkt er sterk op dat ze zelf een probleem verzinnen om daar vervolgens zelf de oplossing voor te verkopen.

      > Onderzoekers schreven in 2021 al dat veel mensen het makkelijker of fijner vinden om opdrachten te geven aan een vrouwelijk personage dan aan een mannelijke versie. Maar daarmee sluiten AI-assistenten zich aan bij het stereotype dat vrouwen gedienstig en onderdanig zijn.

      Dit neemt toch niemand serieus? Ik durf te wedden dat als het geen vrouwelijke personage was ze er alsnog een probleem in zien. Ze doen eigenlijk al hetzelfde met het klagen over gebrek aan diversiteit in de IT (en andere topfunties).

    11. Acozz85 on

      Raar artikel, beschrijft 2 problemen.
      Probleem 1, data is discriminerend.
      Probleem 2, er zijn weinig vrouwen binnen AI.

      Probleem 1:
      Witte mannen hebben hier weinig mee te maken, als je op Neurips rond loopt zie je meer mensen uit Azie dan waar dan ook. (Als je kijkt naar de hoeveelheid grote publicaties uit China en India alleen al).

      Veel van de problemen kan je eerder aan beschikbare data wijden dan welke andere factor dan ook. Dit onderwerp wordt breed behandeld en er is heel veel aandacht voor.

      Probleem 2:
      Ik werk bij een AI afdeling binnen een groot bank en ik had het hier met mijn hoogopgeleide vrouwelijke collegaes over. Zij vonden het een beetje een raar artikel want het gaat niet echt in op de oorzaak namelijk weinig vrouwen binnen de opleidingen. (30-70 bij UvA).

      Alle vrouwen die ik ken binnen het veld zijn overigens enorm wel gerespecteerd en bijzonder intelligent dus ik herken dit beeld totaal niet. Ook binnen de academische wereld zijn er veel vrouwen (op Neurips 2023 schatte ik het op 30-35%). We organizeren binnen de bank ook veel events voor basisonderwijs om de toekomstige generatie meer STEM te laten kiezen maar het blijft lastig om meer vrouwen aan te trekken. Ik denk dat over de breedte er wel een enorm positieve beweging plaats vind en dat AI überhaupt een enorm progressief academisch veld is. Binnen grote AI conferenties is er aandacht voor (vrouwen, latinX, Colour, Azians, Muslims, 3rd world countries).

      Mijn take away is vooral dat ik graag meer vrouwelijke collegas zou willen maar dat begint dan echt met de hoeveelheid aanmeldingen op universiteiten.

    12. MicrochippedByGates on

      Mensen die AI ontwikkelen zijn vaak hoogopgeleid? Neeeeeeee. Ik dacht dat iedere bouwvakker of lasser dat ook wel kon. Het is niet alsof AI een heel ingewikkeld en zeer wiskundig veld is waar de gemiddelde IT’er ook de ballen verstand van heeft. /s

      Dit is wel een beetje een open deur. Ik snap wel waarom het een probleem is, al helemaal met AI waar een slechte/incomplete dataset enorm problematische effecten kan hebben. Je hebt die diversiteit nodig om dat soort fouten te voorkomen, en zelfs dan is het moeilijk. Dit is al iets wat speelde in de tijd voor zelflerend AI, maar met de komst van trainingssets des te belangrijker wordt. Een leuk voorbeeld is een oude video waarin [een HP computer weigert om een donkere man als mens te herkennen](https://youtu.be/t4DT3tQqgRM?si=OuRrYq_bBMIJqEXN). Een wat serieuzer voorbeeld zijn overheidsinstanties waar mensen met en buitenlandse achtergrond automatisch als potentiële fraudeur worden aangemerkt en meteen worden genaaid.

      Dus ja, dit is wel een serieus probleem. Maar dit is wel een bekend probleem in de AI wereld en een beetje een open deur. En het artikel legt dit ook zeer slecht uit. Als je in de IT zit en een klein beetje wat van AI weet, leest dit artikel ook compleet anders dan als je er echt niets van weet. Er wordt vooral gefocust op de diversiteit op de werkvloer en opleiding zelf, en zeer weinig op de zeer reële effecten en problemen die vooral in de AI wereld kunnen ontstaan door dit gebrek

    14. SoupfilledElevator on

      Goh, wat een verassing dat mensen die een studie hebben gedaan om tot onderzoeker/ontwikkelaar opgeleid te worden (en waarbij ze zich tijdens de studie kunnen specialiseren in AI) veel betrokken worden bij de ontwikkeling van AI. 

      Word ook niet in het artikel verder op in gegaan of gerelateerd aan de andere onderwerpen (geslacht en etniciteit), dus best wel overbodige info.

    15. Kaasbek69 on

      Binnen de ICT zie je sowieso voornamelijk witte mannen. Dat je hoogopgeleid bent lijkt me vanzelfsprekend als je aan dergelijke systemen werkt…

    Leave A Reply