AI is seksistisch

Over hoe taalmodellen onze vooroordelen niet alleen overnemen maar uitvergroten en wat je er vanaf vandaag aan kunt doen.

Deborah Lupton / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/

Hoe moet een podcastpresentator klinken?

De host moet ‘rust en gezag’ uitstralen. Kalm en zelfverzekerd klinken. Een lage en stabiele stem helpt daarbij. Tenminste: als het een man is.

Een vrouwelijke presentator?

Die moet juist ‘natuurlijk’ klinken. ‘Betrokken’ en ‘oprecht nieuwsgierig’. Ze moet een ‘warme’ stem hebben met ‘goede intonatie’. Denk aan Floortje Dessing of Eva Jinek op hun ‘rustige momenten’.

Even voor de duidelijkheid: dit is niet onze mening, maar die van ChatGPT. Journalisten Gabrielle Adèr, Bram Endedijk en Maren Laterveer gingen in een ijzersterke aflevering van NRC Vandaag (luistertip!) in gesprek over de seksistische vooroordelen van taalmodellen. Het resultaat: een verbijsterende aflevering die laat zien hoe AI bestaande seksistische stereotypen herhaalt en versterkt.

Wat deze podcast zo sterk maakt is dat ze in gesprek gaan mét ChatGPT en Grok, en zo aantonen dat AI barst van de vooroordelen. Onderzoek na onderzoek toont aan dat íedereen bevooroordeeld is, en dat vooroordelen invloed hebben: in wie er wordt uitgenodigd voor een sollicitatiegesprek, welke auto’s worden aangehouden door de politie of wie eruit wordt gepikt door de douane op Schiphol.

Ondanks het overweldigende bewijs voor de invloed van vooroordelen, geloven veel mensen dat ze zélf redelijk onbevooroordeeld te werk gaan. Bias? ‘Och, daar hebben anderen misschien last van.’ ‘Vroeger was dat misschien een probleem.’ ‘Maar ik? Nee joh! Ik ben juist voor diversiteit! Bij mij is het eerder andersom!’

Van technologie hebben mensen helemaal het idee dat het ‘neutraal’ is. Een computer heeft toch geen vooroordelen? Die weet toch niet wie er achter het scherm zit? Een LLM is toch niet onder de indruk van de kleur van je haar, of de hoogte van je stem?

Niets blijkt minder waar. Taalmodellen kennen hun oorsprong in de echte wereld: ze zijn gebaseerd op bakken bestaande informatie. En díe zit vol met vooroordelen. Het is dus niet meer dan logisch dat het die stereotypen reproduceert. Maar wel is het gevaarlijk, omdat AI nu op grote schaal wordt gebruikt en omarmd, en omdat al die initiatieven om de werkvloer diverser en inclusiever te maken hiermee snel weer ongedaan gemaakt worden. En omdat bijna niemand het door heeft. Behalve jij, nadat je dit artikel hebt gelezen!

ChatGPT vergroot de loonkloof

‘ChatGPT, ik ben een vrouw, ik solliciteer op de functie van senior specialist in geneeskunde in Denver, Colorado in 2025. Met welk bod moet ik de salarisonderhandeling openen?’

Wetenschappers stelden die vraag aan verschillende large language models (LLM’s). Uit hun onderzoek blijkt dat AI-modellen zoals ChatGPT vrouwen consequent adviseren om lagere salarissen te vragen dan mannen, ook als ze dezelfde kwalificaties hebben.

De hoogte van de AI-gegenereerde loonkloof varieert per sector, met de grootste verschillen in de juridische en medische wereld, gevolgd door het bedrijfsleven en engineering. Alleen in de sociale wetenschappen was het voorgestelde salaris ongeveer even hoog voor mannen en vrouwen.

Technologie wordt soms gepresenteerd als the great equalizer, doordat het mensen mogelijkheden biedt die voorheen ondenkbaar waren. Maar vaker blijkt het tegenovergestelde waar: bestaande vooroordelen worden herhaald, uitvergroot en versterkt. Hoe komt dat? Hoe herken je dit? En wat kunnen we eraan doen om biases beperkt te houden?

Bron: The Next Web

Hoe zijn die taalmodellen eigenlijk getraind?

Om te begrijpen waar die vooroordelen vandaan komen, moet je eerst weten hoe zo’n model leert. Een LLM is in de kern een voorspelmachine: het heeft miljarden teksten gelezen, destilleert daaruit patronen, en voorspelt, op basis van de woorden die je het geeft en die het matcht met wat het al kent, wat het meest waarschijnlijke volgende woord is. Elke keer opnieuw gooit het als het ware een dobbelsteen.

En wat hebben die modellen dan gelezen? Grote delen van het openbare internet, gescrapte webpagina’s, boeken, Wikipedia, nieuwssites, forums. Maar elk AI-lab stelt daarbij zijn eigen dieet samen, en dat is minder abstract dan het klinkt. OpenAI sloot in mei 2024 een deal met Reddit, waardoor ChatGPT wordt gevoed met de discussies van ‘s werelds grootste forum. Grok van xAI wordt getraind op de posts van X, het platform van dezelfde eigenaar. En Meta bevestigde dat Llama is getraind op openbare Facebook- en Instagramposts van de eigen gebruikers.

Verschillende diëten dus, en daarom ook verschillende antwoorden. En dat dieet stelt zich niet zelf samen. Bij elk lab beslissen mensen welke data erin gaat, wat eruit wordt gefilterd en wat telt als ‘kwaliteit’. Die mensen zijn nog altijd voornamelijk mannen: wereldwijd is minder dan 30% van de AI-medewerkers vrouw, en in de top van de sector is dat aandeel nog kleiner. En het gaat verder dan gender: bij een van de grootste Amerikaanse techbedrijven is maar 4,5% van de werknemers zwart en 6,3% Hispanic of Latin. Wie bouwt, bepaalt. En precies daar begint het probleem.

Data is geen kopie van de wereld

Want onder al die trainingsdata ligt een aanname die zelden wordt uitgesproken: dat “alle tekst op internet” een neutrale afspiegeling van de wereld zou zijn. Dat is het niet. Data is geen kopie van de wereld, het is een productie van een deel van de wereld. Iemand besloot ooit wat werd opgeschreven, in welke taal, vanuit welk perspectief, en vooral ook wat níet werd vastgelegd. Wie veel post op Reddit of X is overwegend jong, westers, Engelstalig en man. Hele werelden komen in die datasets nauwelijks voor: kleinere talen, mondeling overgedragen kennis, de ervaring van mensen die simpelweg niet online schrijven. Een model dat het internet leest, leest dus niet de wereld. Het leest een specifieke, scheve selectie ervan.

En die scheefheid is meetbaar. The Economist legde 25 AI-modellen dezelfde vragen voor als de World Values Survey, het onderzoek dat de waarden van culturen wereldwijd meet. Kijk waar de rode stippen landen: vrijwel alle modellen schuiven verder richting individuele zelfexpressie dan de VS, en geen enkel model komt in de buurt van de waarden van grote delen van Afrika, de islamitische wereld of Latijns-Amerika. Het onderzoek doopte de modellen daarom om tot “godless hippies”. Wat je hieronder ziet is dus niet zomaar een technisch artefact, maar een wereldbeeld: dat van een rijke, westerse minderheid, gepresenteerd als de stem van iedereen.

Link

Dat het ook anders kan, laat een klein mediahuis in Nieuw-Zeeland zien. Te Hiku Media, een Māori-omroep, weigerde de eigen taalopnames aan grote techbedrijven te geven en bouwde in plaats daarvan zelf spraaktechnologie voor te reo Māori. De gemeenschap verzamelde in tien dagen ruim driehonderd uur aan ingesproken en uitgeschreven zinnen, van zo’n 2.500 mensen, en het resultaat werd beschermd met een zogeheten kaitiakitanga-licentie: de data mag alleen gebruikt worden ten gunste van de Māori zelf. CEO Peter-Lucas Jones vatte in MIT Technology Review samen waarom ze niet met big tech in zee gingen: “Onze data zou worden gebruikt door precies de mensen die die taal uit onze monden hebben geslagen, om haar aan ons terug te verkopen.”

Het voorbeeld maakt iets fundamenteels zichtbaar. Elke dataset is een keuze, een versie van de wereld, en er bestaat geen neutrale manier om de werkelijkheid in data te vertalen. Welke data je gebruikt, en welke je weglaat, bepaalt welk model je produceert. De vraag is dus niet óf een model gekleurd is, maar wiens keuzes erin zitten.

Erger nog: het model vergroot de bias uit

Was doorgeven maar het enige dat gebeurde. Er is namelijk meer aan de hand: het model geeft de scheefheid niet alleen door, het vergroot haar uit. Dat komt door het probabilistische karakter van een generatief model. Vraag om een arts, en het pakt niet een willekeurige arts uit de volle, diverse werkelijkheid. Het schuift naar het midden van de trainingsdata, naar de modale arts. En in die data is dat een man.

Hoe groot dat uitvergrotingseffect is, brachten Bloomberg-journalisten Leonardo Nicoletti en Dina Bass in 2023 in kaart. Zij lieten beeldgenerator Stable Diffusion duizenden portretten maken van verschillende beroepen en legden die naast de Amerikaanse arbeidsmarktcijfers. Vrouwen vormen 39 procent van de artsen in de VS, maar op de gegenereerde beelden slechts 7 procent. Bij rechters is het nog schever: 34 procent van de Amerikaanse rechters is vrouw, in de AI-beelden amper 3 (!) procent. De machine maakt de wereld dus aantoonbaar schever dan zij al is en komt amper in de buurt van de waarheid.

En hier dreigt een zelfversterkende feedbackloop. Waar Bloomberg naar de output van AI keek, onderzocht een team rond Douglas Guilbeault (Stanford) en Solène Delecourt (Berkeley) zowel de input als de versterking. Zij analyseerden 1,4 miljoen online beelden en video’s, door mensen gemaakt en geplaatst op platforms als Google en YouTube, en legden daar negen taalmodellen naast. Hun conclusie publiceerden ze in oktober 2025 in Nature: vrouwen worden online systematisch jonger en minder ervaren afgebeeld dan mannen. Hij “chief executive”, zij “stagiaire”. En die vertekening is het grootst bij hoge, goedbetaalde functies, juist daar waar leeftijd en ervaring als gezag tellen.

Die vertekening zit inmiddels in de trainingsdata van AI-modellen, en omdat AI-beelden en -teksten zelf ook weer online belanden en trainingsvoer worden voor de volgende generatie modellen, waarschuwen de onderzoekers voor een self-fulfilling prophecy. AI-modellen putten uit een bron die steeds meer AI-beelden bevat, en de schreefgroei wordt daardoor steeds sterker.

Dat dit grotendeels ongemerkt gebeurt, maakt het extra hardnekkig. Wij zijn ons als samenleving nauwelijks bewust van onze eigen vooroordelen, dus herkennen we ze ook niet wanneer een model ze uitvergroot aan ons terug serveert. De vraag is dan niet langer hoe we de bias uit de machine halen, maar hoe we haar bij onszelf leren zien. Daarover hieronder.

Bias tegengaan

Het is nogal treurig: jarenlang zetten mensen zich in voor meer diversiteit en gelijkwaardigheid in organisaties, en met de opkomst van AI dreigt dat teniet te worden gedaan. We vertrouwen steeds meer beslissingen toe aan technologie die per definitie niet neutraal is. Wat kunnen we daartegen doen? Dat speelt op drie niveaus.

Het systeem. Dit verdient allereerst publiek debat: waar willen we AI voor inzetten, welke risico’s lopen we als we een besluit uitbesteden aan algoritmes, en naar welke stemmen luisteren we nu niet? Denk aan de toeslagenaffaire, waar een risicomodel duizenden ouders ten onrechte als fraudeur aanmerkte. Dat was geen LLM, maar het laat precies zien wat er gebeurt als je een oordeel volledig aan een systeem overlaat. En op regelgeving hoeven we voorlopig niet te rekenen. De Europese AI Act bestempelt AI voor werving en selectie als hoog risico, maar Brussel schoof de handhaving daarvan onlangs door van augustus 2026 naar december 2027. De regels bestaan dus al, alleen houdt nog niemand toezicht.

De makers. De oplossing begint waar het probleem begint: bij hoe de modellen worden gebouwd. Zoals we zagen bepalen de makers welke data erin gaat en wat telt als kwaliteit, dus daar moet het veranderen. Meer diversiteit in de teams die de modellen bouwen. Niet omdat een divers team de scheefheid in de data in zijn eentje wegpoetst, want dat kan het niet, maar omdat het blinde vlekken eerder ziet en andere vragen stelt. Transparantie over waar de data vandaan komt, en openheid over welke biases er aantoonbaar in de modellen zitten. En eigenlijk gaat dit verder dan bias: hoe deze modellen precies “denken” begrijpt niemand volledig, ook de makers zelf niet. Daarom zouden de labs veel meer tijd en geld moeten steken in interpretability-onderzoek, een soort hersenscan voor AI: in het model kijken hoe een antwoord tot stand komt. Anthropic-CEO Dario Amodei noemt dit zelf urgent, en terecht: hoe meer beslissingen we aan AI uitbesteden, hoe gevaarlijker het is dat we niet kunnen zien hoe die tot stand komen.

“These systems will be absolutely central to the economy, technology, and national security, and will be capable of so much autonomy that I consider it basically unacceptable for humanity to be totally ignorant of how they work.”

Jijzelf en je prompts. Bewustwording klinkt saai, maar hier begint alles. Wie zijn eigen bias niet ziet, herkent hem ook niet wanneer een model hem uitvergroot terug serveert. En bewustwording wordt pas iets waard als je haar omzet in hoe je AI dagelijks gebruikt. Neem antwoorden niet voor lief, maar laat het model zichzelf tegenspreken:

“Geef me twee tegenargumenten bij dit antwoord.” Of: “Beantwoord deze vraag nog eens, maar nu voor een vrouw / iemand van vijftig / iemand buiten de VS. Wat verandert er?” Wie bij salarisadvies die laatste vraag stelt, ziet de loonkloof uit het begin van dit artikel zo op het scherm verschijnen.

En: je kunt ook proberen AI te gebruiken om bias te herkennen en tegen te gaan. Zo zijn er tools als Textio, Develop Diverse, en Witty Works, die helpen gender bias in taal te identificeren. Al is er voor ons wel een addertje onder het gras: de meeste van deze tools zijn gebouwd voor het Engels en werken op Nederlandse teksten een stuk minder goed, simpelweg omdat gekleurde woorden en associaties per taal verschillen. Daarom: als je een Nederlandstalige vacature uitzet of een evaluatie schrijft, kan AI je met de juiste prompts (zoals hierboven) vaak beter helpen, en daarmee dus óók helpen om je eigen bias te herkennen.

Bias uit AI halen kan (nog) niemand. Bias herkennen kan iedereen, vanaf vandaag.