Bias in AI: vooroordelen herkennen en voorkomen
AI-systemen leren van bestaande gegevens. Zitten daar vooroordelen of scheve verhoudingen in, dan kan AI die overnemen of zelfs versterken. Dat heet bias.
Hoe ontstaat bias?
- Trainingsdata: als bepaalde groepen of perspectieven ondervertegenwoordigd zijn, weerspiegelt het model dat.
- Historische patronen: als in het verleden bepaalde keuzes zijn gemaakt, kan AI die herhalen, ook als ze niet eerlijk waren.
- De vraagstelling: een prompt met aannames kan leiden tot een eenzijdig antwoord.
Hoe herken je het?
- Stereotiepe beschrijvingen van beroepen, geslacht, leeftijd of afkomst.
- Voorbeelden die steeds uit dezelfde groep of cultuur komen.
- Aanbevelingen die voor bepaalde groepen anders uitvallen zonder duidelijke reden.
Wat kun je doen?
- Vraag expliciet om diverse perspectieven en voorbeelden.
- Vraag AI om de eigen aannames te benoemen.
- Laat teksten meelezen door mensen met verschillende achtergronden.
- Gebruik AI niet zelfstandig voor beslissingen over mensen, zoals selectie van sollicitanten, zonder zorgvuldige menselijke beoordeling en toetsing aan de regels.
Meer uit de kennisbank
- AI-antwoorden controleren: zo doe je dat
- AI en privacy: waar let je op onder de AVG?
- Vertrouwelijke informatie en AI: wat deel je wel en niet?