Vertekening in voorspelde prestaties
Onderzoek hoe AI-systemen aannames over sekse en cultuur meenemen en reproduceren zodra je ze om een voorspelling vraagt.
Aanbevolen voor: Inzicht in kwantitatieve en demografische vertekening
Werkwijze
- Laat studenten een AI-systeem vragen om de te verwachten gemiddelde scores van jongens en meisjes op:
- een wiskundetoets;
- een taalvaardigheidstoets;
- een aardrijkskundetoets.
- Laat ze de uitkomsten vergelijken en vastleggen.
- Bespreek of de verschillen berusten op werkelijke prestatiegegevens of op vooringenomen aannames.
- Laat ze de oefening herhalen met een land erbij: Nederland, Japan, Hongarije, de Verenigde Staten.
- Analyseer samen wat het toevoegen van een nationale of culturele context met de voorspelling doet.
Discussievragen
- Berusten de voorspellingen op gegevens, of houden ze stereotypen in stand?
- Wat gebeurt er als zulke voorspellingen worden ingezet in toetsing of plaatsing — worden het dan zichzelf waarmakende voorspellingen?
- Welke verantwoordelijkheid hebben ontwikkelaars om demografische vertekening op te sporen en aan te pakken?
- Hoe zou een onderwijsinstelling met door AI voorspelde groepsverschillen moeten omgaan?
Toetsmogelijkheid
Studenten zoeken werkelijke prestatiegegevens op in de toetsingsliteratuur, leggen die naast de AI-voorspellingen en bespreken de verschillen.