Spieksoftware

Tijdens de lockdowns maakte het grootste deel van de studenten hun tentamens vanuit huis. Dat betekende dat universiteiten met nieuwe oplossingen moesten komen om spieken tegen te gaan. De VU gebruikte hiervoor de spieksoftware Proctorio. Deze scant aan het begin van het tentamen het gezicht van de student en houdt de student gedurende de toets in de gaten via de webcam en microfoon.

Racistisch

Robin heeft tijdens haar tentamens meerdere keren problemen met de camera-functie. De eerste keer duurt het ruim een kwartier om in te loggen, waarna ze een felle lamp voor haar gezicht moet houden. Daarnaast wordt ze tijdens een tentamen halverwege onderbroken door de software, omdat ze niet aanwezig zou zijn. Ze verliest opnieuw een kwartier van haar tijd. Aan het Parool vertelt Robin dat ze al snel het vermoeden had dat het met haar huidskleur te maken had. “En toen ik ging zoeken naar andere ervaringen wist ik het vrij zeker.”

In 2018 toonde onderzoek al dat de drie grote aanbieders van gezichtsherkenningssoftware vaak discrimineren. Vooral zwarte vrouwen werden opvallend vaak niet herkend. Maar in het geval van Proctorio maakt geslacht geen groot verschil. Het algoritme herkent meer dan de helft van de zwarte gezichten niet. Volgens Hans de Zwart van het Racism and Technology Center, dat Robin bijstaat, komen discriminerende algoritmes vaak tot stand omdat de set gezichten waarop de software wordt getest, vaak niet divers genoeg is. “We verwachten dat na dit nieuws meer studenten zich realiseren waarom ze moeilijkheden hadden met de software.”

Klacht

Robin stapt in eerste instantie naar de VU zelf toe. Ze dient een officiële klacht in en vraagt de universiteit om direct te stoppen met het gebruik van Proctorio. Ook vraagt ze de universiteit om maatregelen te nemen tegen dit soort discriminatie, en publieke excuses aan te bieden aan studenten die dit hebben ervaren. De universiteit gaat alleen niet akkoord met deze eisen. Daarom is haar volgende stap een aanklacht bij het College voor de Rechten van de Mens.

Volgens de Volkskrant is er bij de VU vooraf geen onderzoek gedaan naar mogelijke discriminerende effecten van Proctorio. De krant schrijft dat de universiteit inmiddels wel een onderzoek vanuit Proctorio zelf is gestart. Ook reageert de VU dat het hen ‘zeer raakt dat de studente zich zo benadeeld heeft gevoeld’, maar dat ze geen bewijs konden vinden naar aanleiding van haar klacht.

Verantwoordelijk

Aan het College vraagt Robin een oordeel dat de universiteit zwarte studenten heeft gediscrimineerd. “Het gaat eigenlijk niet om mij. Ik wil ervoor zorgen dat we publieke instellingen verantwoordelijk kunnen houden voor het gebruik van dit soort software, terwijl ze niet hebben gecontroleerd of het werkt voor álle studenten. Het gaat me om hoe we omgaan met dit soort technologieën en met racisme binnen universiteiten”, vertelt Robin aan het Parool.

Maar het College moet besluiten of de klacht van Robin wordt behandeld, pas daarna volgt een eventuele uitspraak.

Drie studenten over twee jaar lockdown: 'Ik voelde me schuldig tijdens huisfeesten'Lees meer