De digitale surveillant staat naast je bed

Niet alleen vriendschappen en colleges zijn door de coronacrisis naar een scherm verplaatst; ook tentamens worden nu vooral thuis gemaakt, achter de laptop. Dat maakt spieken in potentie erg gemakkelijk – even iets aan een huisgenoot vragen, of aan Google, of in de groepsapp met studiegenoten. Dus zijn onderwijsinstellingen over de hele wereld, om fraude te voorkomen, programma’s gaan gebruiken met antispieksoftware.

Deze programma’s, online proctoring software, filmen de student tijdens het tentamen via de webcam. Ze houden bij wat op de computer gebeurt, zodat het niet mogelijk is een zoekmachine te openen. Ze hebben namen als ProcturU, Proctorio en ExamSoft en doen beloftes als: „Afschrikken. Detecteren. Voorkomen”. Vóór corona waren ze bij veel hoger onderwijsinstellingen taboe – in elk geval in Europa en Australië. Maar nood breekt wet en inmiddels gebruikt vrijwel elke onderwijsinstelling een vorm van online proctoring.

Wereldwijd zijn studenten bezorgd over deze ontwikkeling, omdat machtige onderwijsinstellingen de coronacrisis zouden gebruiken om een grote inbreuk op de privacy van kwetsbare studenten te rechtvaardigen. Er zijn protesten geweest, parlementariërs ingelicht, petities getekend. In Nederland circuleren er zo’n tien, maar de meeste dateren van rond de eerste lockdown: studenten lijken aan de nieuwe tentamenpraktijk gewend geraakt. Proctoring is in rap tempo mainstream geworden.

Toch is het ongemak niet verdwenen, het wordt gevoed door steeds nieuwe incidenten. Aan de Vrije Universiteit in Amsterdam en de Wageningen University werden studenten onlangs onterecht verdacht van fraude, aan de Erasmus Universiteit Rotterdam werden diploma’s onterecht ingetrokken. Een journalist van de Groningse weblog Sikkom wist eenvoudig in te breken in een virtuele tentamenkamer van de Hanzehogeschool in Groningen, waardoor hij in studentenkamers kon meekijken.

„Wij maken ons echt hele grote zorgen”, zegt Freya Chiappino, vicevoorzitter van de Landelijke Studentenvakbond (LSVb). „We krijgen hier veel berichten over van onze achterban. Proctoring legt enorm veel druk op studenten en gaat uit van wantrouwen. Wij vinden dat het alleen gebruikt zou mogen worden als laatste redmiddel, maar we zijn bang dat het na corona blijft.”

Veel universiteiten en hogescholen benadrukken dat corona een noodsituatie is: zodra de campus weer open mag, willen ze met grootschalige proctoring stoppen. Maar net zoals docenten hun ervaring met online lessen niet direct zullen weggooien, zullen ook tentamens na corona deels online blijven, is de verwachting. Analisten voorspellen dat de markt in online proctoring tot 2027 jaarlijks met ruim 16 procent zal groeien. Al voor de pandemie, in 2019, werd de aandelenwaarde van proctoring-bedrijven op ruim 16 miljard euro geschat. Tijdens de coronacrisis is het gebruik van alleen al het Nederlandse ProctorExam verveertigvoudigd.

Er zijn grofweg drie soorten proctoring. Live proctoring: de student wordt tijdens het tentamen via de webcam gefilmd, terwijl een surveillant live meekijkt, maar dat is arbeidsintensief. Meestal worden beelden daarom opgeslagen en later teruggekeken door een surveillant, die in dienst is van het proctorbedrijf. Die beoordeelt de beelden op ‘afwijkend gedrag’. De snelst opkomende soort is proctoring software die gebruikmaakt van kunstmatige intelligentie. Het opsporen van verdacht gedrag gebeurt dan automatisch.

Maar wat is afwijkend gedrag? Dat verschilt per programma. Veel programma’s letten op oog- en gezichtbewegingen: kijkt een student bijvoorbeeld verdacht vaak naar rechts? Ook letten ze op omgevingsgeluid, zoals gefluister. Soms ook op schaduwen en reflecties. Er kan worden gevraagd een tweede camera aan te zetten, van een smartphone die naast of achter de student moet staan. De meeste programma’s kunnen in meerdere of mindere mate de computer van de student ‘overnemen’: schermafbeeldingen nemen, zien welke tabbladen en applicaties openstaan, bepaalde websites blokkeren of privacy-instellingen veranderen.

Identificeren

Voorafgaand aan het tentamen moet de student zich identificeren, meestal door een webcamfoto te maken en de studentenkaart te laten zien. Programma’s die gebruikmaken van kunstmatige intelligentie identificeren iemand soms met gezichts- en stemherkenning. Sommige analyseren het ritme van toetsaanslagen. Eén programma vraagt zelfs biometrische gegevens, zoals vingerafdrukken.

De meeste programma’s gebruiken echter alleen gezichtsdetectie: een minder omstreden vorm die niet vaststelt van wie het gezicht is, maar wel gezichtsuitdrukkingen kan analyseren.

De student wordt vrijwel altijd gevraagd zijn kamer 360 graden te filmen om te laten zien dat geen huisgenoten aanwezig zijn. Ook het bureau moet vaak gefilmd worden, en soms de randen van de laptop met een spiegeltje – daar kunnen immers spiekbriefjes zitten. Na afloop levert het proctorbedrijf per student een verslag aan de onderwijsinstelling: daarin staan ‘rode vlaggen’ en ‘mate van verdenking’.

„Je geeft gevoelige persoonsgegevens af, je wordt geprofileerd, én het zorgt voor een gevoel van onveiligheid, omdat je als verdachte wordt benaderd”, omschrijft Bart Karstens, onderzoeker van het Rathenau Instituut. Wel wordt dat door iedereen anders ervaren. Sommige studenten vinden het een ongemakkelijk gevoel dat ze via hun webcam worden bekeken; ze kunnen zich minder goed concentreren. Anderen hebben er helemaal geen moeite mee of raken eraan gewend.

Avans Hogeschool in Noord-Brabant gebruikt vanwege de privacy-inbreuk als een van de weinige hoger onderwijsinstelligen in Nederland géén online proctoringsoftware. „Proctoring is een veel te zwaar middel”, vindt bestuurder Jacomine Ravensbergen. „En er zijn genoeg alternatieven. Openboektentamens bijvoorbeeld, of toepassingsopdrachten.” De hogeschool doet er wel een paar kleine proeven mee. „Voor sommige studenten kan het bruikbaar zijn, zoals topsporters die moeten trainen in het buitenland. Voorheen moesten we dan hele escapades uithalen met de ambassade of de dichtstbijzijnde universiteit.”

De Autoriteit Persoonsgegevens (AP) onderzocht in november vorig jaar in hoeverre onderwijsinstellingen met online proctoring de Algemene Verordening Gegevensbescherming (AVG) naleven. De conclusie: niet alle onderwijsinstellingen houden zich aan de regels. Sommige hebben bijvoorbeeld geen afspraken met het proctorbedrijf over wat er met de gegevens gebeurt. Een deel bewaart de beelden te lang. Ook is er vaak geen echt alternatief voor studenten die de software vanwege bezwaren niet willen gebruiken. De enige mogelijkheid is meestal: meedoen met de volgende toetsgelegenheid, maar door de coronacrisis is de kans groot dat die toets ook online is.

Lees ook: Staat er in 2035 een leraar voor de klas, of een robot?

Voor studenten is het niet altijd duidelijk waar de beelden worden opgeslagen en door wie ze worden bekeken. „Door goedkope krachten uit Bangladesh?”, oppert een student die NRC spreekt. Ze weten meestal ook niet waar de ‘rode vlaggen’ op zijn gebaseerd, dus waar ze aan moeten voldoen om niet als fraudeur te worden aangemerkt. Dat is een bezwaar, vindt de Autoriteit Persoonsgegevens: studenten zouden iets moeten weten over de onderliggende logica van het programma dat hen beoordeelt.

Een andere veelgehoorde klacht van studenten gaat over buggy software. Ze worden tijdens een tentamen ineens uit het proctorprogramma gegooid, of komen er überhaupt niet in. „Bij één toets vroeg het programma me iedere vijf minuten opnieuw mijn scherm te delen”, zegt bijvoorbeeld Daniëlla Bloemberg (20), tweedejaarsstudent bestuurs- en organisatiewetenschap aan de Vrije Universiteit (VU). „Dat is behoorlijk irritant bij een toets van drie uur. Je concentratie wordt telkens verstoord.”

Bloemberg kreeg te horen dat het aan haar computer lag, maar dat gelooft ze niet. „Bij andere tentamens ging het wel goed. En ik zat op hetzelfde netwerk.” Ze haalde de toets. Studenten voor wie dat niet geldt, mogen de toets vaak pas opnieuw doen tijdens de herkansingsmogelijkheid, maanden later.

Bij Anne Reddering (18), eerstejaarsstudent psychologie aan de Universiteit Leiden, laadden bij een statistiektoets de afbeeldingen niet die nodig waren om de vragen te beantwoorden. Ze vreest dat het bij de herkansing weer misgaat. „Ik kan geen contact krijgen met de technische dienst van de universiteit. Ze nemen niet op en mailen niet terug”, zegt ze.

Ook Bloemberg voelt zich niet gehoord. „De VU zegt: met vragen over proctoring moet je niet bij ons zijn, maar bij het proctorbedrijf. Die hebben wel een live chat, maar ze spreken niet eens Nederlands. Je praat tegen een robot.”

Afschuiven op de student

„Technische problemen worden op de student afgeschoven”, zegt privacy-advocaat Sofie van Londen, die met onderwijsadvocaat Wilco Brussee studentenraden bijstaat in een zaak tegen de Universiteit van Amsterdam (UvA) vanwege het gebruik van proctoring software. Volgens hen voldoet de UvA daarmee niet aan de AVG. Een kort geding in juni verloren ze, omdat volgens de rechter voldoende noodzaak was voor de UvA om proctoring software te gebruiken. Binnenkort is de uitspraak in het hoger beroep. „Als we winnen, kunnen de gevolgen verstrekkend zijn”, denkt Van Londen. „Er moet juridische duidelijkheid komen over de vraag of studenten genoegen moeten nemen met deze vorm van surveillance.”

Volgens de advocaten zou het veel verschil maken als studenten konden kiezen. „Tentamineren op de campus mag alweer vanaf de zomer, maar dat alternatief ontbreekt vaak.”

Proctorbedrijven benadrukken dat zij slechts leverancier zijn van een technologie en niet verantwoordelijk voor hoe onderwijsinstellingen hiermee omgaan. Die bepalen zelf of ze een student tot fraudeur bestempelen en of ze een tentamen ongeldig verklaren. Ze zijn er ook verantwoordelijk voor dat studenten de juiste apparatuur hebben.

„Hoewel dat waar is, neemt dat de ethische zorgen niet weg”, schrijven wetenschappers Simon Coghlan, Tim Miller en Jeannie Paterson van de University of Melbourne in Good proctor or big brother?, een paper over proctoring en ethiek. „Docenten kunnen bijvoorbeeld onterecht veel waarde hechten aan de rode vlaggen. Het probleem wordt groter als je je bedenkt dat bij sommigen de neiging bestaat te veel op kunstmatige intelligentie te vertrouwen.”

De ethische bezwaren zijn talrijk – ze worden door wetenschappers, studenten en ook onderwijsinstellingen zelf genoemd. „De normalisatie van gezichtsanalyse en andere vormen van biometrische controle binnen het universitair onderwijs schept een zorgwekkend precedent”, schrijven de Australische hoogleraar Neil Selwyn en co-auteurs bijvoorbeeld in een paper over de snelle opmars van proctoring op universiteiten. Ook zijn er twijfels over hoe effectief proctoring is: op internet circuleren talloze filmpjes die laten zien hoe je kunt cheaten.

Lees ook: Techreuzen willen de school hervormen

Een ander bezwaar is het discriminerende aspect. Studenten hebben een snelle wifi-verbinding nodig om antispieksoftware te kunnen gebruiken, een goede laptop, en als hun telefoon meedoet ook een van de laatste iPhone- of Androidversies. Ze hebben een rustige ruimte nodig om het tentamen te kunnen maken – lastig als je in een studentenhuis woont, of kinderen hebt. Daarnaast moeten studenten voor het tentamen hun oren laten zien om te bewijzen dat daar geen oordopjes in zitten – gesluierde vrouwen ook.

Er zijn verhalen van studenten met handicaps die door de software worden benadeeld, bijvoorbeeld als ze een tic hebben. Een student die NRC spreekt, heeft de ziekte van Crohn. „Ik moet vaak opeens naar het toilet. In een examen van drie uur op de universiteit kan ik een extra toiletbezoek aanvragen, nu kan ik niet eens weg van mijn laptop. Voor mij een grote stressfactor.”

Kunstmatige intelligentie zelf heeft ook geen goede naam. Databases zijn veelal gemaakt met witte mannen en herkennen Aziaten of zwarte vrouwen daardoor minder goed. In Amerika konden een aantal zwarte mensen hun tentamen niet maken, omdat de software hun gezicht niet herkende: ze kregen de vraag of ze meer in het licht wilden zitten.

Dataverzameling

Online proctoring staat niet op zichzelf, zegt onderzoeker Bart Karstens van het Rathenau Instituut. „Het is deel van een bredere beweging van steeds meer dataverzameling over studenten.” Steeds vaker wordt die data gebruikt om met behulp van een algoritme tot een advies te komen, zegt hij. Aan de onderwijsinstelling: hoe kan een opleiding verbeterd worden? Of aan de student: welke master kun je het beste gaan volgen? Karstens: „De vraag is: wat doet dat met de keuzevrijheid en autonomie van studenten en onderwijsinstellingen? Zeker omdat er vaak bedrijven achter die algoritmes zitten, die geld met data willen verdienen. Ze gebruiken die data om hun producten beter te maken. Het is maar zeer de vraag of zij het publieke belang van het onderwijs voorop hebben staan.”

Digitalisering in het onderwijs zorgt ervoor dat er opnieuw over toetsen en tentamineren moet worden nagedacht, zegt Karstens. „Online proctoring kan daar misschien deel van uit maken, maar het is onverstandig er zomaar massaal naar over te schakelen. Proctoring leidt tot een onwenselijke toename van surveillance.”