De risicoloze wereld van prof. dr. Wagenaar 'Wie vrij wil zijn gaat maar ergens anders'

Fr«d Backus

Vanaf morgen kan er op de Rijksuniversiteit van Leiden menselijkerwijs gesproken niet veel meer fout gaan. „Menselijk falen" heet de oratie die prof. dr. W. A. Wagenaar dan uitspreekt. Dit vanwege zijn benoeming tot buitengewoon hoogleraar in de functieleer. Wat drijft hem, met een zeer drukke baan bij TNO, om het onderwijs in te gaan? „Het opleidingsniveau op het gebied van de functieleer in Nederland laat veel te wensen. Ik moet soms medewerkers uit het buitenland betrekken. Dat is jammer. Nederlandse psychologiestudenten houden zich bezig met veel te grote vragen.

Wie moet de baas zijn: de mens of de machine? Dat is een van de vragen die prof. dr. W. A. Wagenaar telkens in de praktijk tegenkomt. Uit ethische overwegingen zal menigeen in eerste instantie geneigd zijn te zeggen: de mens. Maar zo eenvoudig ligt het niet. "Kunnen mensen", zegt Wagenaar, "heel ingewikkelde machines nog wel controleren? Zitten ze dan te doen wat ze kunnen? Of zitten ze er voor joker bij?" Neem Harrisburg. Daar waren de operators de baas. Maar toen er iets mis ging hadden ze geen flauwe notie van wat ze moesten doen. Sterker nog: zonder operators was er niets gebeurd. De machine was bezig zichzelf uit te schakelen. "Terwijl de operators dachten: 'Wij zijn de baas' en vervolgens alles deden om de zaak te ruïneren. In Harrisburg sprongen binnen twintig seconden zestig van de honderd waarschuwingslampjes op rood. Een situatie die niemand had voorzien en die alleen maar voor verwarring zorgde. Wat betekende dit waarschuwingspatroon precies? Hoeveel en welke andere patronen zijn er mogelijk op een paneel met honderd lampjes? Een goed geprogrammeerde computer zou in no time de juiste diagnose kunnen stellen. De operators hadden meer dan twee en een half uur nodig en 'verbeterden' de ene fout met de andere. Of de KLM-ramp bij Tenerife. Volgens Wagenaar een uitgesproken voorbeeld van "het misverstand dat de menselijke taal het meest geschikte middel is voor communicatie." De piloot vroeg in één zin permissie voor twee dingen: is het luchtruim vrij voor de vlucht en kunnen we starten? De verkeersleider antwoordde bevestigend maar doelde slechts op het eerste gedeelte van de vraag. De piloot startte... de rest is bekend. Klassiek is ook het treinongeluk bij Menhenion (1873) waarbij een wachtmeester vanuit het seinhuisje de machinist liet weten: "OK Dick, je kunt vertrekken!" Er stond nog een tweede trein te wachten waarvan de machinist óók Dick heette — een dode. Een jaar later gebeurde bij Thorpe een soortgelijk ongeluk — 73 doden. "Dit soort fouten kunnen machines nooit maken," aldus Wagenaar. "Het zijn van die typische ouwe jongens krentebroodfouten die alleen tussen mensen ontstaan." Bij moderne treinen die uitgerust zijn met ATB (Automatische Trein-Beïnvloeding) zijn ze dan ook niet meer mogelijk. Hoewel niemand het hardop zegt gaat dit systeem duidelijk uit van de conceptie: de machine is de baas, de mens doet het werk. De machinist bestuurt de trein en doet alles. Maar over zijn schuder kijkt een machine mee die precies aangeeft wat hij moet doen. Verzaakt hij, dan registreert de machine zijn fout en neemt het heft in handen. De foutenregistratie zorgt er onder meer voor dat de machinist het gevoel houdt dat hij verantwoordelijk is. Zou de machinist er niet net zo goed uit kunnen stappen? Wagenaar: "Dat is de vraag. Voor metro's is die discussie al afgerond. We weten inmiddels dai de ondergrondse veiliger zou zijn zonder personeel. Bij de spoorwegen geldt nog altijd het argument van de koe op de rails. Dat ziet de ATB niet, daar heb je een machinist voor nodig die voortdurend alert moet zijn. Om hem alert te houden dient hij het gevoel te hebben dat hij degene is die de trein bestuurt, ook al geeft de machine precies aan wat hij moet

doen. De ATB geeft een machinist zelfs nog meer te doen dan op trajecten zonder ATB. Het jongste treinongeluk gebeurde op een traject waar geen ATB was. En de ethische vraag is mijns inziens niet of een machine de baas mag zijn op een trein, maar: waarom was daar geen ATB?" Die vraag levert onmiddellijk een tweede probleem dat in een naar automatisering strevende samenleving in toenemende mate aan de orde komt: hoe moeten mens en machine samenwerken? Wie doet wat? Hoe verloopt de informatiestroom? Welke informatie kan een mens weer afgeven en hoe moet dat gebeuren? Wat is daarbij de kans dat hij fouten maakt? Harrisburg was volgens Wagenaar een goed voorbeeld van halfautomatisering die enerzijds te ver was gegaan en anderzijds niet ver genoeg. Maar ja, dat ziet iedereen nu wel in. Daar heb je toch geen wetenschappelijke functieleer voor nodig? "Oh ja? Ziet iedereen dat in? Waarom worden die kerncentrales dan nog steeds zo gebouwd? Was het maar waar dat iedereen dat inzag. Harrisburg is nu drie jaar geleden. Hebben de Nederlandse kerncentrales nu een diagnose-systeem? Of zeggen we: ach, die Amerikaanse operators zijn ook zo dom. Onze mensen zijn veel beter opgeleid. Ons zal zoiets nooit gebeuren. Bovendien hebben wij een ander soort centrales... Dat is het Nederlandse antwoord." Moeten we dan alles automatiseren? "Nee, dat geloof ik niet. We moeten zoeken naar veilige combinaties van mensen en systemen. Ergens moet de mens altijd de mogelijkheid houden te kijken wat de machine doet... tenzij we zeggen: we gaan zo ver dat we niet meer kunnen ingrijpen." Roept dat geen innerlijk conflict bij u op? Ik bedoel: zelf vindt u afwisseling een van de belangrijkste aspecten van uw werk. In exact uitgekiende samenwerkingen tussen mens en machine kan van afwisseling nauwelijks nog sprake zijn. "Zodra een machine iets kan vind

ik het geen mensenwerk meer." Maar een textielarbeider die alleenmaar hoeft te kijken of de machine goed weeft doet toch ook geen "mensenwerk" meer? "Door machinaal te weven krijg je de kans je toe te leggen op het ontwerpen van patronen. Je gaat toch niet concurreren met een machine?" En bij zoiets als muziek? Een musicus zoekt voortdurend de perfecte toon die elektronisch zó geproduceerd kan worden. "Zodra een machine mooiere muziek kan maken dan mensen word je toch geen musicus meer? Neem bijvoorbeeld hobó spelen. Dat is vreselijk moeilijk. Maar als je met behulp van een elektronisch orgel perfecte hobo-tonen kunt produceren ga ik mij niet meer rotblazen op zo'n ding." Maar het spelen op zichzelf is voor veel mensen toch de moeite waard? "Oh, dat ontken ik ook niet. Dat ontken ik niet. Maar we gaan toch geen nieuw kanaal graven met de schop omdat het direct contact met de aarde zo leuk is? ...Waar het op aan komt is dat we de machines goed leren gebruiken. Dat wordt het interessante werk." U houdt zich veel bezig met de oorzaken van menselijk falen. Er is volgens u vanuit de functieleer nog veel onderzoek geboden. Verwacht u dat de functieleer uiteindelijk het menselijk falen kan uitschakelen? "Er is nu vreselijk veel bekend. Het probleem is echter dat de man die faalt verantwoordelijk kan worden gesteld. Een kapitein op een schip dat een ongeluk veroorzaakt blijft moreel verantwoordelijk. Hij heeft iets fout gedaan en hij zal het weten. Maar ik geloof dat het niet fair is situaties te creeren waarvan we bijna zeker weten dat ze tot fouten zullen leiden. Degene die het bedacht heeft — en dat zijn we allemaal — is verantwoordelijk. Een kapitein op een schip heeft geen enkele controle' over het ontwerp van zijn vaartuig enzovoorts. Toch maken we hem verantwoordelijk. Ik denk dat het onze verantwoordelijkheid is om

er voor te worden zorgen dat hij zo weinig mogelijk de kans loopt geconfronteerd te worden met een opgelegd menselijk falen dat zijn leven en dat van anderen ruïneert. En ik denk dat er vanuit de functieleer heel wat over te zeggen valt, maar zelfs als dat niet zo is dan hebben we nog de verplichting het te onderzoeken.' Wat zegt de functieleer over autorijden? "95 Procent van de ongelukken gebeurt door menselijk falen. Het interessante daarbij is dat de meeste fouten welbewust worden gemaakt. Mensen weten dat ze niet te hard moeten rijden, dat ze niet door het rode stoplicht moeten rijden, dat ze niet dronken achter het stuur moeten kruipen, dat ze bij twijfel niet. moeten inhalen ... maar ze doen het soms toch. "Wat kun je daar tegen ondernemen? In ieder geval niet de exameneisen opschroeven of de training zwaarder maken. Dat heeft geen zin, want de automobilisten weten al wat wel en wat niet mag. En niemand zal zo gek zijn tijdens het examen diezelfde fouten bewust te maken. "Wat we inmiddels ook weten is dat voorlichtingscampagnes niet helpen. De indoctrinerende leuzen als 'glaasje op, laat je rijden', 'bij twijfel niet inhalen', enzovoorts, hebben nauwelijks enige uitwerking. Dus je moet op de een of andere manier zorgen dat mensen verkeersovertredingen vermijden. "Dat kan heel gemakkelijk. Je kunt een toeter in de auto bouwen die keihard gaat loeien zodra iemand harder dan honderd rijdt. Technisch heel simpel. Je kunt middenbermen aanleggen op tweebaans wegen, zodat inhalen onmogelijk wordt. Je kunt heel gemakkelijk een censor inbouwen die automatisch gas terugneemt zodra je te dicht bij een voorligger komt. Aan zulk soort eenvoudige oplossingen wordt nog nauwelijks gewerkt." Gaan dit soort maatregelen niet lijnrecht in tegen de psychologie van de weggebruiker? Autorijden is voor veel

mensen een zeer individueel iets dat een gevoel van vrijheid verschaft. "Persoonlijk vind ik dat geen overweging. Bij de 1600 dodelijke ongelukken in het auto-verkeer vorig jaar waren 600 automobilisten en 1000 niet-automobilisten betrokken. Waren die mensen vrij? Die waren helemaal niet vrij. Dan maar minder vrijheid voor automobilisten. Wie vrij wil zijn gaat dat maar ergens anders doen. "Waarom zou je geen ATB voor autogebruik verplicht stellen? Zo lang je doet wat je moet doen ben je zo vrij als een vogeltje. Maar wijk je daar van af, dan grijpt het systeem in. Dat is nu ook zo. De wet grijpt in zodra er fouten worden gemaakt. Maar helaas kan de wet niet altijd ingrijpen omdat ze er niet bij is. De wet heeft ook geen probleem met de psychologie van de autogebruiker. Of vindt u soms dat de autogordel indruist tegen de vrijheidsdrang van de automobilist?" Nog niet. Maar, het zou anders zijn wanneer je bij het instappen automatisch werd ingesnoerd. Nu kan een automobilist nog kiezen of hij wel of niet de wet in acht wil nemen. "Die mensen hebben een verkeerd beeld van de samenleving. Bovendien houd ik mij niet met dat soort vragen bezig. De vraag die mij wordt voorgelegd is: hoe voorkom je ongelukken? Daar probeer ( ik een antwoord op te geven. "Daarover moeten we op een gegeven ogenblik ook een beslissing nemen. Voeren we die maatregel in of niet? Willen we graag hard rijden? Zo ja, dan horen daar de nodige ongelukken bij en moeten we ophouden met klagen." Er zijn mensen die omwille van het gokken casino's bezoeken. Daaruit blijkt toch dat mensen graag risico's nemen? "En kerncentrales dan? Waarom zijn er zoveel mensen tegen de risico's die aan kerncentrales verbonden zijn?" Dat zijn abstracte risico's. Maakt dat geen fundamenteel verschil uit? Menigeen zal zeggen: prof. Wagenaar heeft gelijk, de wet heeft gelijk, maar de eerlijkheid gebied mij toe te geven dat ik ook risico's neem in het verkeer. Dat ik ook wel eens met teveel alcohol op achter het stuur stap? "De eerlijkheid gebied mij te zeggen dat ik dat niet doe. Ik gebruik geen alcohol. Ik kan het mij ook niet permitteren. Ik zie de koppen in de Telegraaf al voor me: 'Alcohol-onderzoeker veroorzaakt ongeluk.' Bovendien vind ik het niet lekker. Dus ik heb er ook geen enkel probleem mee." Waarom maken mensen fouten terwijl ze weten dat ze iets verkeerd doen? "De vraag naar het waarom is voor mij minder interessant dan of iemand het doet, wanneer, waar en hoe vaak. Maar ik geloof dat veel fouten worden gemaakt omdat mensen niet in staat zijn op zichzelf statistiek toe te passen. Ze geloven eenvoudigweg niet dat hun gedrag consequenties heeft. Bovendien is hetgeen iemand met een fout kan verdienen hem op dat moment meer waard dan het vermijden van risico's. Iemand die haast heeft rijdt door rood. Niet omdat hij op dat moment afweegt: wat is mij meer waard, op tijd komen of mijn leven in de waagschaal leggen, maar omdat hij gefixeerd is op het niet te laat komen. Ik denk dat de meeste automobilisten hooguit afwegen: wat zou het me kosten? Wat voor boete zou ik moeten betalen?"

Prof. dr. W. A. Wagenaar rookt niet, drinkt niet en gokt niet. Toch is hij een van de weinige Nederlanders die twee a drie avonden per week een (soms illegaal) casino bezoekt en altijd geld verdient. Dat heeft te maken met een tamelijk idiote wet. Of iets een kansspel is, zo heeft de Nederlandse overheid bepaald, hangt af van het resultaat dat de spelers behalen. Dat wil zeggen: wanneer vijf dronken mannen deelnemen aan roulette, is er sprake van een kansspel. Als er vijf andere, zogenaamde ketelkijkers, aan de tafel plaatsnemen en geroutineerd voorspellen in welk cijferhokje het balletje terecht zal komen, wordt roulette een behendigheidsspel. Zulke mensen zijn er, en volgens prof. Wagenaar is roulette dan ook een behendigheidsspel, in psychologische zin. Maar telkens wanneer eeq illegale

casinohouder in het kader van de wet op de kansspelen aangeklaagd wordt is er behoefte aan bewijslast, aan uitgebreide rapporten. Wagenaar is nu betrokken bij vijf rechtszaken, en het houdt niet op. Als hoofd van de research-afdeling psychologie van het Instituut voor Zintuigfysiologie van TNO in Soesterberg krijgt hij „de meest wonderlijke problemen" op zijn bureau. Problemen die te maken hebben met de relatie tussen mensen en machines. Tussen mensen en complexe systemen. De vraag vanuit de samenleving is zo groot, dat Wagenaar, die een staf heeft van twintig man, gemakkelijk 30, 40 of 50 andere medewerkers aan het werk zou kunnen zetten, onder wie de nodige psychologen. „Dat zijn natuurlijk geen psychologen zoals mensen denken dat psychologen zijn." Wagenaars eerste opdracht bestond

hieruit: Philips had een computer geleverd aan de verkeerstoren van Schiphol. De verkeersleiders zeiden dat er met het apparaat niet viel te werken. Volgens Philips was de computer exact gemaakt volgens de bestelling. Waar zat het probleem? "Wat ik toen vooral heb geleerd is: probeer niet te achterhalen wie gelijk heeft, maar los het probleem op. Dat houd ik mijn studenten nu ook nog steeds voor." Het probleem zat hoofdzakelijk in het feit dat de computer zeer nauwkeurig volgens de voorschriften van Schiphol was geprogrammeerd. "In hun dagelijks werk", aldus Wagenaar, "hadden de verkeersleiders allang gemerkt dat die voorschriften creatief gehanteerd moesten worden. Bij het minste of geringste sloeg de computer alarm. Het apparaat zag problemen die de verkeersleiders routinematig oplosten."