Een algoritme is ook maar een mening onderbouwd door de wiskunde

Toen ik een paar maanden geleden naar het Boek & Festival ging, georganiseerd door de Orde van organisatiekundigen en -adviseurs samen met de Ambachtsschool, werd tijdens de verkiezing van het (management)boek van het jaar genomineerde auteurs geciteerd. Tot mijn spijt ben ik de naam kwijt van een van die auteurs die werd geciteerd, maar gelukkig de quote niet:‘een algoritme is ook maar een mening onderbouwd door wiskunde’. Vorige week in een gesprek met hoogleraar Etiënne Rouwette kwam het onderwerp weer ter sprake. En het zette me aan het denken.

Toezicht en data. Het is een onderwerp dat menig toezichthouder bezighoudt. Het Vide jaarcongres van afgelopen voorjaar stond in het teken van data-gedreven toezicht. Hoe toezicht ‘slimmer’ kan worden door gebruik te maken van data, door informatie zo te combineren dat toezichthouders risico’s eerder ontdekken. Het roept het idee op dat als de cijfers zeggen dat het zo is, het ook écht zo is. In een interview met Arthur Docters van Leeuwen vorig jaar zei Merel van Vroonhoven dat tegenwoordig ‘feitelijkheid nog meer dan vroeger [moet worden] onderbouwd met data’.

Het is niet dat ik niet geloof dat data kan helpen toezicht slimmer en effectiever te maken. Rijkswaterstaat is wellicht een mooi voorbeeld waar door slim gebruik van data files zoveel mogelijk voorkomen dan wel zo snel mogelijk worden ‘opgelost’. Maar ik vraag me wel af of we ons voldoende bewust zijn van de subjectiviteit die net zo goed gevangen zit in (het gebruik van) data. En dat algoritmes inderdaad ook maar een mening zijn, alleen dan onderbouwd door wiskunde.

Cijfers lijken, meer dan andere informatie, een bepaalde mate van objectiviteit te hebben. Maar elke situatie bevat meer informatie dan onze hersenen kunnen verwerken – of kan worden gevat in cijfers. Dat maakt dat we noodgedwongen moeten kiezen waar we onze aandacht op richten en wat daarmee op in- en uitsluiten. Dat doen we vaak onbewust, op basis van aannames gevoed door eerdere ervaringen, opgedane kennis, en achtergrond. Die bepalen of we wel of niet iets zien. Van nature filteren we die informatie eruit die niet passen binnen onze bestaande referentiekaders en zo een situatie vaak aanpassen aan onze denkkaders. Als je gelooft dat mensen die een Tesla rijden asociale weggebruikers zijn, dan zullen die Tesla-bestuurders die rustig rijden je niet opvallen. Het past namelijk niet in het beeld van asociale Tesla-bestuurders. Zodoende houden we informatie bij onszelf weg en zien we de realiteit zoals we die willen zien. Ook al is er informatie die daar niet bij past.

Terug naar het gebruik van data. Cijfers zijn de resultanten van een selectieproces waarin is bepaalt naar welke kenmerken moet worden gezocht en gekeken, en welke data daarvoor moet worden gebruikt. Daarmee wordt iets in- en uitgesloten. Wanneer we vergeten dat data, cijfers en algoritmes onze aannames verwoorden nemen we de uitkomsten voor waar aan. ‘Het is zo’. Met alle gevolgen van dien.