Bedrijven, en in toenemende mate ook overheden, zetten algoritmes in om bureaucratische processen te automatiseren. Deze algoritmes, sets van instructies en regels die gevoed worden door big data, bepalen ongemerkt meer en meer ons leven. Zo bepaalt het algoritme van Facebook welke (politieke) advertenties we te zien krijgen en zien grote groepen werknemers in de on-demand-economie zelfs nooit meer een baas. Zij worden van sollicitatieprocedure tot ontslagaanvraag aangestuurd door een algoritme. Waar moeten ze klagen als er iets niet loopt zoals het hoort?

Ook in de rechtspraak zijn algoritmes in opkomst. Zo moest een Amerikaanse gevangene langer vast zitten dan vergelijkbare gevangenen omdat het algoritme, dat een risicoscore vaststelt, hem een onverklaarbaar hoge uitkomst gaf. En anders dan de beslissingen die een rechter maakt, blijkt het zo goed als onmogelijk om de beoordeling van een algoritme aan te vechten. Onlangs bleek  het Britse bedrijf Cambridge Analytica aan de hand van grote hoeveelheden Facebookdata modellen te hebben ontwikkeld, waarmee het stemgedrag van kiezers kon worden beïnvloed. Deze psychographics laten zien dat algoritmes niet alleen individuele levens kunnen sturen maar ook de democratie.

Onder wiskundigen en programmeurs begint het besef te ontstaan dat de algoritmes die onder al deze geautomatiseerde beslissingssystemen liggen, niet neutraal zijn en mogelijk fouten bevatten. Want de slimme code mag dan weliswaar sneller kunnen beslissen dan mensen, de uitkomsten zijn niet alleen soms gebrekkig, maar soms ronduit gevaarlijk. Moeten we ons wel blind laten leiden door de beslissingen van het algoritme?

Regie: Martijn Kieft