Zo dicteert het algoritme jouw leven

We kunnen het ons nu nauwelijks meer voorstellen, maar ooit was ook het internet – net als wij zelf - jong, pril en fris. Het was een opwindende, beetje obscure vrijplaats waar alles leek te kunnen en waar alles kon worden gezegd. Langzaamaan begonnen we te chatten en andere delen van de wereld te ontdekken. Verbinding met andere mensen stond centraal.

Dat was precies hoe ‘de vaders van het internet’ het voor ogen hadden. Internet-'oprichter' Tim Berners-Lee was van mening dat zijn wereldwijde web er voor iedereen moest zijn. Vint Cerf, ingelijfd door Google als ‘Chief Internet Evangelist’, dacht er niet heel anders over. We stonden aan de vooravond van meer banen, creativiteit en connectiviteit. Google, Facebook, Instagram en Twitter gingen langzaam in de haarvaten van ons menselijk bestaan zitten.

Maar met die razendsnelle nieuwe ontwikkelingen kwamen ook de keerzijden aan het licht. De grote techreuzen trokken steeds meer macht naar zich toe en Silicon Valley werd een syndicaat van gelijkgestemde techno-optimisten. Wat ooit begon als een idealistisch project is verworden tot een grootschalige dataroof - ook al beweren de Sergej Brins en Mark Zuckerbergs op Mountain View nog altijd de wereld te willen redden.

'Wat begon als een idealistisch project is verworden tot een grootschalige dataroof'

de nieuwe kapitalistische orde

Hun algoritme-gestuurde model bepaalt in toenemende mate ons leven. In haar boek Surveillance Capitalism maakt Harvard-hoogleraar Shoshana Zuboff korte metten met het techmantra. Nauwkeurig ontleedt ze het, in haar ogen, parasitaire verdienmodel achter Big Tech. Het boek, dat qua grootsheid op gelijke voet staat met Thomas Piketty’s Kapitaal in de 21ste Eeuw, levert haar een academische glamourstatus op en niet voor niets kreeg ze dit jaar de prestigieuze Axel Springer-prijs.

Tegenlicht-regisseur Roland Duong interviewde de Amerikaanse voor zijn uitzending De Grote Dataroof. Hierin gaat Zuboff in op het concept surveillancekapitalisme, de implicaties van deze nieuwe kapitalistische orde op mens en gedrag en de voorbeelden van de versluierde datadiefstal.

Haar verhaal werd geïllustreerd met fragmenten die Duong en ik uitzochten uit het rijke Tegenlicht-archief. Maar omdat de tijd die we met haar door konden brengen in het Londense hotel beperkt was, bleven er nog wel een aantal fragmenten over die zeker de moeite waard zijn. Die laten we in dit artikel zien, met toelichting van de regisseur.

slachtoffers van het algoritme

Als het algoritme in toenemende mate wikt, weegt en beslist, maakt het slachtoffers. Videoplatform YouTube is zo’n voorbeeld waarbij het geheimzinnige algoritme bepaalt wie een ster wordt en wie niet.

Van de ene op de andere dag kun je als uploader je kanaal of het merendeel van je abonnees verliezen. Over het hoe en waarom tast je vervolgens in het duister. Opnieuw beginnen is door de ondoorgrondelijke wegen van het mysterieuze algoritme haast onmogelijk.

Het overkwam Bardo Ellens, een YouTuber die al vanaf 2006 video’s maakt. Ooit had hij 300.000 abonnees en daarmee was hij de grootste YouTuber in Nederland. Maar op een dag zag hij, zo vertelt hij in de Tegenlicht-uitzending Goudzoekers in YouTubeland (2017), tot zijn grote schrik dat zijn kanaal was verwijderd. Al zijn video’s voor 2013 waren uit het algoritme gehaald en niet meer vindbaar.

Het aantal kijkers zakte daarna dramatisch.

kijk de video over de nachtmerrie van Bardo ↓

Het lijkt klein bier. De consequenties zijn namelijk geheel voor rekening van dat ene individu. Maar wat het zo kwalijk maakt, is dat het hier gaat om willekeur: als iemand binnen de gelederen van het techbedrijf vindt dat een account commercieel niet meer aantrekkelijk is, gaat de stekker eruit. Voor Bardo en voor duizenden anderen een creatieve en financiële strop, gezien de vele uren die ze in hun content hebben gestoken.

computer says no

Dat het algoritme je hele leven in de war kan schoppen, komt goed naar voren in de aflevering Verslaafd aan het algoritme (2018). Techno-optimisten laten zich er graag op voorstaan dat een algoritme objectief en neutraal is.

Toch zijn het mensen die de data erin stoppen, en dat brengt een bias - vooroordelen - met zich mee. Dat kan verregaande gevolgen hebben. In de Verenigde Staten worden al algoritmes gebruikt om besluiten te nemen die vroeger door rechters werden genomen. Zo bepaalde een algoritmisch model dat gevangene Glenn Rodriguez langer vast moet zitten in plaats van vervroegde vrijlating.

kijk de video over de robotrechter ↓

het radicale alternatief

Algoritmes worden dus steeds vaker toegepast. Op strafrechtelijk terrein, maar ook om ons koopgedrag te sturen, te bepalen naar welke video’s we kijken en wat we te zien krijgen op Facebook.

Volgens Roland, die eerder een uitzending maakte over de klus-en klik- en platformeconomie, is er nog een andere reden waarom algoritmes steeds vaker de overhand krijgen: algoritmes zijn vaak kostenbesparingen om de mens uit het dure werkproces te halen. Pakjes- en maaltijdbezorgers verdienen meer geld naarmate ze harder fietsen. Vrij nemen is er vaak niet bij, want dan verlies je je plek in het algoritme.

hoe kick je af van je smartphone?

Allemaal redenen om – als je dat ten minste kan - er even los van te komen. Weg van de technologie en de opgedrongen verbondenheid van Facebook en Google.

In zo’n geval zou je naar een digitaal detoxkamp kunnen gaan, waar je met andere tech- en smartphoneverslaafden af kan kicken. Zo’n tech-free weekend getaway Camp Grounded fungeert als een toevluchtsoord voor diegenen die even offline willen zijn. Want soms wil je even tot rust komen, toch?

Hoogleraar bestuurskunde Paul Frissen zegt het in de uitzending Offline als Luxe (2016) mooi en treffend: het recht op onzichtbaarheid is heel fundamenteel.

kijk de video over afkicken van je smartphone ↓

wie controleert wie?

De amish, een orthodoxe en zeer behoudende protestantse gemeenschap in de Verenigde Staten, zorgen er wel voor dat niemand ze kan tracken. Technologie wordt slechts sporadisch toegelaten en alleen na mondeling beraad.

Auto's komen alleen bij uitzondering het erf op en computers bieden geen toegang tot het internet. Bellen met een mobiele telefoon doen ze alleen als het echt niet anders kan. Of in een apart gebouwd telefoonschuurtje bij het huis.

Door die levenswijze zien amish zonder vertroebeling wat de invloed van technologie is op mensen, juist omdat ze het slechts mondjesmaat toelaten.

kijk de video over de amish ↓

Dat is zoals zij het al eeuwen doen.

Maar de homo economicus – wij dus - kan niet meer terug. En laten we wel zijn: op zo’n radicale, bijna wegkijkerige manier over technologie nadenken, is eigenlijk te gek voor woorden. Het digitale domein moet gewoon weer een fijne plek zijn om te vertoeven. Zoals het ooit bedoeld was.