Glazen Bol

Zou het nu toch werkelijkheid worden? Dat iedereen – of vooruit, misschien alleen bedrijven – gaan beschikken over een glazen bol waarin ze de toekomst kunnen zien? Ik las in de krant dat het algorithme oprukt in de bestuurspraktijk. Het “wenkende perspectief” is predictive policing. Met data komen we er straks achter waar in de stad bijstandsfraude, hennepaanplant of schoolverzuim het grootst is. Het bericht liet zien hoe big-data plannetjes werkelijk overal de kop op steken en ook hoe weinig we na blijken te denken over de vraag hoe wenselijk dat eigenlijk is.

Wenkend perspectief. Het zong nog wel even door mijn hoofd. Ik dacht ècht? Predictive policing? Onwillekeurig moest ik aan de film Minority Report denken. Drie “precogs” – een soort helderziende dames – liggen in een tank met draden aan hun hoofd en stellen de politie in staat misdaden te voorspellen; en zodoende ook te voorkomen. Tot dat de precogs voorspellen dat een van de politieagenten, gespeeld door Tom Cruise, zelf een moord zal begaan. Spanning alom.

Dat beeld van die precogs is heel treffend. Het is magisch, technisch, realistisch. Niemand weet precies hoe die precogs kunnen voorspellen, maar de draden aan hun hoofd suggereren dat het allemaal heel hightech is – en dat het heus wel zal kloppen wat de dames voorzien. En wat maakt het ook uit dat we niet weten hoe het werkt, als de voorspellingen maar juist blijken te zijn. De vraag die in Minority Report aan de orde komt is “wat als de politie een hele goede glazen bol had”? Technische snufjes helpen om dat idee voor de moderne mens geloofwaardig te maken.

En daar staan we dan, met onze big data en algoritmes. Daarmee kunnen we de mensen van passende advertenties voorzien, we kunnen verkiezingen kantelen – en als het een beetje meezit kunnen we binnenkort wat criminelen oppakken, nog voordat ze hun misdaad begaan hebben! Niemand weet precies hoe die algoritmen werken – ook de makers niet, maar het perspectief lonkt alvast.

Wat moeten we hiervan denken? Ik was deze week bij een praatje van een mevrouw van Google, die een goede uitleg gaf van hoe dit soort algoritmes werken, maar ook een ontnuchterend verhaal hield over die hele big data hype. In een notendop was haar boodschap om er niet teveel achter te zoeken: big data is gewoon statistiek, maar dan beter. En: science fiction is een verkeerde raadgever als het om het begrijpen van nieuwe technologieën gaat.

Met dat eerste ben ik het eens, maar met dat laatste niet. De verwachtingen rondom big data zijn duidelijk overspannen. Het is gewoon statistiek en hoewel het aardig lukt om een idee te krijgen van welk boeken we interessant vinden zijn veel andere problemen nog veel te moeilijk voor computers. Maar, science fiction geeft ons wel degelijk een inkijkje in wat er kan gebeuren als we ons teveel door die ontwikkelingen laten meeslepen. Minority Report legt het probleem, of eigenlijk de twee problemen, van het gebruik van zulke voorspellingen feilloos bloot.

Het eerste probleem is natuurlijk dat voorspellingen alleen maar accuraat kunnen zijn als we ze niet gebruiken. We kunnen voorspellen wat er allemaal voor naars gaat gebeuren door de klimaatverandering, maar als we daardoor de klimaatmaatregelen gaan treffen die er voor zorgen dat het lekker koel blijft op aarde, dan komen die voorspellingen niet uit.

We voorspellen wat het klimaat gaat doen in de hoop het nog te kunnen veranderen. Maar als we het veranderen klopt de voorspelling niet meer. We kunnen dus niet tegelijkertijd een betrouwbare voorspelling doen en naar die voorspelling handelen. Het gebruik van de voorspelling haalt de basis – de aanname dat de dingen grosso modo hetzelfde blijven- onder de voorspelling weg.

Het tweede probleem is dat het oneerlijk is om iemand te straffen voor iets waarvan alleen maar voorspelt is dat hij het gedaan heeft. In Minority Report worden criminelen opgepakt voordat ze hun misdaad gedaan hebben: en dus gestraft voor iets wat helemaal niet gebeurd is. Iedereen voelt aan dat daar iets niet in de haak is; hoe nauwkeurig die precogs ook mogen zijn.

Jammer genoeg doen we dit vaak genoeg. We voorspellen studiesucces om studiekeuze te bepalen, waarmee we het behalen van een slechte studievoorspelling afstraffen met een mindere opleiding.

Als voorspellingen alleen geldig zijn in een wereld die niet te beïnvloeden is, is het niet goed om het lot van mensen er van afhankelijk te maken. We zadelen ze dan op met dingen die nog niet gebeurd zijn en dankzij de voorspelling misschien ook wel niet gaan gebeuren. Hoe goed we ook in voorspellen kunnen worden, het gebruik ervan deugt gewoon niet.

Veel van de dingen die misschien gaan kunnen met big data en algoritmen moeten we dus helemaal niet willen. We gaan onszelf voor de gek houden door stevig in te zetten op voorspellingen en die we vervolgens intensief willen gebruiken. En die twee dingen gaan niet samen. Er is niets lonkends aan predictive policing, het is een nachtmerrie.

Gelukkig is er die andere vaststelling van de big data specialisten: het zal zo’n vaart niet lopen. Die big-data voorspellingen worden nooit zo goed als dat we nu denken en we zullen, met vallen en opstaan, ook wel leren om er verstandig mee om te gaan.

Anderzijds, dit zijn natuurlijk ook maar voorspellingen.

Meer lezen?

In in opdracht van de tijd, ga ik uitgebreider in op wat er mis kan gaan als je switcht van voorspellen naar beinvloeden. In IQ ga ik dieper in op de nadelen van het voorspellen van studiesucces.

In opdracht van de tijd

In 1917 brak in Rusland een zeer gewelddadige en langdurige revolutie uit. Geïnspireerd door het boek “Das Kapital” van Karl Marx, greep de Bolsjewistische partij van Vladimir Lenin de macht. Het zou het begin worden van meer dan een halve eeuw communisme.

“In opdracht van de tijd”, zo zagen Lenin en de zijne hun revolutionaire werk. Karl Marx had in “Das Kapital” de mechanismen van het kapitalisme bloot gelegd en vastgesteld dat het systeem zich onvermijdelijk ten gronde zou richten, hetgeen weer zou ontaarden in een revolutie waarin de werkende klasse de macht greep. De “opdracht” die “de tijd” aan Lenin gegeven had, was het in gang zetten van deze onvermijdelijke revolutie. Met de kennis van nu lijkt het misschien een wat merkwaardige rechtvaardiging voor een revolutie: de geschiedenis die er toch wel aan komt te willen bespoedigen. Maar Lenin was intellectueel gezien de minste niet. In de visie van Karl Marx zouden die laatste jaren van het kapitalisme met veel onderdrukking gepaard gaan. Het was dus niet onredelijk om er maar alvast mee te beginnen.

Vooruit: er is wel van alles mis met die redenering, maar ze is zeker niet uitgestorven. We gebruiken nog elke dag volop argumenten van deze vorm. Hoog tijd voor een nadere beschouwing dus.

Het probleem met het argument van Lenin is dat er een volledig verschillend wereldbeeld schuilt achter de twee verschillende poten waar het op rust. De theorie van Marx, waar Lenin zich op baseerde is deterministisch van karakter. In een deterministisch wereldbeeld is de toekomst volledig voorspelbaar, zolang je maar weet hoe die er nu uit ziet en wat de mechanismen zijn waarlangs deze zich ontwikkeld. Volgens Marx kon het niet anders gaan dan dat het kapitalisme zichzelf ten gronde zou richten, dat zat in het systeem ingebakken. In een deterministisch wereldbeeld spelen menselijke acties een minimale rol. Ook die zijn ingegeven door de grotere krachten in het universum en dus geen ‘vrije’ keuzes van een individu of van een groep. Dat Lenin een determinist was is overigens niet vreemd: in die tijd was bijna iedereen een determinist.

De tweede poot van het argument rust juist op een wereldbeeld waar menselijke acties er alles toe doen. Laten we dit het constructivistische wereldbeeld noemen. Volgens constructivisten is de toekomst is het gevolg van menselijke keuzes. De Bolsjewieken waren in zoverre constructivisten dat ze geloofden dat door hun acties de revolutie versneld zou kunnen worden. Daarmee haalden ze natuurlijk wel de deterministische poot onderuit. Het is kiezen of delen: menselijk handelen doet er toe of het doet er juist niet toe. Als menselijk handelen de revolutie kan versnellen, is de revolutie dus ook niet onvermijdelijk. Er zijn verschillende manieren om het argument van Lenin te redden, maar in de kern is het kreupel.

En het is een type argument dat nog elke dag gebruikt wordt. Mogelijk ook door jou. Veel mensen gebruiken het bijvoorbeeld in verband met technologie. In de jaren 70 van de twintigste eeuw bracht Jacques Ellul de visie naar voren dat technologie deterministisch is. Technologie zou volgens Ellul zijn eigen ontwikkelingspad uitstippelen en zich niet door mensen laten sturen. Volgens Ellul was het de technologie die onze denkbeelden bepaalde en de economische krachten om zich heen vormde, niet andersom. Dit zogenaamde technologisch determinisme is niet meer in de mode, maar in het alledaagse leven is het niet zo’n gekke visie. Wij, gewone consumenten uit Nederland, hebben immers niet veel invloed op alle nieuwe gadgets die uit Silicon Valley komen stromen. Ten opzichte van de technologische ontwikkelingen lijken we machteloos te staan. Mijn moeder liet zich vaak ontvallen dat ‘de vooruitgang’ nu eenmaal niet te stoppen was.

En omdat de ontwikkelingen niet te stoppen zijn ondernemen we actie. Een collega van me is druk bezig te verkennen hoe iPads in het onderwijs in te passen zijn. Niet omdat hij daarin gelooft. Hij vindt de inpassing van die apparaten vaak eerder een verarming van het onderwijs dan een verrijking. Maar zijn school is voorhoede school. iPads ‘zijn de toekomst’ – als ze daar niet in meegaan haalt de tijd ze in en doen ze hun leerlingen tekort. Een ander voorbeeld is streaming muziek. Veel mensen stappen er op over, niet omdat ze CD’s slecht vinden, maar omdat het de toekomst is. Oven een paar jaar zijn CD’s toch niet meer te krijgen; en trouwens, de jeugd luistert alles al online. De crux is natuurlijk dat we met deze redenering de toekomst die we alleen maar denken te voorspellen ook helpen te veroorzaken. Ongeveer zoals Lenin de revolutie die hij voorspelde zelf in gang zette. Het is wat door psychologen een selffulfilling prophecy genoemd wordt.

Trends, technologisch of niet, zijn namelijk niet autonoom. Trends sturen zichzelf niet, ze worden door ons gestuurd. Trends zijn het gevolg van de keuzes die we collectief maken. Trends geven een indicatie van gemiddelde veranderingen in menselijk gedrag weer, meer niet. Het is pas als wij ze als onvermijdelijke ontwikkelingen gaan zien dat ze dat ook worden. iPads zijn alleen maar de toekomst omdat wij ze in ons onderwijs in proberen te passen. CD’s zijn niet meer te koop omdat we gaan streamen. Lenin startte de revolutie misschien  omdat hij er toch aan zat te komen, maar kwam er toch vooral omdat Lenin hem startte. We zijn, kortom, vaak precies zo afhankelijk van ontwikkelingen en trends als dat we zelf willen.

Of het nu een manke rechtvaardiging is of niet, ook vandaag de dag doen we nog erg veel dingen “in opdracht van de tijd”. Daarmee maken we onszelf afhankelijk van onze eigen voorspellingen (of waanbeelden) over de toekomst. Als we een rechtvaardiging zoeken om aan iets nieuws te beginnen is de vraag dus niet of ‘het er aan zit te komen’. De vraag is of we het willen. Als dat zo is moeten we zeker mee in de ontwikkeling en als dat niet zo is zeker niet. Niemand kan het tij in zijn eentje keren, maar samen kunnen we dat wel en hoe minder serieus we voorspellingen over de toekomst nemen hoe sterker we staan.

En ja, Lenin wilde revolutie. Hij dacht niet alleen dat de revolutie onvermijdelijk was, hij dacht ook dat er een heilstaat op zou volgen. Wat dat betreft haalde de tijd hem in.

Meer lezen?

Dit is mijn eerste blogje over het kennen van de toekomst. Ik wel schreef al eerder over determinisme in EPR. In waarheidsinjecties schreef ik al over, en brak een lans voor idealisme. In waardendragers over menselijke gevoeligheid voor autoriteiten.