Bubbel

Als je een lijstje zou maken met de meest invloedrijke boektitels van de jaren 10 zou “The Filter Bubble” van Eli Pariser (2011) er vrijwel zeker op staan. Althans… Als je afgaat op hoe vaak het woord “bubbel” gebruikt wordt in het alledaagse taalgebruik. Meestal in een waarschuwende zin en licht bezorgd: “Belanden gebruikers dan niet in een bubbel?”; of: “Bubbels zorgen voor polarisatie in de samenleving“; maar ik heb het ook al in een positieve zin gehoord: “Ik heb een fijne bubbel”. Door Pariser zijn we ons er van bewust geworden dat we dagelijks maar een heel klein stukje van het internet bekijken en dat dat – nou ja – een dingetje is, ofzo.

Laat ik er maar gewoon meteen voor uitkomen. Ik denk dat bubbels meer aandacht krijgen dan ze verdienen en dat we het beter over andere aspecten van de inrichting van onze informatiesamenleving zouden kunnen hebben. Maar, voordat ik die conclusie kan trekken, zal ik toch nog even moeten spitten in de ideeën van Pariser zelf.

Een historisch betoog

“The Filter Bubble” opent met het nieuws van Google, in 2009, dat ze de zoekresultaten gaan personaliseren. Dat betekent dat niet iedereen die dezelfde trefwoorden intoetst op Google dezelfde resultaten krijgt. Jij en ik, individuele gebruikers, worden daarmee beter bediend, althans: we krijgen meer van wat we willen lezen. De samenleving is er minder bij gebaat want als burgers kunnen we beter met elkaar in gesprek als we over dezelfde informatie beschikken.

Het is niet toevallig dat Pariser met een historische gebeurtenis begint, want zijn kritiek is deels historisch van aard. Vroeger – toen internet nog een internetje was – was het een anarchistische vrijplaats van informatie die onze wereld groter maakte. We gingen online en kwamen in contact met andersdenkenden en met een overvloed aan vrij toegankelijke informatie, we voelden ons verrijkt en geïnformeerd. Het internet was een verbindende factor in ons leven.

Maar nu zijn er de grote technologie bedrijven die bakken met geld verdienen door ons informatie toe te spelen die zo goed mogelijk op onze persoonlijke voorkeuren is toegesneden. Daardoor is het web niet meer de wonderbaarlijke gemeenschappelijke informatiewereld die we samen gebouwd hebben, maar een cynische informatiemachine die ons allemaal informatieve snoepjes toewerpt om ons zoet te houden. Op je wenken bediend worden: daar wordt je niet socialer van. Het web dat ons ooit samenbracht, speelt ons nu uit elkaar.

Dat is stevige kritiek, maar het getuigt ook van een nostalgie die je wel meer bij internetcritici ziet. Je kent ze wel: de alles wordt minder types. Erg veel hout snijdt dat vaak niet. Misschien is het internet niet meer wat het geweest is, maar misschien zijn we zelf wel niet meer wie we waren – of kleuren we het verleden mooier in dan het was. Hoe dan ook: we moeten het internet van nu langs de lat van nu leggen. Als het internet voor de jeugd van tegenwoordig ook een vrijplaats is, is er niets aan de hand.

Het probleem dat Pariser aankaart is dat het internet in toenemende mate gepersonaliseerd wordt en daarom ons denken in toenemende mate stuurt en dat het net steeds minder een gedeelde informatieruimte biedt. Laten we die twee argumenten eens bij de hoorns pakken.

Algoritmische hersenspoeling

Is het gebruik van adviesalgoritmen slecht voor ons brein? Uit de psychologie is bekend dat mensen geneigd zijn bevestiging te zoeken voor hun ideeën.  In plaats van alle informatie die er is eerlijk te wegen en een besluit te nemen, besteden we meer aandacht aan informatie die onze ideeën bevestigen en we nemen die bevestigende informatie serieuzer. In andere woorden we houden onszelf graag voor de gek.

Als algoritmen eerst van ons leren wat we willen lezen en ons vervolgens meer van dat soort informatie voorschotelen dan wordt die neiging nog versterkt. We lezen steeds dingen waar we het mee eens zijn, en we gaan denken dat iedereen er zo over denkt, want waarom zouden we anders zoveel artikelen lezen waar onze mening precies in uitgespeld staat? Nou ja. Door de algoritmes dus. Het is dit zelfversterkende effect waar de filterbubbel zijn naam aan ontleent. Je eigen mening wordt opgeblazen en zo bouw je een beschermlaag op tegen andere meningen.

Dit kan een ware hersenspoeling veroorzaken. Want hoe vormen we onze meningen? Door de informatie die we krijgen. Eerst beschermden we onze meningen door alleen dingen te lezen waar we het mee eens waren. Vervolgens gaan de algoritmen ons daar mee helpen door ons meer van wat we al dachten voor te schotelen. Vervolgens denken we dat iedereen er net zo over denkt als wij waardoor we sterker in onze mening gaan staan, minder diverse keuzes maken in ons media dieet en die keuzes worden dan weer versterkt door de algoritmen. We zijn in een echoput beland, een filterbubbel of een fabeltjesfuik en we komen daar nooit meer uit. –snik-

Totdat we de buurvrouw spreken.

Die buurvrouw zit in een andere bubbel, blijkt heel anders over dingen te denken en prikt onze bubbel genadeloos door. En het hoeft niet de buurvrouw te zijn, die bubbel kan ook doorgeprikt worden door informatie die we door andere algoritmen toegespeeld krijgen of door de main-stream-media. Als je maar met grote regelmaat met andere ideeën en informatie geconfronteerd wordt maken bubbels niet zoveel kans. En die ontmoetingen worden ook georganiseerd door dat internet en haar algoritmen.

Het is helemaal geen nieuw fenomeen dat mensen informatie zoeken die hen sterkt in ideeën die ze al hebben. Ze kiezen een bepaalde omroep, gaan naar een bepaalde kerk, steunen een politieke beweging, bezoeken bepaalde voorstellingen. Vroeger werden we geboren in een bubbel, die van het dorp of de politieke voorkeur van je ouders. De bubbels van nu zijn misschien meer gebaseerd op onze interesses en minder op basis van onze woonplaats, maar we blijven allemaal op zoek naar geestverwanten. De vraag is daarom ook niet óf we in bubbels duiken, de vraag is hoe vaak we er weer uitgehaald worden. Hoe vaak komen we andersdenkenden tegen die ons op nieuwe gedachten kunnen brengen.

Er zijn op het internet twee krachten die elkaar in balans houden. Het ontstaan van bubbels door algoritmen en het doorprikken van bubbels doordat we meer in contact komen met andersdenkenden. De vrees van Pariser dat het bubbeleffect het ontmoetingseffect zou gaan overheersen is vooralsnog niet uitgekomen. Uit onderzoek blijkt uit dat mensen diverse bronnen blijven gebruiken, dat mensen die Spotify gebruiken hun muzieksmaak verbreden en dat mensen goed weten hoe er in andere bubbels over dingen gedacht wordt.

Ironisch gezien verklaard dat effect misschien juist de populariteit van het begrip bubbel. Misschien zijn we zoveel beter genetwerkt, dat we veel meer dan vroeger doorhebben dat anderen anders over dingen denken. Dat is misschien niet zo erg.

Een gedeelde informatieruimte

Maar hebben we dan niet een chronisch gebrek aan een gedeelde informatieruimte? Dit is Pariser’s tweede punt. Als samenleving is het belangrijk om een evenwichtig beeld te krijgen ervan wat er speelt, wat de belangrijke gebeurtenissen zijn, hoe er zoal gedacht wordt over allerlei onderwerpen, welke problemen bestaan en welke oplossingen daarvoor worden voorgesteld. Op basis van dit beeld gaan we met elkaar in gesprek.

We hebben de taak om ons daar over te informeren aan een beroepsgroep toevertrouwd: journalisten. Net als veel andere sectoren heeft de journalistiek ongemeen harde klappen gehad met de opkomst van het internet. Enerzijds vrat het internet aan het belangrijkste verdienmodel van de sector: advertenties. Anderzijds zorgde het voor een overvloed aan informatie die concurrerend was voor journalistieke producties.

Het is daarom fair om te zeggen dat onze gedeelde informatieruimte onoverzichtelijker is geworden – en dat ze versnippert is geraakt. Mensen baseren zich op meer verschillende bronnen dan vroeger, het onderscheid tussen opinie en feiten is vervaagt en de kwaliteit van informatie is niet meer vanzelf geborgd.

Is dat ook schadelijk? Mwa. Hoewel het al een stevigere stellingname is kan ik er nog nét in meegaan dat je kan zeggen dat ons publieke debat er onrustiger van geworden is, hitseriger misschien. Maar het gaat nòg verder om te zeggen dat dat onze democratie schaadt en ik zie eigenlijk niet in wat er ondemocratisch zou zijn aan een verhit maatschappelijk debat.

Maar voor dit blogje is nog een andere observatie van belang: geen van deze effecten hebben ook maar iets te maken met personalisatie en algoritmen. De versnippering van het publieke debat hangt samen met het aanbod van informatie. Het komt door de verschraling van professioneel geproduceerde informatie en de opkomst van twijfelachtige informatiebronnen; die soms wel journalistiek lijken, maar het niet zijn. Dat het internet ons in contact brengt met al die bronnen is precies het soort verruiming van onze leefwereld waar het vroege internet voor geprezen werd. Er is misschien veel te veel zooi op het net, maar als we ons daarvan af willen schermen hebben we sterkere filterbubbles nodig, geen zwakkere.

Pariser stelt daar tegenover dat dat de logica achter personalisatie van nieuwsstromen, gericht op het individu de selecterende rol van journalisten uitholt. Omdat we algoritmen gebruiken als gids op het eindeloze internet bepalen die algoritmen ook welke informatie we online bekijken. Maar in tegenstelling tot journalisten zijn die algoritmen er niet op uit om ons een gebalanceerd overzicht te bieden van alles in de wereld. Ze richten zich op wat wij willen lezen, niet op welke informatie belangrijk is voor onze samenleving.  

Ook dit argument klinkt plausibel, maar opnieuw is het de vraag Pariser de algoritmen niet enorm overschat. Hoe berekenen algoritmen wat voor persoonlijk relevant is voor jou? Een belangrijk ingrediënt in de prioritering van tijdlijnen zijn sociale filters. Algoritmen kijken naar het lees en deelgedrag van onze sociale omgeving om te beslissen wat wij belangrijk vinden. In die sociale omgeving gebruiken veel mensen veel verschillende nieuwsmedia. Ze delen wat ze daarin belangrijk vinden en dit bepaalt weer wat anderen zien. Die collectieve selectie van wat belangrijk is geeft daarmee niet een heel ander beeld van wat er speelt dan de selectie die een krant zou maken én deze wordt nog altijd gevoed door de selecties van de media. Journalistische curatie is dus iets meer naar de achtergrond gedrongen, maar ze is niet weg.

De filterbubbel voorbij

Het sterke van Pariser’s betoog is dat hij ons bewust maakt van veranderingen in het krachtenveld dat rondom nieuwsselectie ontstaat en de invloed daarvan op onze democratie. Het zwakke van het betoog is dat “de algoritmen” de zwarte piet krijgen toegespeeld zonder al te veel bewijs dat ze ook de belangrijkste veroorzaker zijn van de problemen of zelfs maar een eenduidige beschrijving van wat de problemen zijn.

Uiteindelijk is de filterbubbel dus zelf een fabeltje. Het is een verhaaltje over wat er zou kunnen gebeuren als het allemaal helemaal misgaat, bedoeld als waarschuwing. In 2011, toen personalisatie op het web nog om de kinderschoenen stond kon Pariser ook nog niet veel anders, maar inmiddels zijn we 10 jaar verder een wordt het tijd die invloed van algoritmen simpelweg eens  door te meten en nuchter vast te stellen wat ze voor en wat ze tegen ons doen. Die cijfers gaan een heel genuanceerd beeld geven.

Goed, het is 2021 en het zijn politiek roerige tijden. Veel mensen zien de bestorming van het Capitool door complotdenkers als het ultieme bewijs dat het internet wel een schadelijke rol zal spelen. Hoe kunnen mensen anders zulke rare dingen geloven?

Maar de werkelijkheid is dat de wereld altijd al vol was met mensen met vreemde ideeën. De Capitool bestorming was niet de eerste staatsgreep en gaat niet de laatste zijn. Het ontstaan van sektes en bizarre theorieën is de regel in de menselijke geschiedenis, niet de uitzondering. Als we iets verder dan 20 jaar terug kijken zien we dat de polarisatie waar we ons nu aan storen van alle tijden is en van elke inrichting van het medialandschap.

Vooruit. Andersdenkenden vinden elkaar tegenwoordig makkelijker. Maar totdat alt-right dat uit ging buiten vonden we dat collectief de grootste zegening van het internet. Het is ook plausibel dat we door het internet en haar algoritmen meer in contact komen met die vreemde ideeën. Ironisch genoeg vinden we dat geweldig als die ideeën passen bij onze eigen interesses en vreselijk als het om verwerpelijke of domme ideeën van anderen gaat. We blijven in onze bevestigingsvalkuil hangen: onze eigen ideeën zijn een gevolg van een goede opleiding, weloverwogen informatie verzameling en puik denkwerk; anderen zitten in een filterbubbel.

Natuurlijk kunnen we ons met Pariser zorgen maken over onze gedeelde werkelijkheid, maar in plaats personalisatie de schuld te geven is het misschien beter om iets te doen aan de bouwstenen van die gedeelde werkelijkheid.  Goede, levensvatbare, Journalistiek – al dan niet gesubsidieerd; inperken van de macht van de meest dominante platformen, vooral waar die een bedreiging vormen voor de verdienmodellen van de poortwachters van onze samenleving; het aanpakken van schimmige verdienmodellen en datahandel; investeren in wetenschap en onafhankelijke onderzoeksinstituten; zorgen voor een betrouwbare en transparante overheid;  het aanpakken en weerspreken van propaganda en stemmingmakerij; en natuurlijk in gesprek gaan met anderen ook als daar je eigen bubbel mee op het spel staat.

Met het fabeltje van de filterbubbel, maken we het publieke discours het probleem van technologiebedrijven en vergeten we te kijken naar wat we zelf kunnen doen om de kwaliteit van ons publieke gesprek te verhogen. Goed,  sinds 2009 is personalisatie een vast onderdeel van onze informatieruimte, maar laten we niet doen alsof we in het lijstje hierboven geen steken hebben laten vallen.

Meer lezen?

In media beweerde ik dat je eigenlijk niets kan zeggen over de invloed van media op de samenleving. In ziekte bespreek ik waarom het ontwijken van andere ideeën een slecht idee is.

Het spotify onderzoek waar ik naar verwijs wordt in dit Universiteit van Nederland praatje toegelicht.

Media

Ze krijgen werkelijk overal de schuld van: de media. Dat is niet nieuw hoor. De Grieken dachten dat het schrift het einde van de samenleving zou inluiden; ik hoorde dat televisie door God verboden is; van internet wordt je dom en natuurlijk veroorzaken sociale media en algoritmes  de huidige polarisatie in de samenleving. Goed: achteraf blijkt het altijd wel mee te vallen, maar daar gaat het me vandaag ook niet om. Wat mij bezig houd is de vraag of er in de eerste plaats wel iets over te zeggen is.

Het probleem met de media is dat het woord meervoud is. We hebben het niet over één ding, maar over een heleboel tegelijk. Ze zijn echt overal, de media. We lezen, we kijken tv, we gaan naar theater, we gamen, we appen, we navigeren, we surfen online, we lopen op straat. Zowat iedereen lijkt zich ook me media bezig te houden: nieuwsmedia, entertainment bedrijven, communicatie professionals, platformen, internet cowboys, docenten en kunstenaars.

Dat maakt media alomtegenwoordig. De denkende mens is meteen ook de communicerende mens. Onze breinen ademen communicatie. Geen wonder dat we zoveel technologieën en beroepen ontworpen hebben om dat beter, efficiënter, fijner, sneller of met meer beleving te doen. Die veelheid maakt het ook moeilijk er iets nuttigs over te zeggen. De media de schuld geven van polarisering is als de lucht de schuld geven van de griep. Ergens klopt het wel, maar er wringt ook iets.

Als je iets wil zeggen over het effect van de media op onze cultuur dan zijn er eigenlijk twee strategieën denkbaar. Je kunt (1) alle media over één kam scheren en er iets algemeens over proberen te zeggen of je kunt (2) er een genre uitpakken zoals radio en televisie en proberen te zeggen hoe die specifieke media het spel veranderen.

De eerste strategie wordt gebezigd door media ecologen. Een mooi woord is dat:  media ecologie. Net zoals je in de biologie kunt kijken naar de relatie van levende wezens met hun biologische omgeving, kun je als mediawetenschapper zoeken naar de relatie tussen de mens en de rijke omgeving van al die verschillende media. De meeste media-ecologen nemen daarbij als uitgangspunt hoe het gebruik van media het bewustzijn beïnvloedt.

De absolute grondlegger van dit vakgebied was de Canadese wetenschapper Marshall McLuhan. Hij stelde dat de media het best gezien konden worden als een extensie van onze zintuigen. En dat onze cultuur verandert bij de introductie van een nieuw medium, omdat onze media bepaalde zintuigen bevoordelen. Het schrift zou zou een transitie van een orale een naar visuele cultuur teweeg gebracht hebben en daarmee rationaliteit ingebracht hebben. De introductie van radio en televisie zou die weer deels teniet gedaan hebben.

McLuhan vond dat in zij tijd veel te veel aandacht was voor de boodschappen die via de media verspreid werden. Volgens hem was het niet de inhoud van de boodschappen die onze cultuur beïnvloede maar de vorm ervan. Vandaar zijn beroemde uitspraak: the medium is the message.

De zintuigentheorie van McLuhan komt wat simplistisch over en ook modernere denkers die ik in deze lijn plaats grijpen naar zo’n eenvoudig verklaringsmechanisme. Thomas de Zengotita, media theoreticus, probeert het effect van media te verklaren vanuit de gedachte dat we overspoeld worden door representaties van de werkelijkheid. Susan Blackmore, plaats het idee van imitatie centraal in haar theorie over de relatie tussen het brein en de media.

Helemaal onverwacht is die vereenvoudiging niet. Als je iets wil verklaren dat zo divers, veelomvattend en alomtegenwoordig is als de media dan moet je het wel in iets eenvoudigs proberen te vangen. Het heet niet voor niets verklaren. Het moet te begrijpen zijn. Je hebt een helder uitgangspunt nodig dat je als de kern van je verhaal kan gebruiken.

Maar, daar zit dan ook meteen de angel. Zo’n vereenvoudiging kan nooit recht doen aan de ingewikkelde, meervoudige effecten die de media hebben. Natuurlijk veranderen de media hoe we met elkaar communiceren: daar zijn ze voor gemaakt, maar elk medium doet dat op zijn eigen manier en heeft zijn eigen reikwijdte. Als je die allemaal over één kam scheert doe je weinig recht aan die diversiteit en het subtiele samenspel van verschillende media.

De andere benadering is te kijken naar een specifiek medium en dan te onderzoeken hoe die het grote intermenselijke communicatiespel veranderen. In de afgelopen jaren waren het internet, online gaming en sociale media natuurlijk onderwerp van dit soort analyses. Wat je hier vaak ziet is dat één opvallende ontwikkeling in de cultuur verklaard wordt vanuit een eigenschap van een nieuw en populair medium. En vooral de jongeren, vaak de eersten die nieuwe media gebruiken en nog erg beïnvloedbaar, moeten het daarbij ontgelden.

Het bekendste voorbeeld is misschien wel de ‘filter bubble’, een idee dat zo aantrekkelijk is dat het in ons dagelijkse taalgebruik is doorgedrongen. Bij de filter bubble zijn computer algoritmen de boosdoener. De gedachte is dat we veel te weten komen via Google search en via de tijdlijn van sociale media. Die worden gefilterd om ons met zo relevant mogelijke informatie te voorzien. Wat ik zie bij een Google zoektocht is gebaseerd om mijn persoonlijke zoekhistorie en is dus anders dan wat jij ziet. Wat op mijn tijdlijn van Twitter en Facebook komt is gebaseerd op mijn klikgedrag en dus anders dan wat anderen zouden zien.

Door deze sturing vanuit de media raken we steeds meer in een isolement van ideeën. Als media persoonlijk worden in plaats van collectief komen we niet meer in aanraking met andersdenkenden of met ideeën die ons onwelgevallig zijn. We komen in een zeepbel van gelijkgestemden terecht. En de gedachte is dat als iedereen in zijn eigen ideeënzeepbel leeft, dat de samenleving als geheel dan polariseert.

Zou Eli Pariser, de bedenker van de filter bubble, stil gestaan hebben bij de gedachte dat mensen nog andere bronnen van informatie gebruiken dan Google en Facebook? Dat ze elkaar spreken, naar televisie kijken, naar theater gaan? Media is meervoud, mensen gebruiken meerdere media naast elkaar. Stel je voor dat er op je Facebook tijdlijn alleen maar kattenfilmpjes voorkomen, zit ik dan meteen in een kattenzeepbel?

Voor Nederlanders met een flintertje historisch besef is die filter bubble gedachte ook wat potsierlijk. Waren de media hier niet gekoppeld aan ‘zuilen’? Katholieken woonden in dezelfde steden, gingen naar dezelfde kerken, keken dezelfde TV programma’s, hadden eigen sportverenigingen en blaadjes en stemden dezelfde politieke partijen. Dat was pas een zeepbel! Om in de moderne wereld een zeepbel te veroorzaken die aan een ‘zuil’ kan tippen zou je de vrijheid van media gebruik behoorlijk moeten inperken en algoritmes nog heel veel meer macht moeten geven.

Als je inzoomt op een bepaald medium en vandaar uit iets over media en de samenleving in het algemeen probeert te zeggen heb je snel last van kokervisie. Om helderheid te krijgen over de effecten van een nieuw medium proberen we in kaart te brengen wat we zien gebeuren rondom een bepaald medium. Instagram voedt faalangst; Twitter hyperigheid; Whats App faciliteert rellen. Dat werk. Maar, we kijken dan door een vergrootglas. Het is maar de vraag of wat we daar iets zien er op de schaal van de samenleving er nog toe doet. Als je zoontje een beetje opgefokt raakt van een oorlogspel, is er nog geen agressieve generatie gekweekt. Heel veel foto’s op Instagram zijn te mooi om waar te zijn, maar daarmee is er nog geen collectieve faalangstcultuur ontstaan.

Door onze focus op één medium vergeten we even dat onze kinderen ook blootstaan aan andere invloeden. Dat ze andere media gebruiken, dat ze opgevoed worden, naar school gaan.

Als die effecten al zo groot zijn als dat ze door het vergrootglas lijken, dan nog heeft het opschalen ervan naar maatschappelijke proporties weinig zin. In de zee van invloeden waar we als mens aan bloot staan verdunnen de effecten van één medium razendsnel. Om de vergelijking met ecologie nog maar eens te maken: als er een nieuw plantje in het bos komt krijgen sommige planten minder ruimte en veranderd het ecosysteem, maar de beestjes hebben daar doorgaans weinig last van: voor hen wordt het menu juist gevarieerder.

De alomtegenwoordigheid en veelvormigheid van de media zorgen dus voor een probleem met focus. Als we ze willen begrijpen door uit te zoomen scheren we ze over één kam – en doen we te weinig recht aan hun diversiteit; Maar teveel inzoomen betekent weer kokervisie – en daarmee doen we ook geen recht aan hun diversIteit. Hoe we de lens ook afstellen, steeds ontglippen ons de meest belangrijke aspecten.

Natuurlijk, de impuls is om te zeggen: je moet die twee ook combineren. De visie op het totale ecosysteem en de aandacht voor specifieke plantjes daarin. Dat doen biologen ook.

Ik zou het daarmee eens zijn als die twee analyses elkaar inderdaad raken. Als een totaaltheorie van de media door een analyse van Twitter aan het wankelen gebracht zou kunnen worden. Of als inzichten over Twitter opgetild konden worden tot een totaalvisie op de media zonder de botte generalisaties zoals ik die net besprak. Maar zo’n dialoog tussen het grote plaatje en gericht onderzoek kom ik eigenlijk niet vaak tegen.

En misschien is er nog iets mis. Namelijk de premisse dat de media – als in de karakteristieken van elke medium – er veel toe doen. Dat we veel in contact staan met verschillende media betekent niet dat het er enorm veel toe doe hoe die media informatie over brengen of welk soort informatie er het makkelijkst door verspreid word. Als onze jeugd veel meer keuzestress ervaart dan vroeger, moeten ons we ons misschien afvragen of we ze zelf niet teveel keuzevrijheid geven in plaats van Facebook de schuld te geven. Als de samenleving polariseert moeten ons misschien afvragen wie verdeel en heers probeert te spelen en hun tactieken en retorieken in kaart proberen te brengen, in plaats van ons blind te staren op de algoritmen van Google.

We maken onze cultuur zelf, of tenminste samen. Misschien moeten we cultuurverandering in de eerste en belangrijkste plaats bij onszelf zoeken. Het zou kunnen dat we Marshal McLuhan’s “The Medium Is the Message” nog altijd veel te serieus nemen. In plaats van ons blind te staren op de verborgen effecten van verschillende soorten media, moeten we onze aandacht misschien richten op wat er in het volle zicht is. Wie het zijn die media gebruiken en welke dingen ze er mee rond roepen. Voor de hoe de Grieken zich organiseerden was de overgang van een orale naar een schriftelijke communicatievorm misschien het meest wezenlijk, maar in deze tijd van mediaovervloed moeten we ons eerder weer op de inhoud richten: “the message is the message”.

Meer lezen?

Ik schreef elders eerder recensies van Marshal McLuhan’s “Understanding Media” en Tomas de Zengotita’s “mediated”. Susan Blackmore’s “The Meme Machine”, nam ik op deze blog onder de loep.

De kenniskritiek in dit blogje kwam ook in Samenloop en Verkoudheid als eens naar voren. Ik schreef ook al eerder over de vermeende invloed van het internet op de jeugd en over de haken van het gebruik van algoritmen in Glazen Bol en A Priori.

A Priori

Ik was laatst in een supermarkt en moest kiezen tussen grapefruits en sinaasappels. Zonder veel nadenken nam ik de grapefruits. Natuurlijk had ik even online kunnen gaan om uit te zoeken welke van de twee gezonder zijn. Of ik had na kunnen gaan hoeveel van beide opties ik het meest gegeten heb in de afgelopen tijd. Of ik had mijn vrouw kunnen appen met de vraag welke zij het lekkerst vind. In al die gevallen had ik meer complete informatie gehad en vermoedelijk een beter besluit genomen. Maar ik deed het niet. Genoeg is genoeg, ook als het om informatie gaat.

Zo gaat het natuurlijk steeds. We nemen verreweg de meeste beslissingen in ons leven met incomplete informatie en daar maken we ons meestal niet druk over. Toch zullen de meesten zeggen dat je beslissingen, als het enigszins kan, moet nemen op basis van de beste informatie die je kunt krijgen. Je moet er niet aan denken dat een dokter zich onvoldoende informeert voor hij een besluit om je te laten opereren of dat een rechter op basis van een half gelezen dossier een straf uitdeelt.

Toch was het juist een berichtje over de rechtspraak – ze willen er algoritmes inzetten om de strafmaat te helpen bepalen – dat voor mij de vraag de vraag opriep of je altijd wel alles moet willen meewegen. Het korte antwoord was nee. Vaak moet je dat niet willen, zeker in de rechtspraak niet.

Vergeef me dat ik om dat toe te lichten er even wat wiskunde bijhaal. Het gaat hier om de wet van Bayes. Thomas Bayes was een Engelse predikant uit de 18e eeuw die de basis legde voor een speciaal soort kansrekening. Hij vroeg zich af hoe je bewijs uit een reeks experimenten mee kon nemen in de kansrekening. Zijn ideeën zijn ook zonder wiskundige basis goed te begrijpen.

Hoe groot is de kans dat er bij jou thuis ingebroken wordt? Er zijn zo’n 45.000 inbraken per jaar in Nederland en zo’n 7,5 miljoen huizen. Dat maakt de kans dat er in een willekeurig huis in Nederland ingebroken wordt zo’n 0,6 procent. Niet erg veel.

Nu zijn er natuurlijk veel redenen te bedenken waarom inbrekers jouw huis sneller zullen uitkiezen. Misschien heb je een hoekhuis, slechte sloten of woon je in een slechte buurt. Als die eigenschappen kun je meewegen in de statistiek. Je kijkt hoeveel vaker er in hoekhuizen ingebroken word, hoeveel vaker in slechte buurten en hoeveel vaker in huizen met slechte sloten en je vermenigvuldigd dit met de algemene kans dat er ergens ingebroken wordt. Misschien kom je dan zelfs wel op 2 of 3 procent uit.

Bayes zou zeggen dat de kans van 0,6 procent dat er in je huis ingebroken wordt de kans vooraf is of de a priori kans. De kans nadat je alle relevante omstandigheden hebt meegewogen is de kans achteraf ofwel de a posteriori kans. Of om de inleiding er nog maar eens bij te halen: a priori zijn sinaasappels even goed als grapefruits, maar als ik meeweeg dat grapefruits iets gezonder zijn, ik ze weinig gegeten heb de laatste tijd en mijn vrouw een voorkeur heeft voor grapefruits winnen ze, a posteriori, de strijd om mijn voorkeur.

De wet van Bayes geeft ons krachtig wiskundig gereedschap om van ruwe inschattingen vooraf, meer verfijnde en precieze inschattingen ‘achteraf’ te maken, door kennis van omstandigheden in te brengen. En dat is precies wat die algoritmen waar de rechtspraak gebruik van wil maken doen.

Stel dat je voor de rechter komt vanwege een licht vergrijp zoals winkeldiefstal. Om je strafmaat te bepalen weegt de rechter allerlei omstandigheden. Misschien werd je er toe verleid doordat je foute vrienden hebt of misschien omdat in de schulden zit. Misschien denkt de rechter dat er een grote kans op recidive (herhaling) is omdat je het al eens gedaan hebt of misschien verwacht de rechter dat je nu je een keer gepakt bent het niet meer zal doen. De rechter past geen vaste straf toe op een vast vergrijp, maar wikt en weegt omstandigheden.

Dat laatste kan enorm verbeterd worden met de Bayesiaanse wiskunde die die algoritmen gebruiken. Er bestaat al een databank met alle gegevens van verdachten: zijn ze bijvoorbeeld man of vrouw, allochtoon of autochtoon, arm of rijk?; van heel veel rechtszaken uit het verleden is dit bekend. Vervolgens kun je met de wet van Bayes in de hand uitrekenen wat de invloed is van al die eigenschappen op recidive – en zo wiskundig bewijs gebruiken bij het bepalen van de strafmaat voor een allochtone, arme vrouw die iemand beroofd heeft.

Je kan dit natuurlijk zien als een verbetering. De rechter woog omstandigheden al mee bij het bepalen van de strafmaat maar nu is ze in staat dit op een preciezere manier te doen. Je zou het ook als een zorgelijke ontwikkeling kunnen opvatten. Het gebruik van algoritmes mechaniseert dat proces namelijk. En de rechter gaat zwaarder tillen aan die aspecten die je kan meten (zoals recidive) en minder aan onmeetbare aspecten (zoals sociale invloed).

Maar, ik hoop dat het voorbeeld ook meer fundamentele vragen oproept. Verdien je als vrouw een lichtere straf omdat andere vrouwen minder vaak opnieuw de fout ingegaan zijn? Of verdien je als allochtoon een zwaardere straf omdat andere allochtonen notoire recidivisten bleken? Als het goed is voelt dat idee niet helemaal goed. Ineens blijkt de weging van individuele omstandigheden af te hangen van allemaal groepslidmaatschappen. Dat gaat tegen het gelijkheidsbeginsel in. Het is klassenjustitie.

Als je als individu voor de rechter staat dan wil je je als individu beoordeeld worden. Maar, vreemd genoeg moet de rechter dan heel terughoudend zijn met het wegen van persoonlijke omstandigheden. Want hoewel de rechter niet letterlijk Bayesiaanse wiskunde gebruikt, is het onderliggende denkproces natuurlijk vergelijkbaar. Elke inschatting over een ‘omstandigheid’ is gebaseerd op groepslidmaatschap: andere gevallen waar die ‘omstandigheden’ ook speelden. De paradoxale conclusie is dus dat als je wil dat de rechter je als individu beoordeeld, dat deze je persoonlijke omstandigheden niet mee zou moeten wegen en de rechter juist op basis van onvolledige informatie een besluit kan nemen. Het gelijkheidsbeginsel vraagt eigenlijk om de a priori benadering: vaste straffen voor elk vergrijp.

Meer lezen?
In glazen bol besprak ik het gebruik van algoritmen bij de politie al kritisch. In groepsidentificaties en in eerlijk vergelijken lichte ik de relatie tussen groepslidmaatschappen en individuen al eens door. In IQ en waarheidsinjecties besprak ik al eens wat de impact kan zijn van een overdreven focus op metingen.