Wil

Het zou natuurlijk zo kunnen zijn dat ik dit blogje niet schrijf omdat me dat leuk leek en ik ertoe besloten heb, maar dat dat besluit op de een of andere manier voor me genomen is en dat mijn bewustzijn mij om een nog onbekende reden wijsmaakt dat ik dat besluit genomen heb. Of kortweg, dat het idee dat mensen bewuste besluiten nemen een illusie is. 

Dit lijkt een vreselijk omslachtige theorie, maar ze heeft fervente aanhangers, vooral onder neurowetenschappers. Wat bezielt hen toch? Waarom staat het het idee dat we bewuste besluiten kunnen nemen hen zo tegen? 

Het is vast een heel ingewikkelde kwestie, maar twee boosdoeners zijn overduidelijk. De eerste is René Descartes, de Franse filosoof die dacht dat ons denken het bewijs van ons bestaan is. De tweede is  Benjamin Libet die in de jaren 80 een experiment uitvoerde waar we nog steeds van in de war zijn.

Het verhaal van Descartes zal bekend zijn. Hij probeerde aan alles te twijfelen en kwam toen tot de conclusie dat men het lichaam wel, maar de geest niet kan betwijfelen. Dit leidde tot het dualisme. Voor Descartes waren lichaam en geest fundamenteel  verschillende dingen, met een andere substantie. Het lichaam was beperkt, stoffelijk en tijdelijk en de geest was vrij, onstoffelijk een eeuwig. Hoe lichaam en geest elkaar beïnvloedden wist Descartes niet, maar het idee dat de geest voortkomt uit het lichaam ging er bij hem zeker niet in. De geest was leidend, het lichaam hooguit een tijdelijk vehikel. Het dualisme is alweer uit, maar de vraag hoe de subjectieve beleving van het denken, het bewustzijn, samenhangt met de biologische basis ervan, het brein, is nog springlevend. 

In de jaren 80 voerde Benjamin Libet daarom een ingenieus psychologisch experiment uit dat die discussie behoorlijk op scherp zette. Libet vroeg proefpersonen om hun vingers vrijwillig te bewegen en om te rapporteren wanneer ze de aandrang voelden om die beweging uit te voeren, terwijl Libet hun hersenactiviteit mat. Het bleek dat de bijbehorende hersenactiviteit voor die beweging al ruim 200 milliseconde voordat mensen een aandrang voelden om hun vingers te bewegen in de hersenen te zien was. Mensen zetten de beweging al in voordat ze zich er bewust van zijn dat ze dat willen.

Dat is tegenintuïtief. Ons boerenverstand zegt: je moet eerst een besluit nemen voordat je er naar kan handelen. Dus moet je je eerst bewust worden dat je je hand wil bewegen en dan pas de beweging inzetten, niet andersom. Maar die omgekeerde volgorde is wel hetgeen Libet’s data lieten zien.

Zou het zo kunnen zijn dat het bewustzijn niet aan de knoppen van ons handelen zit, maar dat het zo’n beetje met de rest van de hersenen mee hobbelt – en dat het hooguit achteraf gevoel van controle voor ons fabriceert? Het bewustzijn is dan niet een stuur waarmee we richting kunnen geven aan het leven, maar een praatdoos die wat we toch al doen voor ons goedpraat. 

Het is deze naïeve interpretatie van het Libetexperiment die zo populair is onder neurowetenschappers. Dat heeft iets te maken met hun opvattingen over onderzoek. Neurowetenschappers proberen het brein te begrijpen vanuit de harde data die er over verzameld kan worden in EEG’s en fMRI scans. Ze zijn wars van getheoretiseer over het bewustzijn door filosofen, die net als Descartes destijds, met gedachtenexperimenten vast proberen te stellen wat het bewustzijn is. We hoeven alleen naar Descartes te kijken om te zien wat voor absurde theorieën daar uit komen.

Daarom kunnen we volgens hen het bewustzijn beter experimenteel bestuderen. Met moderne apparatuur kan je immers de werkelijkheid zelf laten spreken. Voor neurowetenschappers is psychologie is in essentie een natuurwetenschap en ze vinden dat deze ook zo bedreven moeten worden. Dat is zo mooi aan het Libet experiment: het laat met harde data zien dat het bewustzijn niet bestaat.

Het probleem is alleen dat het Libet dat helemaal niet laat zien. Het ironische van de naïeve interpretatie van het Libet-experiment is dat deze in essentie Cartesiaans is. De gedachte is dat er twee verschillende dingen zijn: (1) het bewustzijn en (2) het brein, dat je van elk van die dingen onafhankelijk kan meten wanneer ze actief worden en dat je oorzaak en gevolg kan vastellen door te kijken wie het eerst in beweging komt. Diegene die het laatste komt kan niet de veroorzaker kan zijn van wat de ander doet. 

Dat lijkt een sluitende redenering, maar er deugt iets niet. Want wat hadden we eigenlijk verwacht te zien? Dat mensen zich eerst bewust worden van een besluit en dat er daarna pas hersenactiviteit ontstaat? Waar komt dat bewuste besluit dan vandaan, als het niet uit de hersenen komt? Is het idee echt dat er geen hersenactiviteit nodig is voordat we een besluit nemen en dat ons grijze cellen daarna gaan rennen en vliegen omdat het besluit nu eenmaal moet worden uitgevoerd? 

Het ligt toch veel meer voor de hand dat we in het Libet-experiment verschillende aspecten meten van één proces waarin we een bewust besluit nemen en tot actie over gaan. We kijken niet naar twee dingen maar naar één ding: het nemen van een besluit tot actie. Een bewust besluit gaat natuurlijk gepaard met hersenactiviteit en die heeft tijd nodig om aan te zwellen. Als je dat op verschillende manieren meer is het niet  vreemd dat het ene meetinstrument eerder opmerkt dat er iets gaande is dan het andere instrument. De EEG van Libet was gevoeliger voor de hersenactiviteit die bij het besluit hoorde dan de subjectieve beleving van de proefpersonen en sloeg daarom eerder uit. 

Dat is een weinig opzienbarende uitkomst. Het is niet verbazend dat het nemen van een besluit tijd kost. Het is niet verbazingwekkend dat daar allerlei hersenprocessen bij betrokken zijn. Het is niet verbazingwekkend dat we ons van sommige van die processen bewust zijn en van andere niet. We moeten het brein, het bewustzijn en zeker de vrije wil niet los van elkaar zien.

Het is niet dat het bewustzijn besluiten neemt die het brein vervolgens uitvoert, het brein neemt besluiten en wij zijn ons daarvan bewust. Of misschien nog iets pro-actiever: het bewustzijn neemt deel aan onze besluitvorming. De rol van het bewustzijn is misschien bescheidener dan Descartes voor ogen had en wat we denken te denken heeft misschien minder invloed op ons handelen dan we zouden willen, maar het Libetexperiment laat op geen enkele manier zien dat het bewustzijn een illusie is of dat de vrije wil niet bestaat. 


Wat het experiment wel laat zien is dat je om goede metingen te kunnen doen en die goed te kunnen interpreteren, een goede theorie nodig hebt. Er is te weinig bekend over de werking van het brein om te kunnen weten wat Libet nu precies mat en daardoor kunnen we er ook geen conclusies aan verbinden. Ik heb me er niet genoeg in verdiept, maar dezelfde beperking zou wel eens kunnen gelden voor veel moderner hersenonderzoek waar het idee van het bewustzijn als illusie mee onderbouwt wordt. 

Misschien ergeren de neurowetenschappers zich aan theorieën zoals die van Descartes, maar onderzoekers die de data laten spreken, terwijl ze de theorie verwaarlozen, hebben ons uiteindelijk even weinig te vertellen als filosofen die denken dat twijfel afdoende is om de absolute waarheid te achterhalen. 

Meer lezen?
Ik schreef over het gedachtenexperiment van Descartes in Brein in een vat en over zelfbewustzijn in Poetsvissen, ik schreef ook al eens eerder over Gedachtenexperimenten in het algemeen en over de werking van het brein.

Dit blogje is natuurlijk een heel sterke vereenvoudiging van een complex debat. Een goede beschouwing van het Libet experiment vind je in dit artikel van Jan Verplaetse. Een niet onbelangrijk detail is dat Libet niet hersenactiviteit in het algemeen mat, maar een specifieke hersengolf die het ‘readiness potential’ wordt genoemd. In dit stuk wordt goed uitgelegd wat dat is en wat het naar moderne inzichten wel en niet zou kunnen zeggen over het debat over bewustzijn en vrije wil.

21 reactiesEen reactie plaatsen

De wetenschapsgeschiedenis van Rens Bod

In zijn boek “Een wereld vol patronen” doet Rens Bod een poging om een totaaloverzicht van de geschiedenis van menselijke kennis te geven. Alle kennis. Niet alleen die sinds de wetenschappelijke revolutie, maar ook van voor de uitvinding van de landbouw. Niet alleen westerse kennis – maar ook die in India, de Arabische wereld en China. Niet alleen de natuur-, maar ook de geesteswetenschappen. Ik weet niet zo snel hoe je een ambitieuzer project kan bedenken.

Ik begon aan “Een wereld vol patronen” omdat ik  de voorganger “De verborgen wetenschappen” prachtig vond. Dat boek verbreedde mijn kennis van de wetenschapsgeschiedenis enorm, omdat ik net zoals de meeste bèta’s vooral geschoold was in de westerse wis- en natuurkunde, sinds de Grieken. Ik had nooit van zoiets als filologie gehoord en het was boeiend om op deze manier ingewijd te worden in de problemen die schriftgeleerden moesten oplossen, de oplossingen die ze vonden en de impact die dat denken vervolgens had op de wetenschappen die ik beter kende.

Ik heb “Een wereld vol patronen” met plezier gelezen, maar het kon me minder bekoren dan “De verborgen wetenschappen”. Dat komt voor een belangrijk deel omdat ik dat boek al gelezen had en de nieuwe verbredingen me minder raakten. Ik zou graag meer weten over hoe kennis in de prehistorie zich ontwikkelde, maar omdat we het met grottekeningen en ingekerfde werktuigen moeten doen valt er per saldo niet zoveel over te zeggen. Het is een groot goed dat Bod de kennis van Arabische, Indiase, Chinese en oude Amerikaanse beschavingen een podium geeft, maar die brede blik zorgt ook dat de afzonderlijke verhalen nog weinig uit de verf komen.

Normatief werkt de brede blik uit het boek prima: dit zijn allemaal dingen die een wetenschapshistoricus in beschouwing zou moeten nemen. Maar de uitwerking al die onderdelen pakt nogal schetsmatig uit, hoe grondig het onderliggende onderzoek ook is. Daar komt nog bij dat Bod, de medische wetenschap uitgezonderd, de engineering disciplines niet meeneemt in zijn overzicht. Dat is een vreemde omissie. Als gebouwen, werktuigen, scheepvaart, aquaducten en stoommachines geen weerslag zijn van systematische kennis, wat dan wel?  Bod slaagt er in de ambitie van een totaalgeschiedenis van menselijke kennis stevig op de kaart te zetten, maar het resultaat  blijft sterk gekleurd door zijn eigen wetenschappelijke achtergrond.

Uiteraard probeert Bod ook duiding te geven aan de ontwikkeling van de menselijke kennis. Om kort te gaan werd de mens zich eerst bewust van patronen: regelmatigheden waarmee losse feiten in verband worden gebracht, zoals de maanstanden, de tonen in gespannen snaren, of de overeenkomsten tussen verschillende bronnen. Later, vanaf de vroege oudheid, zijn mensen daar onderliggende principes bij gaan zoeken: vuistregels, wiskundige begrippen of andersoortige theorieën. De volgende stap was het vinden van herleidingen: regels waarmee principes en patronen met elkaar in verband gebracht kunnen worden, zoals de logica. Daarna werd de focus om het aantal principes terug te brengen en gingen herleidingen een belangrijkere rol spelen. Dit ontaarde in de wetenschappelijke revolutie in de empirische cyclus: in Bod’s visie een  voorbeeld van een patroon in herleidingen.

Om eerlijk te zijn vind ik deze theorie over de ontwikkeling van kennis zonde van het boek. Bod schrijft het volgende over de Indische wetenschapper Panini, die beweerde dat alle taal recursief was:

De Grieken lijken Panini’s werk niet te hebben gekend […] ze zouden Panini zeker hebben gewaardeerd met hun hang naar het ene in het vele. (P98)

Ik vermoed dat de Grieken Bod’s reductie van al het systematische denkwerk uit de gehele mensheid naar een dans van twee soorten begrippen -patronen en principes- om dezelfde reden hadden kunnen waarderen. Hoe krachtig is het als je al die diversiteit, al die denkwijzen, als die subtiele manieren waarop de verschillende wetenschappen elkaar gevoed en beïnvloed hebben terug kan brengen tot een of twee makkelijk te begrijpen begrippen?

Niet zo krachtig als je het mij vraagt. Veel mensen zullen wel het zo zien, maar ik blijk niet erg “Grieks”. Want die twee begrippen zijn maar begrippen. Ik voel met niet verlicht door het idee dat je de grammatica en de afwisseling van dag en nacht allebei als ‘patronen’ kan zien die je vanuit ‘principes’ kan begrijpen. Dat is zó hoog over dat het afleid van die dingen die echt boeien. Het kan toch niet zo zijn dat dit de beste manier is om een zorgvuldige vergelijking  tussen bijvoorbeeld de ontwikkeling van het recht en de ontwikkeling van de natuurwetenschappen in de middeleeuwen te beschrijven? Dat ze zich beiden met principes en patronen bezig hielden is misschien wel waar, maar ook nogal een lege constatering. En dat terwijl Bod juist zo zorgvuldig werk verricht heeft om al die verschillende kennis in kaart te brengen.

De theorie lijkt een poging te zijn om te laten zien dat het menselijke denken een ontwikkeling heeft doorgemaakt en mogelijk dat die is verwetenschappelijkt, en daarmee gaat hij verder dan wetenschapsfilosofen als Popper en Laudan. Die beweren wel dat ze mechanismen voor de groei van kennis kunnen identificeren, maar passen die vervolgens eigenlijk niet toe op de geschiedenis zelf.  Laat staan dat ze er een ontwikkeling in ontwaren. Toch vind ik Bod ook op dit aspect overtuigingskracht missen: er komen veel uitzonderingen voor in het boek en Bod laat het bij beschrijvingen. Een verklaring waarom het denken door de tijd veranderd zou zijn ontbreekt. Interacties tussen de kennis en de context waarin die tot stand komt blijven onderbelicht. Daardoor blijft ook dit ontwikkelingsaspect teveel in het luchtledige hangen.

Kritische noten genoeg dus, maar dit zijn nauwelijks redenen om het boek in de boekhandel te laten liggen. De kracht van het boek zit hem niet in de duiding, het is juist de bloemlezing, de diversiteit die Bod in deze eenvoud probeert te vangen, die het de moeite waard maken. Ik had het liefst gezien dat Bod die diversiteit gewoon lekker vrij had gelaten, maar zo knellend is het patroon-principe-keurslijf nu ook weer niet. Je kunt er gewoon doorheen lezen en genieten van het denken van al die denkers waar je nog nooit van gehoord had die er achter tevoorschijn komt. 

Meer lezen?

Ik schreef over de groei van kennis in Het probleemoplossend vermogen van Larry Laudan, en Groeit kennis? In Anachronismen ging ik in op de moeilijkheid van het achteraf duiden van oude kennisstandaarden. Ik schreef ook al eens over het nut van Geschiedenis in het algemeen.

Er zijn weinig wetenschapshistorici die veel aandacht hebben voor de wisselwerking van de ontwikkeling van kennis en haar toepassing, maar uitzonderingen vormen wel Bruno Latour en ook The Information van James Gleick.

Zowel “De vergeten wetenschappen” en “Een wereld vol patronen” zijn het lezen waard.

2 reactiesEen reactie plaatsen

Anachronismen

Imre Lakatos, de wetenschapsfilosoof, schijnt gezegd te hebben dat de wetenschapsfilosofie leeg is zonder de wetenschapsgeschiedenis en dat de wetenschapsgeschiedenis blind is zonder de wetenschapsfilosofie. 

Prachtig. Het zou inderdaad vreemd zijn als filosofen, die theorieën over de wetenschap opstellen, zich niet zouden interesseren voor hoe die wetenschap zich daadwerkelijk voltrokken heeft. Nou ja. Zulke filosofen bestaan wel natuurlijk: Lakatos begon er niet voor niets over. Het is ook lastig om geschiedenis te schrijven als je dat niet vanuit een theoretisch kader doet. Er is veel wetenschapsgeschiedenis. Als je niet specifiek naar iets op zoek bent word het lastig het allemaal te overzien. Hoewel ik me dan weer wel afvraag of de wetenschapshistorici uit de tijd van Lakatos blij waren met de avances van de filosoof. Heel gelukkig is dat huwelijk tussen de filosofie en de geschiedenis toch nooit echt geweest.

Daar zijn goede redenen voor, maar de spelbreker die ik het boeiendst vind is het probleem van de anachronistische kennisstandaarden.

Een anachronisme is iets dat niet in de tijd past. In de middeleeuwen keken mensen niet op hun horloge. In de jaren 90 waren er geen smartphones. In films kan het gebruik van anachronismen heel humoristisch werken. In de films van Monty Python verspreiden historische figuren zoals Koning Arthur en Jezus steeds opvallend moderne denkbeelden. 


Wetenschapsfilosofen die iets willen zeggen over wat kwalitatief hoogstaande kennis is, of die echte van valse wetenschap willen onderscheiden, lopen het risico net zo’n raar figuur te slaan als deze hoofdpersonen. Ze dringen zich niet alleen op aan de historici, maar ook aan de geschiedenis zelf. Er is geen enkel bewijs dat Aristoteles ooit gerandomiseerde dubbelblinde experimenten deed. Maakt dat hem een slechte wetenschapper?


Goed, dat was een flauwe retorische vraag, maar het punt zal duidelijk zijn: in de loop der tijd zijn de standaarden voor wat goede kennis is en voor hoe de wetenschap vooruitgang boekt veranderd. Daarmee is het anachronisme bijna onontkoombaar voor iedereen die iets verstandigs wil zeggen over de wetenschap. Hedendaagse ideeën over wetenschappelijke rationaliteit zeggen weinig over de wetenschap van vroeger en oude ideeën hebben inmiddels hun geldigheid verloren.


Het is ook een waar dilemma, want er zijn niet veel uitwegen te bedenken. Er is de olifant-in-de-porseleinkast benadering van Karl Popper, die beweerde dat de wetenschapsfilosofie normatief is en dat het dus niet gaat over hoe wetenschap is, maar over hoe ze moet zijn. Dat zet de wetenschapsgeschiedenis buitenspel en schoffeert met terugwerkende kracht alle wetenschappers die nog niet van Poppers gouden standaarden op de hoogte waren en zich er niet aan konden houden.


Er is ook de olifant-in-de-porseleinkast benadering van Paul Feierabent, die beweerde dat de wetenschapsgeschiedenis zo grillig is, dat er in het geheel niets te zeggen valt over welke benadering van de wetenschappen werkt en welke niet: anything goes. Daarmee zette hij de wetenschapsfilosofie buitenspel en reduceerde wetenschappers, goed en slecht, tot prutsers die maar wat aanklooien.


De gulden middenweg wordt bewandeld door iemand als Larry Laudan, die beweert dat er algemene principes zijn te geven voor de groei van wetenschap als geheel en tijdspecifieke invullingen van die principes die aan verandering onderhevig zijn. Volgens Laudan hebben wetenschappers altijd gewerkt aan het vergroten van het probleemoplossend vermogen van hun vak, maar verschillende ideeën gehad over hoe dat in te vullen is.


Dat klinkt een stuk eleganter dan de bruuske benadering van Popper en Feierabent, maar je kun je afvragen of het echt een uitweg biedt. Is het echt zoveel vriendelijker om van een tijdspecifieke invullingen van kwaliteit te spreken dan om te zeggen dat alles geoorloofd is? En loopt het algemene principe niet ook het risico anachronistisch te zijn? Probleemoplossend vermogen klinkt alvast heel erg als iets van nu – en niet van alle tijden.

Wat zou het mooi zijn als de filosofen van nu met de wetenschappers van toen in gesprek konden. Ik zou er heel wat voor over hebben om in te kunnen loggen op een Zoom call om een gesprek tussen Laudan en Aristoteles over probleemoplossend vermogen bij te wonen of met Popper over falsificatie. Of nee, als ik dan toch mag dromen: Aristoteles spreekt met Laudan over het probleem van anachronismen in de wetenschapsfilosofie.


Meer lezen?

Ik schreef over de ideeën van Larry Laudan in “Het probleemoplossend vermogen van Larry Laudan” en hij wees me in zijn boekje Progress and its Problems ook opmeet probleem van anachronismen. De ideeën van Karl Popper behandelde ik in “Groeit Kennis?” en “De drie werelden van Popper”.


De andere filosofen die ik hier noem trakteerde ik nog niet op zo’n uitgebreide bespreking. Maar het is interessant om de ideeën van Popper en Laudan eens te vergelijken met de uitkomsten van de empirische studies van de werking van wetenschap zoals ik die in “Lableven”, “De zwarte dozen van Latour” en “Big Science, Little Science” besprak.

1 reactieEen reactie plaatsen

Computerbesluit

Is het wel slim om computers overal over mee te laten denken? 

Ik stel de vraag natuurlijk omdat artificiele intelligentie (A.I.) een enorme hype is. Meestal gaan hypes ongemerkt weer voorbij, maar met A.I. zou dat wel eens anders kunnen zijn. We delegeren steeds meer beslissingen aan computers: A.I helpt doctoren met het stellen van diagnoses, rechters met het vaststellen van de strafmaat, banken met het maken van beslissingen over leningen en verzekeringen. Die denkondersteuning dient doelen uit het boekje van bedrijfsconsultants: we gebruiken slimme technologie om een kwaliteitsimpuls te geven en een efficiëntieslag te maken – en meer van dat soort dingen. Ik geloof ook wel dat dat werkt. Vaak zal het lukken om beslissingen met A.I. gemakkelijker te maken.


De vraag is alleen wel hoe het allemaal optelt. In een samenleving zijn beslissingen nogal belangrijke dingen. Ons bestaan hangt van beslissingen aan elkaar. Is het verstandig om die vervolgens één voor één, met de beste intenties, uit te besteden aan een computer? 


We hebben natuurlijk wel eerder technologie ontworpen om ons denken te ondersteunen. Als we even met zevenmijlslaarzen door de porseleinkast van de geschiedenis stampen, dan speelde de vraag of het verstandig was om het denken aan technologie uit te besteden al wel vaker. We vroegen het ons ook al af bij de uitvinding van de getallen, het schrift, de rekenliniaal, telecommunicatie, de rekenmachine, de computer en het internet. Al deze technologieën hebben de samenleving ingrijpend veranderd, maar maar weinig mensen zullen zeggen dat het achteraf gezien onverstandig was om ze in gebruik te nemen. Er is dus op zichzelf niets tegen brein-ondersteunende technologie. Waarom zou het voor A.I. anders zijn?


Één belangrijk verschil zit hem in de manier waarop A.I. beslissingen neemt. Zij doet dat door te leren van menselijke beslissingen. Het Amerikaanse bedrijf Amazon gebruikte A.I om ze te helpen sollicitanten te selecteren. Op basis van gegevens van mensen die eerder bij het bedrijf solliciteerden, berekende een computer hoe kansrijk het was dat een nieuwe sollicitant zou worden aangenomen. Er ontstond een relletje toen dat selectie algoritme een sterke voorkeur bleek te hebben voor mannelijke kandidaten. Het algoritme had allerlei dingen uit het menselijke beslissingsproces overgenomen, inclusief het seksisme dat binnen dit bedrijf gangbaar was.


Het verhaal leert ons dat A.I. conservatieve technologie is. Het is niet toevallig zo dat het Amazon algoritme het seksisme van de medewerkers reproduceerde, het is in de regel zo dat deze technologie de manier waarop beslissingen in het verleden genomen zijn, herhaalt. Dat is het hele idee. A.I. leert van de beslissingen van het verleden om de beslissingen van nu te kunnen ondersteunen. Deze verknoping van de technologie aan het menselijk handelen is wezenlijk anders dan andere technologieën in het rijtje erboven. Rekenmachines zijn als technologie veel neutraler. Waar de rekenmachine denkkracht vrij kan maken om nieuwe ideeën te bedenken, bindt A.I. ons impliciet aan het denken van gisteren. 


Het voorbeeld van Amazon laat ook meteen zien waarom er de laatste tijd zoveel over responsible A.I. (verantwoordelijke A.I.) gesproken wordt. Blijkbaar is een gebrek aan verantwoordelijkheid een probleem bij de inzet van A.I. dat nog opgelost moet worden. Het is ook niet zo vreemd om dit te bedenken. Als mensen besluiten nemen kunnen ze ter verantwoording geroepen worden, maar bij een algoritme kan dat niet. Wie is er verantwoordelijk als een zelfrijdende auto een ongeluk veroorzaakt? De bestuurder deed niets, de fabrikant kon niet weten dat deze situatie zich voor zou doen. Het is een algemeen probleem bij de inzet van A.I. Naarmate beslissingen meer op basis van A.I. genomen worden wordt het moeilijker verantwoording af te leggen over die beslissingen.


Kortom: hoe meer we het beslissen aan technologie overlaten hoe meer we het inruilen voor hoe het nu eenmaal gaat en wat nu eenmaal het beste is. Vaak is dat een goed idee: we winnen er tijd mee die we beter kunnen gebruiken en de kwaliteit van sommige beslissingen die met A.I. genomen zijn, is aantoonbaar hoger dan de menselijke beslissingen die er door vervangen worden. Maar die winst kent ook een prijs die we niet altijd in het oog hebben. 

Eigenlijk kun je zeggen dat het vergemakkelijken van beslissingen het vertrouwen erin ondergraaft. Het automatiseren van besluitvorming holt de verantwoordelijkheid van ons handelen uit. Hoe meer we ons doen en laten verweven in ingewikkelde systemen, hoe lastiger het wordt om de vinger op de zere plek te leggen als het eens mis gaat en hoe moeilijker het wordt om iets te veranderen. Je hoeft alleen maar naar het systeemfalen in de toeslagenaffaire te kijken om te zien hoe desastreus dat kan zijn. 


Dus nee, computers moeten niet overal over meebeslissen. We zullen soms een trager, duurder of slechter besluit moeten accepteren, simpelweg om iemand te hebben om mee na te kunnen gaan hoe het ooit genomen is.


Meer lezen?
Ik schreef al eens kritisch over A.I. in de rechtszaal in A Piori en in de criminaliteitsbestrijding in Glazen Bol. De analyse in dit blogje volgt een logica die gangbaar is in de media-ecologie. Dat dit is niet zonder haken en ogen, beschreef ik uitgebreid in media.

0 ReactiesEen reactie plaatsen

Bubbel

Als je een lijstje zou maken met de meest invloedrijke boektitels van de jaren 10 zou “The Filter Bubble” van Eli Pariser (2011) er vrijwel zeker op staan. Althans… Als je afgaat op hoe vaak het woord “bubbel” gebruikt wordt in het alledaagse taalgebruik. Meestal in een waarschuwende zin en licht bezorgd: “Belanden gebruikers dan niet in een bubbel?”; of: “Bubbels zorgen voor polarisatie in de samenleving“; maar ik heb het ook al in een positieve zin gehoord: “Ik heb een fijne bubbel”. Door Pariser zijn we ons er van bewust geworden dat we dagelijks maar een heel klein stukje van het internet bekijken en dat dat – nou ja – een dingetje is, ofzo.

Laat ik er maar gewoon meteen voor uitkomen. Ik denk dat bubbels meer aandacht krijgen dan ze verdienen en dat we het beter over andere aspecten van de inrichting van onze informatiesamenleving zouden kunnen hebben. Maar, voordat ik die conclusie kan trekken, zal ik toch nog even moeten spitten in de ideeën van Pariser zelf.

Een historisch betoog

“The Filter Bubble” opent met het nieuws van Google, in 2009, dat ze de zoekresultaten gaan personaliseren. Dat betekent dat niet iedereen die dezelfde trefwoorden intoetst op Google dezelfde resultaten krijgt. Jij en ik, individuele gebruikers, worden daarmee beter bediend, althans: we krijgen meer van wat we willen lezen. De samenleving is er minder bij gebaat want als burgers kunnen we beter met elkaar in gesprek als we over dezelfde informatie beschikken.

Het is niet toevallig dat Pariser met een historische gebeurtenis begint, want zijn kritiek is deels historisch van aard. Vroeger – toen internet nog een internetje was – was het een anarchistische vrijplaats van informatie die onze wereld groter maakte. We gingen online en kwamen in contact met andersdenkenden en met een overvloed aan vrij toegankelijke informatie, we voelden ons verrijkt en geïnformeerd. Het internet was een verbindende factor in ons leven.

Maar nu zijn er de grote technologie bedrijven die bakken met geld verdienen door ons informatie toe te spelen die zo goed mogelijk op onze persoonlijke voorkeuren is toegesneden. Daardoor is het web niet meer de wonderbaarlijke gemeenschappelijke informatiewereld die we samen gebouwd hebben, maar een cynische informatiemachine die ons allemaal informatieve snoepjes toewerpt om ons zoet te houden. Op je wenken bediend worden: daar wordt je niet socialer van. Het web dat ons ooit samenbracht, speelt ons nu uit elkaar.

Dat is stevige kritiek, maar het getuigt ook van een nostalgie die je wel meer bij internetcritici ziet. Je kent ze wel: de alles wordt minder types. Erg veel hout snijdt dat vaak niet. Misschien is het internet niet meer wat het geweest is, maar misschien zijn we zelf wel niet meer wie we waren – of kleuren we het verleden mooier in dan het was. Hoe dan ook: we moeten het internet van nu langs de lat van nu leggen. Als het internet voor de jeugd van tegenwoordig ook een vrijplaats is, is er niets aan de hand.

Het probleem dat Pariser aankaart is dat het internet in toenemende mate gepersonaliseerd wordt en daarom ons denken in toenemende mate stuurt en dat het net steeds minder een gedeelde informatieruimte biedt. Laten we die twee argumenten eens bij de hoorns pakken.

Algoritmische hersenspoeling

Is het gebruik van adviesalgoritmen slecht voor ons brein? Uit de psychologie is bekend dat mensen geneigd zijn bevestiging te zoeken voor hun ideeën.  In plaats van alle informatie die er is eerlijk te wegen en een besluit te nemen, besteden we meer aandacht aan informatie die onze ideeën bevestigen en we nemen die bevestigende informatie serieuzer. In andere woorden we houden onszelf graag voor de gek.

Als algoritmen eerst van ons leren wat we willen lezen en ons vervolgens meer van dat soort informatie voorschotelen dan wordt die neiging nog versterkt. We lezen steeds dingen waar we het mee eens zijn, en we gaan denken dat iedereen er zo over denkt, want waarom zouden we anders zoveel artikelen lezen waar onze mening precies in uitgespeld staat? Nou ja. Door de algoritmes dus. Het is dit zelfversterkende effect waar de filterbubbel zijn naam aan ontleent. Je eigen mening wordt opgeblazen en zo bouw je een beschermlaag op tegen andere meningen.

Dit kan een ware hersenspoeling veroorzaken. Want hoe vormen we onze meningen? Door de informatie die we krijgen. Eerst beschermden we onze meningen door alleen dingen te lezen waar we het mee eens waren. Vervolgens gaan de algoritmen ons daar mee helpen door ons meer van wat we al dachten voor te schotelen. Vervolgens denken we dat iedereen er net zo over denkt als wij waardoor we sterker in onze mening gaan staan, minder diverse keuzes maken in ons media dieet en die keuzes worden dan weer versterkt door de algoritmen. We zijn in een echoput beland, een filterbubbel of een fabeltjesfuik en we komen daar nooit meer uit. –snik-

Totdat we de buurvrouw spreken.

Die buurvrouw zit in een andere bubbel, blijkt heel anders over dingen te denken en prikt onze bubbel genadeloos door. En het hoeft niet de buurvrouw te zijn, die bubbel kan ook doorgeprikt worden door informatie die we door andere algoritmen toegespeeld krijgen of door de main-stream-media. Als je maar met grote regelmaat met andere ideeën en informatie geconfronteerd wordt maken bubbels niet zoveel kans. En die ontmoetingen worden ook georganiseerd door dat internet en haar algoritmen.

Het is helemaal geen nieuw fenomeen dat mensen informatie zoeken die hen sterkt in ideeën die ze al hebben. Ze kiezen een bepaalde omroep, gaan naar een bepaalde kerk, steunen een politieke beweging, bezoeken bepaalde voorstellingen. Vroeger werden we geboren in een bubbel, die van het dorp of de politieke voorkeur van je ouders. De bubbels van nu zijn misschien meer gebaseerd op onze interesses en minder op basis van onze woonplaats, maar we blijven allemaal op zoek naar geestverwanten. De vraag is daarom ook niet óf we in bubbels duiken, de vraag is hoe vaak we er weer uitgehaald worden. Hoe vaak komen we andersdenkenden tegen die ons op nieuwe gedachten kunnen brengen.

Er zijn op het internet twee krachten die elkaar in balans houden. Het ontstaan van bubbels door algoritmen en het doorprikken van bubbels doordat we meer in contact komen met andersdenkenden. De vrees van Pariser dat het bubbeleffect het ontmoetingseffect zou gaan overheersen is vooralsnog niet uitgekomen. Uit onderzoek blijkt uit dat mensen diverse bronnen blijven gebruiken, dat mensen die Spotify gebruiken hun muzieksmaak verbreden en dat mensen goed weten hoe er in andere bubbels over dingen gedacht wordt.

Ironisch gezien verklaard dat effect misschien juist de populariteit van het begrip bubbel. Misschien zijn we zoveel beter genetwerkt, dat we veel meer dan vroeger doorhebben dat anderen anders over dingen denken. Dat is misschien niet zo erg.

Een gedeelde informatieruimte

Maar hebben we dan niet een chronisch gebrek aan een gedeelde informatieruimte? Dit is Pariser’s tweede punt. Als samenleving is het belangrijk om een evenwichtig beeld te krijgen ervan wat er speelt, wat de belangrijke gebeurtenissen zijn, hoe er zoal gedacht wordt over allerlei onderwerpen, welke problemen bestaan en welke oplossingen daarvoor worden voorgesteld. Op basis van dit beeld gaan we met elkaar in gesprek.

We hebben de taak om ons daar over te informeren aan een beroepsgroep toevertrouwd: journalisten. Net als veel andere sectoren heeft de journalistiek ongemeen harde klappen gehad met de opkomst van het internet. Enerzijds vrat het internet aan het belangrijkste verdienmodel van de sector: advertenties. Anderzijds zorgde het voor een overvloed aan informatie die concurrerend was voor journalistieke producties.

Het is daarom fair om te zeggen dat onze gedeelde informatieruimte onoverzichtelijker is geworden – en dat ze versnippert is geraakt. Mensen baseren zich op meer verschillende bronnen dan vroeger, het onderscheid tussen opinie en feiten is vervaagt en de kwaliteit van informatie is niet meer vanzelf geborgd.

Is dat ook schadelijk? Mwa. Hoewel het al een stevigere stellingname is kan ik er nog nét in meegaan dat je kan zeggen dat ons publieke debat er onrustiger van geworden is, hitseriger misschien. Maar het gaat nòg verder om te zeggen dat dat onze democratie schaadt en ik zie eigenlijk niet in wat er ondemocratisch zou zijn aan een verhit maatschappelijk debat.

Maar voor dit blogje is nog een andere observatie van belang: geen van deze effecten hebben ook maar iets te maken met personalisatie en algoritmen. De versnippering van het publieke debat hangt samen met het aanbod van informatie. Het komt door de verschraling van professioneel geproduceerde informatie en de opkomst van twijfelachtige informatiebronnen; die soms wel journalistiek lijken, maar het niet zijn. Dat het internet ons in contact brengt met al die bronnen is precies het soort verruiming van onze leefwereld waar het vroege internet voor geprezen werd. Er is misschien veel te veel zooi op het net, maar als we ons daarvan af willen schermen hebben we sterkere filterbubbles nodig, geen zwakkere.

Pariser stelt daar tegenover dat dat de logica achter personalisatie van nieuwsstromen, gericht op het individu de selecterende rol van journalisten uitholt. Omdat we algoritmen gebruiken als gids op het eindeloze internet bepalen die algoritmen ook welke informatie we online bekijken. Maar in tegenstelling tot journalisten zijn die algoritmen er niet op uit om ons een gebalanceerd overzicht te bieden van alles in de wereld. Ze richten zich op wat wij willen lezen, niet op welke informatie belangrijk is voor onze samenleving.  

Ook dit argument klinkt plausibel, maar opnieuw is het de vraag Pariser de algoritmen niet enorm overschat. Hoe berekenen algoritmen wat voor persoonlijk relevant is voor jou? Een belangrijk ingrediënt in de prioritering van tijdlijnen zijn sociale filters. Algoritmen kijken naar het lees en deelgedrag van onze sociale omgeving om te beslissen wat wij belangrijk vinden. In die sociale omgeving gebruiken veel mensen veel verschillende nieuwsmedia. Ze delen wat ze daarin belangrijk vinden en dit bepaalt weer wat anderen zien. Die collectieve selectie van wat belangrijk is geeft daarmee niet een heel ander beeld van wat er speelt dan de selectie die een krant zou maken én deze wordt nog altijd gevoed door de selecties van de media. Journalistische curatie is dus iets meer naar de achtergrond gedrongen, maar ze is niet weg.

De filterbubbel voorbij

Het sterke van Pariser’s betoog is dat hij ons bewust maakt van veranderingen in het krachtenveld dat rondom nieuwsselectie ontstaat en de invloed daarvan op onze democratie. Het zwakke van het betoog is dat “de algoritmen” de zwarte piet krijgen toegespeeld zonder al te veel bewijs dat ze ook de belangrijkste veroorzaker zijn van de problemen of zelfs maar een eenduidige beschrijving van wat de problemen zijn.

Uiteindelijk is de filterbubbel dus zelf een fabeltje. Het is een verhaaltje over wat er zou kunnen gebeuren als het allemaal helemaal misgaat, bedoeld als waarschuwing. In 2011, toen personalisatie op het web nog om de kinderschoenen stond kon Pariser ook nog niet veel anders, maar inmiddels zijn we 10 jaar verder een wordt het tijd die invloed van algoritmen simpelweg eens  door te meten en nuchter vast te stellen wat ze voor en wat ze tegen ons doen. Die cijfers gaan een heel genuanceerd beeld geven.

Goed, het is 2021 en het zijn politiek roerige tijden. Veel mensen zien de bestorming van het Capitool door complotdenkers als het ultieme bewijs dat het internet wel een schadelijke rol zal spelen. Hoe kunnen mensen anders zulke rare dingen geloven?

Maar de werkelijkheid is dat de wereld altijd al vol was met mensen met vreemde ideeën. De Capitool bestorming was niet de eerste staatsgreep en gaat niet de laatste zijn. Het ontstaan van sektes en bizarre theorieën is de regel in de menselijke geschiedenis, niet de uitzondering. Als we iets verder dan 20 jaar terug kijken zien we dat de polarisatie waar we ons nu aan storen van alle tijden is en van elke inrichting van het medialandschap.

Vooruit. Andersdenkenden vinden elkaar tegenwoordig makkelijker. Maar totdat alt-right dat uit ging buiten vonden we dat collectief de grootste zegening van het internet. Het is ook plausibel dat we door het internet en haar algoritmen meer in contact komen met die vreemde ideeën. Ironisch genoeg vinden we dat geweldig als die ideeën passen bij onze eigen interesses en vreselijk als het om verwerpelijke of domme ideeën van anderen gaat. We blijven in onze bevestigingsvalkuil hangen: onze eigen ideeën zijn een gevolg van een goede opleiding, weloverwogen informatie verzameling en puik denkwerk; anderen zitten in een filterbubbel.

Natuurlijk kunnen we ons met Pariser zorgen maken over onze gedeelde werkelijkheid, maar in plaats personalisatie de schuld te geven is het misschien beter om iets te doen aan de bouwstenen van die gedeelde werkelijkheid.  Goede, levensvatbare, Journalistiek – al dan niet gesubsidieerd; inperken van de macht van de meest dominante platformen, vooral waar die een bedreiging vormen voor de verdienmodellen van de poortwachters van onze samenleving; het aanpakken van schimmige verdienmodellen en datahandel; investeren in wetenschap en onafhankelijke onderzoeksinstituten; zorgen voor een betrouwbare en transparante overheid;  het aanpakken en weerspreken van propaganda en stemmingmakerij; en natuurlijk in gesprek gaan met anderen ook als daar je eigen bubbel mee op het spel staat.

Met het fabeltje van de filterbubbel, maken we het publieke discours het probleem van technologiebedrijven en vergeten we te kijken naar wat we zelf kunnen doen om de kwaliteit van ons publieke gesprek te verhogen. Goed,  sinds 2009 is personalisatie een vast onderdeel van onze informatieruimte, maar laten we niet doen alsof we in het lijstje hierboven geen steken hebben laten vallen.

Meer lezen?

In media beweerde ik dat je eigenlijk niets kan zeggen over de invloed van media op de samenleving. In ziekte bespreek ik waarom het ontwijken van andere ideeën een slecht idee is. Ik schreef op een ander blog over hoe platformen anders ingericht kunnen worden om ons publieke debat te versterken.

Het spotify onderzoek waar ik naar verwijs wordt in dit Universiteit van Nederland praatje toegelicht.

Naar aanleiding van deze post wees iemand me op dit artikel van Axel Bruns, waarin het onderzoek naar de Filterbubbel op een rijtje gezet wordt. Ook hij beweert dat het filter bubbel idee een debat over wat er wél mis gaat in ons publieke debat in de weg zit.

0 ReactiesEen reactie plaatsen

Wappies

Ik probeer me in dit blog niet met de actualiteit bezig te houden en heb daarom nog niet over Corona geschreven. Jammer misschien, want gewone mensen zoals jij en ik hadden nog zo nooit direct met de wetenschap te maken – en dat schuurde behoorlijk. We moesten ons aanpassen aan het virus en hoe dat moest werd ons voorgezegd door figuren in een -spreekwoordelijke- witte jas.

Moeilijk. We hadden moeite met de onzekerheid van de wetenschap: wat we allemaal nog niet wisten over het virus viel ons zwaar. We hadden last van de autoriteit die wetenschappers plotseling kregen: alsof zij de enige waren die ervoor gestudeerd hadden. En we stoorden ons aan de kokervisie die nu eenmaal bij het wetenschappelijke specialiseren hoort: we wilden gedragswetenschappers in plaats van virologen, of misschien toch maar een econoom.

Maar, de wetenschappers zelf waren uiteindelijk niet het ergst. Het ergst vonden we de buren: die de wetenschap net iets minder serieus namen dan wijzelf en daarmee iedereen in gevaar brachten. Oh nee. Er was er was nog één groep erger: de wappies.

De wappies riepen dat het allemaal niet waar was. Dat een plan was. Van de regering en van Bill Gates en ook van de media, want in een complot horen minstens drie partijen mee te doen. Ze riepen het op TV, in talkshows en op YouTube bij Lange Frans. Ze liepen in witte pakken door de straten om het te roepen en ze maakten lawaai tijdens de toespraak van Rutte. Jij en ik, weldenkende mensen, vroegen ons af wat hen bezielde. Hoe kun je zó losgeslagen raken van de realiteit?

Ik nam het hier al eerder op voor mensen die er een, nou ja, ander wereldbeeld op nahouden en zal dat nu opnieuw doen, zij het met enige tegenzin. Destijds had ik het over Flat Earthers: mensen die geloven dat de aarde plat is. Die komen in schrikbarende aantallen voor, maar er was een tijd, voor de moderne wetenschap, dat iedereen dacht dat de aarde plat is.

Vreemd is dat niet. Een platte aarde past namelijk prima bij onze alledaagse beleving, dus als je op je eigen zintuigen vertrouwt ben je bevattelijk voor het idee van een platte aarde. Tel daar bij op dat je intensief omgaat met mensen die ook geloven dat de aarde plat is en alle tegenargumenten die je zoal hoort kunnen ontkrachten, en je hebt een stevige basis om Flat Earther te worden.

We bouwen ons wereldbeeld op uit wat we zelf meemaken en uit alles wat we oppikken van anderen, waarmee we die ervaringen vervolgens betekenis geven. Verreweg het meeste wat we denken te weten hebben we van horen zeggen: van onze ouders, van de schoolmeester, van de buren, van collega’s, uit de krant, van YouTube.  Geen wonder dat mensen sociale media de schuld geven van het ongeloof onder medelanders: daar gaan immers zoveel complottheorieën rond dat je wel heel sterk in je schoenen moet staan om niet van de wap te raken. Wappies beroepen zich ook steevast op het “eigen onderzoek” wat ze gedaan hebben.

Maar ik twijfel steeds meer aan die theorieën over een ongezond informatiedieet en hoe dat tot een collectieve psychose zou leiden. Al helemaal als de algoritmen er weer eens bij gehaald worden. In tegendeel: ik denk dat de wappies zich onderscheiden van de weldenkende medemens doordat ze zich juist meer dan anderen beroepen op hun eigen ervaring.

En ook dat komt door Corona. Ik was namelijk een week voor dat Nederland in lockdown thuis met een verkoudheid. Hier in Noord Brabant was dat al de regel.  Ik lag op de bank te snotteren en kon nergens heen. In de appgroepen werden bijeenkomsten afgezegd. Het eerste  coronageval in mijn omgeving, weliswaar geen directe bekende, werd gemeld. Voor mij voelde die pandemie heel reëel.

Maar voor collega’s in Utrecht, 50 km verderop, was de pandemie nog iets abstracts; iets dat in Brabant en Limburg huishield, en daar mogelijk ook wel kon blijven. De open dag op mijn hogeschool, op vrijdag, zou gewoon zijn doorgegaan – superspreading of niet – als Rutte op donderdag het land niet dichtgegooid had. Het verschil in beleving tussen mij en mijn directe collega’s zal me nog lang bijblijven. Hoewel ikzelf waarschijnlijk geen Corona had, was de pandemie voor mij werkelijkheid. Voor hen was het alleen maar nieuws. Dat zijn verschillende planeten.

Lag het aan ons informatie dieet? Nee. Het verschil tussen mij en collega’s was niet dat we andere nieuwsbronnen gebruikten. Ik had niet op andere video’s geklikt in YouTube. Het nieuws kwam anders binnen. De wereld van mijn collega’s draaide door als altijd, terwijl mijn wereld heel eventjes stil stond.

Dat brengt ons terug bij de wappies. Wat maakten zij mee? Hoeveel van hen zouden zelf een stevig coronageval, niveautje IC, in de familie meegemaakt hebben?  Naast ‘ik doe mijn eigen onderzoek’ hoor je van hen vaak het argument dat het gewoon een griep is en dat ze niemand kennen die er flink last van gehad heeft.

Dat is een belangrijke opmerking. We denken bij een pandemie al snel aan plaatjes uit geschiedenisboeken over de Pest. Dat soort taferelen zien we nu niet. Wappies zijn misschien best bereid te geloven dat er iets aan de hand is als er een heleboel mensen ziek worden, maar in hun eigen omgeving gebeurd dat gewoonweg niet. Zelfs mensen die het virus krijgen komen er met een paar weken weer bovenop.  Ze kunnen met eigen ogen zien dat er geen pandemie gaande is, maar de  media schreeuwen moord en brand en de regering doet het land op slot. Dat moet wel collectieve waanzin zijn.

Het is een irritante, maar wel een sluitende redenering. Als je de media wegdenkt is het bewijs voor de pandemie flinterdun en het bewijs voor collectieve waanzin overduidelijk. De Corona-doden liggen niet op straat, maar de lockdown merken we allemaal op. En dan is er nog een legertje actievelingen opgestaan om aan te tonen dat er wel meer niet klopt van wat de regering ons allemaal voorschotelt én dat soms ook blijkt dat de regering er naast zit, of zelfs zichzelf, of haar eigen wetenschappers, tegenspreekt. Dan is het toch niet onredelijk om er alternatieve theorieën op na te houden? De wappies zijn slecht van vertrouwen en sommigen stellen zich enorm aan, zeker, maar gek zijn ze niet.

Juist in een tijd waarin de wetenschap zo zichtbaar, nodig en aanwezig is blijkt het moeilijk om er in geloven. Maar zijn het de mensen of is het de wetenschap zelf die losgezongen is van de realiteit?

De wetenschap heeft het virus ontdekt, binnen een week de genetische code ontcijfert, binnen een jaar een werkzaam vaccin ontwikkeld – dat is een fenomenale prestatie. Maar het is diezelfde wetenschap die ons al bijna een jaar binnenhoud, omdat we, als we erger willen voorkomen niet veel anders kunnen dan doen wat de virologen het beste lijkt.

Ik vind de wappies moeilijk, want ik hou van de wetenschap waar zij tegen aan schoppen. Het zijn olifanten die in hun witte pakken door mijn porseleinkast marcheren. Maar dat er juist in deze tijd  een voedingsbodem is voor complottheorieën snap ik wel. We vragen de mensen om blind vertrouwen in een hocus pocus van cijfers, codes, abstracties, tests en apparatuur, in een klopjacht op het onzichtbare virus. Dat is misschien ook gewoon wel veel gevraagd.

Meer lezen?

Ik schreef over Flat Earthers in Plat, over de invloed van media op onze samenleving in Media en over het belang van getuigenis voor ons weten in Kennisbronnen.

0 ReactiesEen reactie plaatsen

Het probleemoplossend vermogen van Larry Laudan

In “Progress and its Problems” probeert Larry Laudan iets te doen wat de meeste wetenschapsfilosofen nooit gelukt is: een geschiedsgetrouwe theorie van wetenschappelijke vooruitgang formuleren. Dat is dapper en interessant – want die wetenschapsgeschiedenis is weerbarstig – en het resultaat mag er wezen: Laudan’s wetenschapsfilosofie is eenvoudig, elegant en genuanceerd.

De vooruitgangskwestie

Wetenschappers zijn graag zeker van hun zaak. Dat wil zeggen dat ze er alles aan doen om te zorgen dat hun uitspraken kloppen en dat ze morgen en overmorgen ook nog kloppen. Tegelijkertijd laat de geschiedenis zien dat wetenschappelijke inzichten in de loop der tijd steeds veranderen. Die twee dingen staan op gespannen voet met elkaar: wetenschappers beweren sinds de wetenschappelijke revolutie dat ze manieren hebben om tot zekere kennis te komen, maar die geschiedenis geeft ze gewoon steeds ongelijk. Er is in de hele wetenschapsgeschiedenis nog nauwelijks een wetenschappelijke uitspraak geweest die later niet herzien moest worden. 

Die spanning tussen de status aparte van wetenschappelijke kennis en de feilbaarheid van de wetenschap lost op als we aannemen dat wetenschap vooruit gaat. Als wetenschappers er in slagen om steeds voort te borduren op bestaande inzichten en deze aan nieuwe tests te onderwerpen, om op die manier onze kennis van de wereld aan te scherpen. Dan kunnen ze beweren dat ze én de beste manier hebben om aan zekere kennis te komen én dat die kennis steeds veranderd – omdat dat bij de aanpak om tot zekere kennis te komen hoort. Het is het steeds voortschrijdende inzicht dat wetenschappelijke kennis zijn ‘status aparte’ geeft.

Maar ook hier laat de wetenschapsgeschiedenis ons in de steek. Onderzoek naar de vooruitgang van wetenschappelijke kennis laat zien dat dat proces chaotisch is, dat criteria die wetenschappers formuleren om vooruitgang vast te stellen – zoals verificatie en falsificatie – niet daadwerkelijk leidend zijn voor de keuzes die ze maken en dat sociale processen – zoals een strijd om invloed en middelen -, veel impact kunnen hebben op het wetenschappelijke bedrijf. Zolang we slecht begrijpen hoé de wetenschap vooruitgang boekt kunnen we niet zeker zijn dát de wetenschap vooruitgang boekt.

In een notendop is dit dus het probleem:

1 Als we terug kijken in de geschiedenis zien we veel achterhaalde inzichten. 

2 Daardoor denken we dat de wetenschap vooruit gaat.

3 Maar we begrijpen eigenlijk niet hoe dat in zijn werk gaat. 

4 Daardoor kunnen we wetenschappelijke vooruitgang niet herkennen. Bij ontwikkelingen in de wetenschap weten we niet of we naar vooruitgang of gewoon naar verandering kijken.

5 Dit geeft weer problemen voor de status van wetenschappelijke kennis. De vraag is of de feiten van vandaag het resultaat zijn van een zoektocht die al in de 16 eeuw begon of eerder ‘in de waan van de dag’ ontstaan zijn.

Probleemoplossen

Volgens Laudan kunnen we wetenschappelijke vooruitgang het best begrijpen als we wetenschap zien als een probleemoplossingsdiscipline. De stelling dat wetenschappers aan wetenschappelijke problemen werken, lijkt eigenlijk weinig opzienbarend. Maar andere wetenschapsfilosofen hebben zich vooral gericht op concrete activiteiten binnen dat probleemoplossen, zoals: het doen van observaties, het uitvoeren van experimenten of de logische structuur van argumenten. Daardoor ligt de nadruk in die filosofieën sterk op het experimentele handwerk. Laudan kiest voor een globalere kijk, een die meer zicht geeft op het proces van vooruitgang in plaats van het formuleren van een gouden standaard voor wetenschappelijke bewijsvoering.

Wat is een wetenschappelijk probleem? Volgens Laudan zijn er twee soorten: empirische problemen en conceptuele problemen.

Een empirisch probleem doet zich voor wanneer de werkelijkheid zich anders gedraagt dan je zou verwachten. In de ochtend vind je vaak waterdruppeltjes op de ruiten. Dit is een empirisch probleem totdat je een er bevredigende verklaring voor hebt, zoals dat koude lucht minder water kan bevatten dan warme lucht. Deze verklaring vormt meteen een nieuw empirisch probleem. Waarom kan koude lucht minder water bevatten dan warme lucht? Dat vraagt ook weer om een verklaring. Empirische problemen ontstaan in het samenspel tussen theorie en werkelijkheid.

Een conceptueel probleem doet zich voor wanneer een theorie niet in overeenstemming is met andere theorieën. Zou je het condens op de ruiten verklaren door te stellen dat ruiten zweten als het koud wordt, dan moet je duidelijk maken dat het niet vreemd is om te zeggen dat dingen kunnen zweten en dat kou een reden kan zijn om te gaan zweten. Dit zijn conceptuele problemen. Conceptuele problemen ontstaan in het samenspel tussen verschillende theorieën. 

Elke theorie kan empirische en conceptuele problemen oplossen maar veroorzaakt typisch ook weer nieuwe conceptuele en empirische problemen. Afhankelijk van hoe belangrijk we de opgeloste problemen vinden en de nieuwe problemen die zich voordoen zijn we geneigd een theorie te accepteren – of niet. 

Volgens Laudan kenmerkt wetenschappelijke vooruitgang zich door een groei van het aantal opgeloste problemen en de afname van het aantal onopgeloste problemen. Maar omdat niet alle problemen even belangrijk gevonden worden, is de boekhouding complexer dan op het eerste gezicht lijkt. Laten we eerst eens naar de “empirische problemen” kijken.

Status van empirische problemen

Volgens Laudan bestaan er drie soorten empirische problemen.

  1. Opgeloste problemen. Dit zijn empirische problemen waar een adequate verklaring voor is. Dauw op de ruiten, bijvoorbeeld.
  2. Onopgeloste problemen. Dit zijn empirische problemen waar geen enkele bestaande theorie een verklaring voor heeft. Of poetsvissen zelfbewustzijn hebben, bijvoorbeeld.
  3. Anomalieën. Dit zijn empirische problemen die in strijd zijn met een geldige theorie. Als blijkt dat er deeltjes zijn die sneller gaan dan het licht is dit een anomalie voor de relativiteitstheorie.

Je zou zeggen dat onopgeloste problemen het belangrijkst zijn voor de wetenschap. Daar is immers vooruitgang te boeken. Maar de praktijk leert dat het onontgonnen terrein door wetenschappers relatief onbelangrijk gevonden wordt.

Toen Robert Brown in 1828 door zijn microscoop naar pollen in een bakje water keek, zag hij dat ze schijnbaar willekeurig door elkaar bewogen. Je zou zeggen dat deze ‘Browniaanse beweging’ een opwindende ontdekking was, waar wetenschappers meteen op doken. Maar dat was niet zo. Wetenschappers steggelden over het belang er van en voor welke theorie het eigenlijk een probleem kon zijn. Keken we naar iets wat biologisch van aard was, elektrisch, optisch? Omdat ze geen theorieën hadden om het probleem te duiden konden ze ook niet beslissen hoe belangrijk het was en liet een oplossing op zich wachten. 

Het was uiteindelijk 80 jaar later toen Albert Einstein een van zijn eerste wetenschappelijke ontdekkingen deed door aan tonen dat de pollen door de beweging van watermoleculen in beweging gebracht worden. Daarmee deed hij een grote bijdrage aan de warmteleer én aan de status van de Browniaanse beweging. Tot die tijd had Brown een grappig, slecht begrepen experiment beschreven, wat relatief weinig aandacht kreeg. Vanaf dat moment was het een centraal leerstuk in de warmteleer.

Het belang van wetenschappelijke problemen hangt dus af van hun bewijskracht voor een bepaalde theorie. Omdat het voor onopgeloste problemen niet zeker is wat die latere bewijskracht zal zijn, zijn ze voor veel wetenschappers eigenlijk minder relevant.

Daarom zijn anomalieën zo belangrijk voor de wetenschap. Een anomalie is een luis in de pels van de wetenschap. Anomalieën zeuren aan het hoofd van de wetenschapper, ze wijzen er op dat de mooie theorieën waar de onderzoekers zo lang aan gewerkt hebben toch niet kunnen kloppen. Als je er in slaagt om een anomalie in een opgelost probleem om te turnen sta je als wetenschapper supersterk. En het mooie van anomalieën is dat dat al van te voren bekend is. Je weet welke theorie je een steuntje in de rug kan geven en waarom.

We kunnen concluderen dat voor empirische problemen geldt dat anomalieën het belangrijkst zijn, daarna opgeloste problemen en dan pas onopgeloste problemen. Maar Laudan merkt terecht op dat deze inventarisatie niet afdoende is om de wetenschapsgeschiedenis recht te doen. Maar al te vaak werden theorieën die empirische problemen prima konden oplossen, ter zijde geschoven ten faveure van theorieën die beter in het wereldbeeld van de wetenschappers pasten. Daarom moeten we ook conceptuele problemen in beschouwing nemen.

Conceptuele problemen

De meeste wetenschapsfilosofieën keuren het alleen goed als wetenschappers op basis van experimenten en observaties voor een theorie kiezen. Maar Laudan stelt dat er hele rationele, niet empirische gronden kunnen zijn om een theorie aan te hangen. Sterker nog conceptuele problemen hebben volgens hem een grotere invloed op de vooruitgang van de wetenschap dan empirische problemen.

Conceptuele problemen ontstaan als theorieën in strijd lijken te zijn met andere theorieën. Even aangenomen dat theorieën geen interne problemen hebben, zoals vage concepten of verborgen cirkelredeneringen, zijn er volgens Laudan drie bronnen van conceptuele problemen: strijdige theorieën, methodologische problemen of problemen met het wereldbeeld van wetenschappers.

Strijdige theorieën hebben aannames die niet met elkaar te rijmen zijn. Ptolemeus dacht dat de aarde in het midden van het heelal staat, terwijl Copernicus dacht dat de zon in het midden staat. Dit is een conceptueel probleem want het kan niet allebei waar zijn. Je zou misschien zeggen dat het een empirisch probleem is want als je even een ruimteschip naar de zon stuurt dan kun je er wel achter komen hoe het zit, maar even los van het vraagstuk welk bewijs dat ruimteschip dan moest verzamelen om deze kwestie uit de lucht te helpen, was het in die tijd niet mogelijk met een experiment te beslissen welke theorie waar was. 

Dat kon wel op een andere grond. Copernicus ideeën waren namelijk in strijd met de toenmalige natuurkunde. Aristoteles had allerlei ideeën ontwikkeld over hoe dingen op en buiten de aarde bewogen en die moesten heroverwogen worden als wetenschappers het idee van Copernicus zouden overnemen. Daarom had de theorie van Copernicus aanvankelijk meer conceptuele problemen, dan Ptolemeus en raakte die niet erg in zwang. Het was uiteindelijk Galilei die door een alternatief natuurkundig systeem te ontwikkelen de balans meer in de richting van de theorie van Copernicus deed doorslaan. Nu hadden beide theorieën meerdere conceptuele problemen en waren de theorieën echt aan elkaar gewaagd. Tegen de tijd dat de balans doorsloeg naar Copernicus was deze eigenlijk al weer vervangen door de ideeën van Johannes Kepler.

Een tweede bron van conceptuele problemen kan methodologie zijn. Wetenschappers hebben ideeën over hoe je tot theorieën kan komen en wel welke bewijsvoering acceptabel is voor een theorie. Als een theorie strijdig is met dat soort overtuigingen ontstaan ook conceptuele problemen.

Isaac Newton liep bijvoorbeeld tegen een methodologisch probleem aan met zijn theorie over zwaartekracht. Volgens Newton trekken zware voorwerpen elkaar aan en daarom vallen dingen naar de aarde toe. De vraag is alleen wel hoe dat kan. Tijdgenoten wezen er op dat Newton een geheimzinnige ‘werking op afstand’ nodig had voor zijn theorie. De appel die naar de aarde valt raakt de aarde niet, hoe kan de aarde dan de appel trekken? In die tijd was werking op afstand een methodologische doodzonde. Krachten konden alleen verklaard worden door het botsen van deeltjes. Newton’s theorie schond dat verklaringsmodel.

Bij methodologische conceptuele problemen moet met de aanname van een theorie ook de methodologie aangepast worden. Omdat wetenschappers hun gereedschap belangrijk vinden hebben ze sterke argumenten nodig om die stap te zetten.

Een derde bron van conceptuele problemen is een botsing van een theorie met een wereldbeeld. Elke cultuur heeft ideeën, die niet altijd wetenschappelijk van aard zijn, over hoe de wereld werkt. Een wetenschappelijke theorie die dat soort ideeën tegenspreekt zal het moeilijker hebben dan een theorie die aansluit bij het gangbare wereldbeeld. Strijdigheid met het gangbare wereldbeeld is dus een conceptueel probleem.

In de meest bekende voorbeelden speelt God natuurlijk een rol. De strijd van Galilei met de kerk over de plaats van de zon, de moeilijkheden voor God om in te grijpen in een mechanisch universum zoals de volgelingen van Newton voorstelden, de slechte verenigbaarheid van Darwinisme met het scheppingsverhaal. Maar, niet alle wereldbeelden zijn religieus. Darwinisme en Marxisme stonden ook op gespannen voet met elkaar en Natuurkundigen zijn nog altijd bezig de wereldbeelden achter de Klassieke Mechanica en de Quantummechanica te verenigen. 

Al met al zijn er allerlei vragen die rijzen als je een nieuwe theorie in een web van bestaande ideeën wetenschappelijk, methodologisch of van meer algemene aard probeert in te passen. Dit leidt tot conceptuele problemen die meestal meer gewicht hebben dan empirische problemen. Een theorie heeft volgens Laudan gewoonlijk minder last van een paar anomalieën dan van een flink conceptueel probleem.

De rol van onderzoekstradities.

Tot nu toe hebben we besproken welke verschillende soorten empirische en conceptuele problemen wetenschappers moeten oplossen, maar we hebben nog weinig gezegd over de werking wetenschappelijke vooruitgang. Volgens Laudan hebben we daar nog een derde bouwsteen voor nodig: onderzoekstradities.

Onderzoekstradities omvatten theorieën. Theorieën staan meestal niet op zichzelf, maar komen voor in families die een wereldbeeld, basisaannames en methoden delen. Die families vormen onderzoekstradities. Laudan’s idee van onderzoekstradities  lijkt op het idee van onderzoeksparadigmas van Thomas Kuhn of de onderzoeksprogrammas van Imre Lakatos, maar Laudan denkt dat deze filosofen een aantal historisch onhoudbare beweringen doen. Daarom zijn hun ideeën aan herziening toe. Ik laat de discussie tussen die filosofen even voor wat ie is en richt me alleen op de theorie van Laudan zelf. Volgens Laudan hebben wetenschapstradities drie eigenschappen:

1 Elke onderzoekstraditie bestaat uit een aantal meer specifieke theorieën. De onderzoekstraditie van de Quantummechanica bevat onder ander quantum theorieën voor het atoom, theorieën over quantumzwaartekracht en snaartheorieën. Deze theorieën vormen een illustratie van

– en een fundament onder – de traditie.

2 Elke onderzoekstradtiie is trouw aan een bepaald wereldbeeld en methodologie. Onderzoekstradities onderscheiden zich door hun ideeën over hoe de wereld in elkaar zit en hoe je er kennis van kan nemen.

3 Tradities zijn historische wezens. Ze worden in de loop der tijd op verschillende manieren gedefinieerd, maar hebben een lange levensduur, dit in tegenstelling tot theorieën die meestal maar kort leven.

Onderzoekstradities zijn nuttig. Ze geven wetenschappers het gereedschap om conceptuele en empirische problemen op te lossen.  Ze doen dit vier manieren:

1 Ze bepalen welke problemen interessant zijn en genereren conceptuele problemen. Binnen de familie van theorieën die een onderzoekstraditie omvat ontstaat gemakkelijk ruzie; figuurlijk gesproken. Een nieuwe theorie zal gangbare opvattingen binnen de traditie ter discussie stellen het oplossen van de conceptuele problemen die daardoor ontstaan brengt de traditie als geheel verder.

2 Ze begrenzen disciplines. De breed gedeelde basisideeën binnen tradities vormen een natuurlijke begrenzing voor het type probleem dat opgelost kan worden. Het spreekt niet voor zich dat mechanica, waarin dingen verklaard worden op basis van beweging, krachten en botsingen, iets kan zeggen over de manier waarop mensen met elkaar communiceren. Daarvoor zijn de basisideeën gewoon niet aanwezig.

3 Ze bieden hulp bij het oplossen van problemen. Bij het bedenken van een theorie kunnen onderzoekers gebruik maken van elementen uit andere theorieën in de traditie. Een nieuw soort mechanica kan opnieuw opgebouwd worden met begrippen als kracht en snelheid. Hierdoor kunnen nieuwe theorieën dankbaar gebruik maken van jaren denkwerk.

4 Ze helpen met het rechtvaardigen van theorieën. De andere theorieën uit de familie kunnen immers aangeroepen worden om aannames te onderbouwen.

Een belangrijk aspect aan onderzoekstradities is dat ze zich ontwikkelen. Ze zijn aan verandering onderhevig. De theorieën binnen de familie worden steeds ververst waardoor andere dingen belangrijk gevonden worden. Waar de werking van kracht over afstand voor Newton nog een groot probleem was, ontstonden er later veel Newtoniaanse theorieën waarin ook dit soort werking op afstand was opgenomen. Daardoor werd het minder controversieel om een werking op afstand te veronderstellen. In elke onderzoekstraditie zijn er ideeën die centraler zijn en meer tot de harde kern behoren – en die dus ook lastiger tegen te spreken zijn – maar Laudan stelt dat er door het komen en gaan van specifieke theorieën ook beweging zit in de familie als geheel. Daarin wijkt zijn theorie af van die van andere wetenschapsfilosofen.

Vooruitgang

Dat brengt ons eindelijk bij het idee van wetenschappelijke vooruitgang. Laudan denkt dat die te begrijpen is door de strijd tussen – en ontwikkeling van – verschillende onderzoekstradities. Op zichzelf kun je van een traditie niet zeggen of deze waar of onwaar is, daarvoor zijn de ideeën die de theorieën binnen een traditie delen te abstract,  maar je kan wel vaststellen of er in de traditie problemen opgelost worden; en dit probleemoplossend vermogen kan als kwaliteitsmaat gebruikt worden. In vruchtbare onderzoekstradities kunnen veel problemen opgelost worden.

Een belangrijke toetssteen voor een onderzoekstraditie is of deze adequaat is. Hoe goed kunnen problemen opgelost worden met de theorieën uit de onderzoekstraditie? De klassieke mechanica is voor veel problemen adequaat, waardoor de basisprincipes nog altijd populair zijn. Een andere vraag is of onderzoekstradties vooruit gaan. We kunnen ons afvragen of onderzoekstradities meer problemen oplossen dan vroeger. Dan doet de klassieke mechanica het minder goed: de meeste problemen zijn bekend en opgelost, een reden waarom er op dit moment niet veel wetenschappers zijn die zich zelf nog als een klassiek mechanicus zien.

Er is dus een verschil tussen tradities die wetenschappers  accepteren – voor waar aannemen;  en tradities die ze najagen -waar ze aan willen werken. Wetenschappers zijn gewoon om theorieën te accepteren die adequaat zijn, maar ze zijn wel geneigd theorieën na te jagen die zich snel ontwikkelen.

Dit spanningsveld tussen conservatief gedrag: acceptatie van die theorieën die bewezen zijn en progressief gedrag: najagen van  theorieën die veelbelovend zijn verklaart voor een belangrijk deel wetenschappelijke vooruitgang. Als wetenschappers niet een voorkeur zouden hebben voor theorieën die zich snel ontwikkelen, dan zouden nieuwe theorieën nooit een kans krijgen en als theorieën zich niet bewezen zouden moeten hebben voordat ze geaccepteerd worden zou wetenschappers zich overgeven aan willekeur. Laudan laat zien dat met deze twee principes vooruitgang mogelijk is en dat de beslissingen die wetenschappers nemen rationeel zijn en niet, zoals andere wetenschapsfilosofen wel beweert hebben, alleen maar door sociale processen bepaald worden.

Tot slot

Ik opende dit blogje al door te stellen dat ik Laudan’s theorie elegant vind. Met name het erkennen van het belang van conceptuele problemen en de samenbundeling van theorieën in onderzoekstradities helpen om de wetenschap beter te begrijpen.

Tegelijkertijd is de boekhouding van problemen met verschillend gewicht die Laudan voorstelt behoorlijk complex. Nergens laat hij echt concreet zien dat je door het tellen van problemen inderdaad kan onderbouwen welke keuzes wetenschappers maken in hun werk. Sterker nog, die keuzes blijken van voor verschillende wetenschappers verschillend te zijn. Het gewicht van een probleem is uiteindelijk een persoonlijke keuze.

Daarmee staat Laudan nier enorm sterk als het gaat om het aantonen van de wetenschappelijke vooruitgang. Hij slaagt er goed in om een aantal kwesties die andere wetenschapsfilosofen zoals Thomas Kuhn en Karl Popper hebben laten liggen op te lossen, maar hij geeft uiteindelijk weinig tegengas aan filosofen die de wetenschap als een puur sociaal proces wensen te zien. Laudan toont aan dat wetenschap vooruit kan gaan, niet dat ze daadwerkelijk vooruitgaat.

Meer lezen?

Ik schreef over de ideeën van Karl Popper in Groeit Kennis? Ik schreef over de houdbaarheid van wetenschappelijke theorieën in Stokoude Kennis, Halfwaardetijd en Tijdmeters.

Progress and its problems is een prettig leesbaar boek dat rijk is aan inzichten over de wetenschap en vooral het denken daarover.

3 reactiesEen reactie plaatsen

Complexiteit

Ik heb eens rondgevraagd, maar ik ken bijna niemand die het volgende zinnetje nog nooit gehoord heeft.

“De wereld wordt steeds complexer”

Het lijkt wel alsof het idee dat de wereld steeds complexer wordt nog meer aanhangers kent dan de ronde aarde en dat al die mensen óók in de veronderstelling zijn dat het feit nieuw en belangwekkend genoeg is om het elkaar nog eens onder de neus te wrijven. Volgers van deze blogjes kunnen al wel raden dat ik juist helemaal niet denk dat de wereld steeds complexer wordt. En dat klopt: ik ben een flat-earther als het op complexiteitsdenken aankomt.

Ik had de messen dus alweer geslepen. Ik vroeg mensen wat ze bedoelden met toenemende complexiteit en het bleek hem te zitten in het ontstaan van steeds meer nieuwe disciplines en ook in de groei van het aantal discipline-overstijgende uitdagingen. Ik zocht bewijs dat het aantal disciplines al stijgt sinds er disciplines zijn en hield mensen voor dat die toename van complexiteit al zo oud is als de oerknal. Ik riep ook dat een toename van het aantal disciplines logischerwijs zou leiden tot een toename van het aantal discipline-overstijgende uitdagingen, zonder dat die uitdagingen zelf persé ingewikkelder zijn. Ik maakte een vergelijking met potjes pindakaas en vroeg – retorisch – of het aantal verschillende merken pindakaas ons iets wezenlijk kon vertellen over de complexiteit van pindakaas en hoe een merkoverstijgende pindakaasuitdaging er precies uit zou zien.

Het hielp allemaal niets. Sommige mensen raakten geïrriteerd, anderen schudden hun hoofd of moesten smakelijk lachen om mijn redeneringen, maar serieuze discussie ontstond er nergens. Het was vechten tegen windmolens.

Bijkbaar stelde ik de verkeerde vragen. Ik wilde weten wat we precies bedoelen met de uitspraak dat de wereld steeds complexer wordt en of het wel waar is – objectief waar. Ik was op zoek naar de verborgen complexiteitsindex die de mensen  blijkbaar aan het volgen waren en die het gesprek van de dag was: “Heb je het gezien? Alweer gestegen! Poeh zeg.”

Maar het gaat de mensen die over de complexiteit van de wereld beginnen helemaal niet om de complexiteit van de wereld. Het is ons met dat zinnetje niet te doen om de waarheid achter de steeds grotere complexiteit van de wereld: het gaat om de waarheid van die complexiteit. Als je complexiteit gaat reduceren tot één, toetsbare, lezing van de complexiteit doe je geen recht aan de complexiteit ervan.

Ik had dat zinnetje al die jaren verkeerd ingeschat. De bedoeling was al die tijd niet om iets belangwekkends over de wereld te vertellen dat iemand grondig had onderzocht. Ik hoefde het niet te snappen, ik moest er iets mee doen. De bedoeling was dat ik mijn eigen verhaal erbij verzon en daar flink mee aan de slag zou gaan. Ik kreeg geen speelkaart toegespeeld maar een joker. Het was een vorm van pre-symbolisch taalgebruik.

Het begrip pre-symbolisch taalgebruik is door Alain Hayakawa gepopulariseerd. In zijn boek “Language in Thought and Action” bespreekt hij, hoe hij als Aziatische immigrant in Amerika, vaak het ijs moest breken in gesprekken.

Veel Amerikanen wisten in zijn tijd blijkbaar minder goed of je met een Aziaat wel een leuk gesprekje kan voeren en zijn reactie was dan om een gesprek te voeren over de meest ongevaarlijke dingen die hij kon bedenken. “Lekker weertje vandaag hè?” Dat werk. En van daaruit verder.

Denken we, als we over het lekkere weer beginnen, zo vroeg Hayakawa zich af, werkelijk dat we onze gesprekspartners iets interessants en nieuwswaardigs vertellen? Is het onze veronderstelling dat het de ander niet is opgevallen dat het lekker weer is? Of voelen we bij 22 graden, half bewolkt, de behoefte om te checken of de buurvrouw goede redenen heeft om dat rotweer te vinden?

Nee natuurlijk. Het punt van over het weer beginnen is juist dat we al weten dat de ander er precies zo over denkt als wij. We gaan graag om met mensen die dezelfde denkbeelden hebben als wij. Dat schept een band. We beginnen niet over het weer om anderen te informeren over de weersomstandigheden, we beginnen er over om ons groepslidmaatschap te bevestigen. Onder de oppervlakte zeggen we “wij zijn allebei mooiweerwaardeerders, we begrijpen elkaar, we vinden elkaar aardig, we zijn loyaal aan onze groep”.

Hayakawa liet zien hoe belangrijk dit soort gekeuvel kan zijn. Door met de mensen om hem heen moedwillig gesprekjes te voeren waarvan hij al precies kon voorspellen hoe het zou gaan, wist hij met wildvreemden een band te scheppen en daarmee ook een basis te scheppen om het over dingen te hebben waarover ze misschien wel andere denkbeelden op nahielden. En hij slaagde erin om hiermee culturele grenzen te slechten.

En zo is het ook met de complexiteit van de wereld. Ik werk in het hoger onderwijs. In onze kringen: die van hoogopgeleide hoogopleiders, vinden we allemaal dat de wereld steeds complexer wordt. Daarom is het extra belangrijk dat we mensen hoog opleiden. Er zijn immers steeds meer disciplines en ook het aantal discipline-overstijgende opgaven stijgt in een rap tempo.

Dat vraagt om slimme professionals die over de grenzen van hun discipline heen kunnen kijken. Hoe we dat voor elkaar krijgen, daarover verschillen we misschien van inzicht, maar waar we het voor doen: studenten voorbereiden op de als maar complexere wereld. Daar zijn we het over eens. Dat is onze basis.

Soms is het nodig om bij die basis te beginnen. Om nog even naar te benoemen dat onze gemeenschappelijke uitdaging is om studenten voor te bereiden op de complexiteit van morgen. Als collega’s in mijn kringen beginnen over complexiteit is dat géén uitnodiging om kritische vragen over die complexiteit zelf te stellen. Het is een beetje dom om op zo’n moment over pindakaassoorten en pindakaassoortoverstijgende opgaven te beginnen. Het duurde even maar dat snap ik nu. De wereld wordt ook steeds complexer.

Meer lezen?

In verandersnelheid beschreef ik hoe de wereld niet steeds sneller veranderd. Ik schreef eerder over hoe onze sociale wereld onze taal beïnvloed – en andersom in betekenisdrift en in jargon. In plat nam ik het al eens op voor mensen die écht denken dat de aarde plat is.

Gedeeld begrip is een belangrijk aspect in taalgebruik. Ik ga daar op in de taalpragmatiek van Herbert Clark. In onuitdrukbaarheid spreek ik over kennis die niet in taal uit te drukken is.

Language in Thought and Action van Alan Hayakawa is een zeer lezenswaardig boek.

0 ReactiesEen reactie plaatsen

Onuitdrukbaarheid

“Er zijn geen woorden meer voor wat ik voel, ik heb geen woorden meer voor jou”. De Jazzpolitie zong het in de jaren 80 en in de liefde gebeurt het ons allemaal: dat we gevoelens ervaren die we als diep, waar en uniek zien – en die we, ondanks een overvloed aan liefdesliedjes, onmogelijk in woorden weten te vangen.

Maar de verliefden van deze wereld zijn niet de enigen die zich op onuitdrukbaarheid beroepen. Neem intuïtie. Intuïtie is een soort kennis die je niet gemakkelijk met anderen deelt, die mensen eerder “voelen” dan “denken” en waar, naast veel vrouwen, ook wiskundigen en ondernemers zich op beroepen. En je hebt de mystici. Mensen die via spirituele wegen, vaak door uitgebreide rituelen of zelfs met behulp van hallucinogene middelen, tot inzichten over het leven proberen te komen waarvan ze vervolgens claimen dat ze diep, waar en -helaas voor ons- onuitdrukbaar zijn.

Slaan die claims ergens op? Moeten we die hartstochtigen, genieën en zieners serieus nemen? Hebben ze echt kennis die niet in woorden uit te drukken is, of moeten we ze gewoon vragen een beetje beter hun best te doen? Over die vraag gaat dit blogje.

Is het brein of de taal de beperking?

Er zijn twee redenen te bedenken waarom dingen onuitdrukbaar kunnen zijn. De eerste is dat het brein niet alles kan bevatten omdat het daarvoor te beperkt is. Dit wordt gebonden betekenisgeving genoemd. De tweede reden is dat het brein juist meer dingen kan bevatten dan in taal uit te drukken is. Dit wordt het mystieke argument genoemd. In het eerste geval is het brein te klein, in het tweede geval de taal.

Laten we met het brein beginnen. De gedachte van gebonden betekenisgeving is vrij eenvoudig. Stel dat we het brein opvatten als een begrijpmachine. Is het dan redelijk te verwachten dat het brein werkelijk alles wat begrepen zou kunnen worden begrijpt? Vermoedelijk niet. Het brein heeft door de evolutie een structuur die het geschikt maakt voor bepaalde typen inzichten. Het kan dingen begrijpen die gelinkt zijn aan onze zintuigen en taal – en er zullen dus inzichten mogelijk zijn waar ons brein ongeschikt voor is, maar die door dolfijnen gretig worden uitgewisseld.

Toch gelooft niet iedereen in gebonden betekenisgeving. Er zijn filosofen die beweren dat gedachten los staan van de infrastructuur waar ze uit voort komen: gedachten zijn immers immaterieel. We breiden onze zintuigen ook steeds uit door meetinstrumenten te bouwen die dingen kunnen waarnemen waar wij ongeschikt voor zijn. Ons brein is misschien niet gebouwd om de relativiteitstheorie of quantummechanica te bevatten, maar door wetenschap en taal komen we een heel eind. Het tegenargument tegen gebonden betekenisgeving is dus dat taal een soort universele begrijpstof is die alle ideeën kan bevatten. Ook ideeën die ondenkbaar zijn.

Als de taal niet deugt…

Maar, die argumentatie zal slecht vallen bij de jazzpolitie, bezitsters van vrouwelijke intuïtie of de mystici. Zij zeggen juist dat taal niet toereikend is om de inzichten die hun breinen wel degelijk hebben te verwoorden. Dit wordt het mystieke argument genoemd.

Mystici gaan vaak zelfs zo ver dat ze als een certificaat van echtheid beschouwen als ze hun inzichten niet onder woorden kunnen brengen. Volgens Johannes de evangelist kun je een goddelijk inzicht herkennen aan het feit dat het niet empirisch van vorm is. Je kunt het niet uit de werkelijkheid afleiden en dus kun je het ook niet in woorden uitdrukken.

Zelf denk ik dat het certificaat van echtheid, naast het ware geloof ook voor échte liefde geld. Als je er woorden voor hebt lijkt het ineens minder echt. In de liefde zijn we allemaal mystici.

Bestaan de woorden niet of volstaan ze niet?

Hoe kan het dat we dingen kunnen weten die we niet in woorden kunnen vatten? Waarom hebben we de woorden niet? Er zijn opnieuw grofweg twee dingen die aan de hand kunnen zijn. Het kan zijn dat de woorden niet bestaan of dat de woorden niet volstaan.

Als de woorden niet bestaan zeggen filosofen dat een inzicht niet representeerbaar is. Het is een andere manier om te zeggen dat er te weinig woorden zijn. De logica is haast onontkoombaar. Een gemiddelde taal heeft ongeveer 50.000 woorden. Er zijn zijn oneindig veel dingen die je zou willen kunnen zeggen. Dus hebben we altijd te weinig woorden. Het probleem met deze redenering is natuurlijk dat talen niet àf zijn. Als de woorden er niet voor zijn kunnen we er woorden voor verzinnen. Ik denk dat er goede redenen zijn waarom mystici en verliefden dat niet doen, maar daar kom ik zo op.

Eerst het tweede probleem: als woorden niet volstaan. Dit word door filosofen het onuitvoerbaarheidsprobleem genoemd. De gedachte is dat er wel woorden zijn om de inzichten mee uit te drukken, maar dat er een of andere blokkade is om ze daadwerkelijk uit te spreken. Omdat het te omstreden is bijvoorbeeld, of te moeilijk, te beschamend of te triviaal. Je kunt het wel denken in woorden, maar je krijgt het niet over je lippen. Ik denk dat dit de kwaal waar de mystici aan leiden.

Hoe we nieuwe woorden maken….

Want als talen niet af zijn en er zijn ergens geen woorden voor dan kunnen we toch gewoon nieuwe woorden maken? Het ontstaan van nieuwe woorden vindt plaats in een proces dat conversational  grounding heet. Er zijn twee dingen voor nodig waar het de Mystici aan ontbreekt. Een gedeelde ervaring en de behoefte om samen te werken.

Fictief voorbeeld. Wij hebben thuis iets staan met een merkwaardige vorm dat àltijd in de weg staat. Mijn vrouw en ik proberen het huis een beetje opgeruimd te houden dus we kunnen elkaar helpen door het ding uit de weg te halen. Daarom willen we de ander kunnen vragen dat te doen en hebben we het een naam gegeven: stoel.

Het voorbeeld is een beetje flauw, maar de twee ingrediënten zitten er in. Mijn vrouw en ik moeten de stoel allebei kunnen zien en overtuigd zijn dat de ander hem kan zien – anders werkt het niet. Dit is de gedeelde ervaring. En we moeten er ook allebei belang bij hebben om er een woord voor te hebben: de behoefte om samen te werken aan een opgeruimd huis. Uit die twee ingrediënten: gedeelde ervaring en samenwerking ontstaat het woord vanzelf.

De mystieke ervaring is individueel….

Hier zit de crux bij de mystici. Mystici die veel moeite doen om een lijntje met God te openen zijn er meestal van overtuigd dat zij de enige zijn die dat lijntje hebben. Ze willen helemaal niet dat de ervaring die ze hebben breed gedeeld zijn. Zouden Mystici met andere Mystici samen gaan werken om God een goed de waarheid te vertellen. Dan zouden ze een taal ontwikkelen om te checken of iedereen God hetzelfde begrepen heeft. Mystieke ervaringen zijn niet zo zeer onuitdrukbaar, er is vooral geen behoefte om ze uit te drukken.

En hier zit ook de crux bij de verliefden. Ook zij beschouwen hun liefde als hoogst individueel. Iedereen vindt John een adonis, maar wat Marieke voor hem voelt is zo speciaal: daar zijn geen woorden voor. Op de werkvloer gaat het de hele dag over John maar die woorden zijn voor wat we sámen voor John voelen en die vallen dus af om Marieke’s unieke band met hem te beschrijven.

De woorden zijn er dus wel!

Dat maakt dat onuitdrukbaarheid eigenlijk geen vaststelling is, maar een bezwering en een uitsluitingsmechanisme.

Het is punt is niet zozeer zozeer dat mystieke gevoelens – over je relatie met God, je intuïtie voor een oplossing of je liefde voor de ander – niet in woorden uit te drukken zijn, het is meer dat we het niet willen. Zodra we woorden geven aan mystieke ervaringen verliezen ze hun unieke, individueel karakter. We willen niet dat er woorden voor zijn. Die woorden bestaan wel, maar ze volstaan niet omdat woorden gedeelde dingen zijn, precies het verkeerde gereedschap om iets unieks mee aan te pakken.

En dat is inderdaad de kern van “liefdesliedjes”. Volgens de Jazzpolitie zijn alle liefdesliedjes al geschreven, waardoor er geen woorden overblijven om hun unieke liefde voor jou uit te drukken.

Meer lezen?

Het idee van conversational grounding besprak ik uitgebreid in het blogje De taalpragmatiek van Herbert Clark. Het idee van gebonden betekenisgeving besprak ik eerder in kenvermogen. Ik schreef al over de relatie tussen taal en kennis in jargon en in betekenisdrift.

Voor dit blogje maakte ik gebruik van het boek Ineffability and Philosophy van André Kukla. Ik heb zijn analyse grofweg gevolgd, maar wel sterk vereenvoudigd. Hij maakt zelf overigens geen gebruik van het idee van conversational grounding als uitweg uit het probleem.

2 reactiesEen reactie plaatsen

Media

Ze krijgen werkelijk overal de schuld van: de media. Dat is niet nieuw hoor. De Grieken dachten dat het schrift het einde van de samenleving zou inluiden; ik hoorde dat televisie door God verboden is; van internet wordt je dom en natuurlijk veroorzaken sociale media en algoritmes  de huidige polarisatie in de samenleving. Goed: achteraf blijkt het altijd wel mee te vallen, maar daar gaat het me vandaag ook niet om. Wat mij bezig houd is de vraag of er in de eerste plaats wel iets over te zeggen is.

Het probleem met de media is dat het woord meervoud is. We hebben het niet over één ding, maar over een heleboel tegelijk. Ze zijn echt overal, de media. We lezen, we kijken tv, we gaan naar theater, we gamen, we appen, we navigeren, we surfen online, we lopen op straat. Zowat iedereen lijkt zich ook me media bezig te houden: nieuwsmedia, entertainment bedrijven, communicatie professionals, platformen, internet cowboys, docenten en kunstenaars.

Dat maakt media alomtegenwoordig. De denkende mens is meteen ook de communicerende mens. Onze breinen ademen communicatie. Geen wonder dat we zoveel technologieën en beroepen ontworpen hebben om dat beter, efficiënter, fijner, sneller of met meer beleving te doen. Die veelheid maakt het ook moeilijk er iets nuttigs over te zeggen. De media de schuld geven van polarisering is als de lucht de schuld geven van de griep. Ergens klopt het wel, maar er wringt ook iets.

Als je iets wil zeggen over het effect van de media op onze cultuur dan zijn er eigenlijk twee strategieën denkbaar. Je kunt (1) alle media over één kam scheren en er iets algemeens over proberen te zeggen of je kunt (2) er een genre uitpakken zoals radio en televisie en proberen te zeggen hoe die specifieke media het spel veranderen.

Media-ecologie

De eerste strategie wordt gebezigd door media ecologen. Een mooi woord is dat:  media ecologie. Net zoals je in de biologie kunt kijken naar de relatie van levende wezens met hun biologische omgeving, kun je als mediawetenschapper zoeken naar de relatie tussen de mens en de rijke omgeving van al die verschillende media. De meeste media-ecologen nemen daarbij als uitgangspunt hoe het gebruik van media het bewustzijn beïnvloedt.

De absolute grondlegger van dit vakgebied was de Canadese wetenschapper Marshall McLuhan. Hij stelde dat de media het best gezien konden worden als een extensie van onze zintuigen. En dat onze cultuur verandert bij de introductie van een nieuw medium, omdat onze media bepaalde zintuigen bevoordelen. Het schrift zou zou een transitie van een orale een naar visuele cultuur teweeg gebracht hebben en daarmee rationaliteit ingebracht hebben. De introductie van radio en televisie zou die weer deels teniet gedaan hebben.

McLuhan vond dat in zijn tijd veel te veel aandacht was voor de boodschappen die via de media verspreid werden. Volgens hem was het niet de inhoud van de boodschappen die onze cultuur beïnvloedde maar de vorm ervan. Vandaar zijn beroemde uitspraak: the medium is the message.

De zintuigentheorie van McLuhan komt wat simplistisch over en ook modernere denkers die ik in deze lijn plaats grijpen naar zo’n eenvoudig verklaringsmechanisme. Thomas de Zengotita, media theoreticus, probeert het effect van media te verklaren vanuit de gedachte dat we overspoeld worden door representaties van de werkelijkheid. Susan Blackmore plaats het idee van imitatie centraal in haar theorie over de relatie tussen het brein en de media.

Helemaal onverwacht is die vereenvoudiging niet. Als je iets wil verklaren dat zo divers, veelomvattend en alomtegenwoordig is als de media dan moet je het wel in iets eenvoudigs proberen te vangen. Het heet niet voor niets verklaren. Het moet te begrijpen zijn. Je hebt een helder uitgangspunt nodig dat je als de kern van je verhaal kan gebruiken.

Maar, daar zit dan ook meteen de angel. Zo’n vereenvoudiging kan nooit recht doen aan de ingewikkelde, meervoudige effecten die de media hebben. Natuurlijk veranderen de media hoe we met elkaar communiceren: daar zijn ze voor gemaakt, maar elk medium doet dat op zijn eigen manier en heeft zijn eigen reikwijdte. Als je die allemaal over één kam scheert doe je weinig recht aan die diversiteit en het subtiele samenspel van verschillende media.

Specifieke mediakritiek

De andere benadering is te kijken naar een specifiek medium en dan te onderzoeken hoe die het grote intermenselijke communicatiespel veranderen. In de afgelopen jaren waren het internet, online gaming en sociale media natuurlijk onderwerp van dit soort analyses. Wat je hier vaak ziet is dat één opvallende ontwikkeling in de cultuur verklaard wordt vanuit een eigenschap van een nieuw en populair medium. En vooral de jongeren, vaak de eersten die nieuwe media gebruiken en nog erg beïnvloedbaar, moeten het daarbij ontgelden.

Het bekendste voorbeeld is misschien wel de ‘filter bubble’, een idee dat zo aantrekkelijk is dat het in ons dagelijkse taalgebruik is doorgedrongen. Bij de filter bubble zijn computer algoritmen de boosdoener. De gedachte is dat we veel te weten komen via Google search en via de tijdlijn van sociale media. Die worden gefilterd om ons met zo relevant mogelijke informatie te voorzien. Wat ik zie bij een Google zoektocht is gebaseerd om mijn persoonlijke zoekhistorie en is dus anders dan wat jij ziet. Wat op mijn tijdlijn van Twitter en Facebook komt is gebaseerd op mijn klikgedrag en dus anders dan wat anderen zouden zien.

Door deze sturing vanuit de media raken we steeds meer in een isolement van ideeën. Als media persoonlijk worden in plaats van collectief komen we niet meer in aanraking met andersdenkenden of met ideeën die ons onwelgevallig zijn. We komen in een zeepbel van gelijkgestemden terecht. En de gedachte is dat als iedereen in zijn eigen ideeënzeepbel leeft, dat de samenleving als geheel dan polariseert.

Zou Eli Pariser, de bedenker van de filter bubble, stil gestaan hebben bij de gedachte dat mensen nog andere bronnen van informatie gebruiken dan Google en Facebook? Dat ze elkaar spreken, naar televisie kijken, naar theater gaan? Media is meervoud, mensen gebruiken meerdere media naast elkaar. Stel je voor dat er op je Facebook tijdlijn alleen maar kattenfilmpjes voorkomen, zit ik dan meteen in een kattenzeepbel?

Voor Nederlanders met een flintertje historisch besef is die filter bubble gedachte ook wat potsierlijk. Waren de media hier niet gekoppeld aan ‘zuilen’? Katholieken woonden in dezelfde steden, gingen naar dezelfde kerken, keken dezelfde TV programma’s, hadden eigen sportverenigingen en blaadjes en stemden dezelfde politieke partijen. Dat was pas een zeepbel! Om in de moderne wereld een zeepbel te veroorzaken die aan een ‘zuil’ kan tippen zou je de vrijheid van media gebruik behoorlijk moeten inperken en algoritmes nog heel veel meer macht moeten geven.

Als je inzoomt op een bepaald medium en vandaar uit iets over media en de samenleving in het algemeen probeert te zeggen heb je snel last van kokervisie. Om helderheid te krijgen over de effecten van een nieuw medium proberen we in kaart te brengen wat we zien gebeuren rondom een bepaald medium. Instagram voedt faalangst; Twitter hyperigheid; Whats App faciliteert rellen. Dat werk. Maar, we kijken dan door een vergrootglas. Het is maar de vraag of wat we daar iets zien er op de schaal van de samenleving er nog toe doet. Als je zoontje een beetje opgefokt raakt van een oorlogspel, is er nog geen agressieve generatie gekweekt. Heel veel foto’s op Instagram zijn te mooi om waar te zijn, maar daarmee is er nog geen collectieve faalangstcultuur ontstaan.

Door onze focus op één medium vergeten we even dat onze kinderen ook blootstaan aan andere invloeden. Dat ze andere media gebruiken, dat ze opgevoed worden, naar school gaan.

Als die effecten al zo groot zijn als dat ze door het vergrootglas lijken, dan nog heeft het opschalen ervan naar maatschappelijke proporties weinig zin. In de zee van invloeden waar we als mens aan bloot staan verdunnen de effecten van één medium razendsnel. Om de vergelijking met ecologie nog maar eens te maken: als er een nieuw plantje in het bos komt krijgen sommige planten minder ruimte en veranderd het ecosysteem, maar de beestjes hebben daar doorgaans weinig last van: voor hen wordt het menu juist gevarieerder.

Focus in; focus uit

De alomtegenwoordigheid en veelvormigheid van de media zorgen dus voor een probleem met focus. Als we ze willen begrijpen door uit te zoomen scheren we ze over één kam – en doen we te weinig recht aan hun diversiteit; Maar teveel inzoomen betekent weer kokervisie – en daarmee doen we ook geen recht aan hun diversIteit. Hoe we de lens ook afstellen, steeds ontglippen ons de meest belangrijke aspecten.

Natuurlijk, de impuls is om te zeggen: je moet die twee ook combineren. De visie op het totale ecosysteem en de aandacht voor specifieke plantjes daarin. Dat doen biologen ook.

Ik zou het daarmee eens zijn als die twee analyses elkaar inderdaad raken. Als een totaaltheorie van de media door een analyse van Twitter aan het wankelen gebracht zou kunnen worden. Of als inzichten over Twitter opgetild konden worden tot een totaalvisie op de media zonder de botte generalisaties zoals ik die net besprak. Maar zo’n dialoog tussen het grote plaatje en gericht onderzoek kom ik eigenlijk niet vaak tegen.

En misschien is er nog iets mis. Namelijk de premisse dat de media – als in de karakteristieken van elke medium – er veel toe doen. Dat we veel in contact staan met verschillende media betekent niet dat het er enorm veel toe doe hoe die media informatie over brengen of welk soort informatie er het makkelijkst door verspreid word. Als onze jeugd veel meer keuzestress ervaart dan vroeger, moeten ons we ons misschien afvragen of we ze zelf niet teveel keuzevrijheid geven in plaats van Facebook de schuld te geven. Als de samenleving polariseert moeten ons misschien afvragen wie verdeel en heers probeert te spelen en hun tactieken en retorieken in kaart proberen te brengen, in plaats van ons blind te staren op de algoritmen van Google.

We maken onze cultuur zelf, of tenminste samen. Misschien moeten we cultuurverandering in de eerste en belangrijkste plaats bij onszelf zoeken. Het zou kunnen dat we Marshal McLuhan’s “The Medium Is the Message” nog altijd veel te serieus nemen. In plaats van ons blind te staren op de verborgen effecten van verschillende soorten media, moeten we onze aandacht misschien richten op wat er in het volle zicht is. Wie het zijn die media gebruiken en welke dingen ze er mee rond roepen. Voor de hoe de Grieken zich organiseerden was de overgang van een orale naar een schriftelijke communicatievorm misschien het meest wezenlijk, maar in deze tijd van mediaovervloed moeten we ons eerder weer op de inhoud richten: “the message is the message”.

Meer lezen?

Ik schreef elders eerder recensies van Marshal McLuhan’s “Understanding Media” en Tomas de Zengotita’s “mediated”. Hier besprak ik  Susan Blackmore’s “The Meme Machine” al eens.

De kenniskritiek in dit blogje kwam ook in Samenloop en Verkoudheid als eens naar voren. Ik schreef ook al eerder over de vermeende invloed van het internet op de jeugd en over de haken en ogen van het gebruik van algoritmen in Glazen Bol en A Priori.

3 reactiesEen reactie plaatsen