Door: MAARTEN VAN DER KLOOT MEIJBURG

Publicatie: Follow The Money, 25-8-2017

We stevenen af op een samenleving waarin de technologie de baas over ons is. Gelukkig zijn er manieren om dat te voorkomen, zegt Maarten van der Kloot Meijburg. In dit derde deel van zijn serie over het verbond tussen mens en technologie, biedt hij zowel een waarschuwing als een plan van aanpak.

De aanhangers van de neoliberale versie van de vooruitgangsmythe zijn ervan overtuigd dat de loop van de geschiedenis onvermijdelijk leidt tot een technologische heilstaat, gebaseerd op vrijemarktprincipes. Gevoed door wetenschappelijke ontdekkingen, geloven zij dat de universele waarheid steeds dichterbij komt. Programma’s als The Mind of the Universe, van Robbert Dijkgraaf, bevestigen dat geloof.

Die universele waarheid zou dan ook moeten zorgen voor progressie in de ethiek en politiek, die op die manier een betere wereld mogelijk maken. Maar helaas: de ethiek en politiek zijn gekoppeld aan de menselijke aard, en in vergelijking met de technologie evolueert die veel minder snel. Daar heeft de neoliberale theologie te weinig oog voor.

En dat terwijl we nu al kunnen zien dat ethiek en politiek de technologie — waarin de ontwikkelingen exponentieel verlopen — uit het zicht verliezen. Zo duren wetgevingstrajecten nog altijd meerdere jaren, terwijl technologische innovaties in een steeds hoger tempo van de lopende band af rollen. Dat laatste wordt goed weergegeven door Alison E. Berman en Jason Dorrier, in een van hun artikelen over Ray Kurzweil (auteur van het boek The Singularity is Near): ‘Technology feels like it’s accelerating — because it actually is.’

We zullen sneller dan verwacht het punt bereiken waarop de wereld onbegrijpelijk wordt

Misschien kunnen we met behulp van kunstmatige intelligentie inderdaad de hemel op aarde mogelijk maken. Maar het valt te betwijfelen of de mens, beperkt rationele wezens die we zijn, in die hemel nog een rol speelt.

We zijn in een fase terechtgekomen waarin de ontwikkelingen van zelfdenkende computers, het zogenaamde machine learning, zo snel gaan dat we sneller dan verwacht het punt bereiken waarop de wereld voor de mens onbegrijpelijk is geworden. Een voorbeeld daarvan zien we op dit moment al in de financiële markten: daar is een deel van de handel in effecten en derivaten door zichzelf verbeterende computermodellen overgenomen. Die handel is met een menselijk brein niet meer te bevatten.

Hoogste waarheid

De Duitse filosoof Hans Blumenberg keek naar de ontwikkeling van moderne technologie als een legitiem antwoord van een wezen dat wordt geforceerd om zichzelf tegen een genadeloze natuur te beschermen. Hij zag dat juist; hij voorzag alleen niet dat dat wezen op een bepaald moment geforceerd wordt om zich tegen de door hem ontwikkelde technologie te beschermen.

De sceptische vooruitgangsapologeet Elon Musk voorziet dat wel. Musk is bang voor kunstmatige intelligentie. Ik kan die angst begrijpen: macht die puur op rationaliteit gebaseerd is, is een macht die, als ware het een god, denkt de hoogste waarheid te kennen. Zo’n macht zal uiteindelijk de democratie slecht verdragen, want in een democratie ontstaan ideeën die in de ogen van kunstmatige intelligentie irrationeel zijn — onzin dus.

“Zonder verzet ontwikkelt een wereld beheerst door een alwetend algoritme zich vroeger of later tot een totalitaire macht”

De democratie zorgt ervoor dat die macht vanuit een transcendent en/of irrationeel referentiepunt kan worden bekritiseerd. Dat referentiepunt, zoals politicoloog Hans Morgenthau aangaf in zijn essay The Surrender to the Immanence of Power: E. H. Carr, geeft ons de mogelijkheid om onszelf als ontoereikende en eindige wezens te zien waardoor de mens in een goede verstandhouding met zichzelf, zijn medemens en de wereld kan komen.

Aan die waarheid zal een wereld beheerst door een alwetend algoritme echter maar weinig belang hechten. Zonder verzet zal zo’n wereld zich dus vroeger of later ontwikkelen tot een totalitaire macht.

Francis Bacon gaf aan dat kennis macht is. En we weten door Lord Acton dat macht neigt naar corruptie, alsmede dat absolute macht absoluut corrumpeert. Ook absolute kennis zal dan logischerwijs absoluut corrumperen.

Het eindstation van de weg die we vanaf de renaissance zijn ingeslagen wordt zodoende een wereld zoals die in The MatrixIn deze film heeft kunstmatige intelligentie de macht van de mensheid overgenomen. De mens is in de Matrix ontdaan van zijn emoties en is een ultiem rationeel ontwerp geworden. De mens is daarmee de verwezenlijking van Descartes’ stelling: ‘Ik denk, dus Ik ben.’

The Matrix is het eindstation

De abstracte werkelijkheid van de linkerhersenhelft is in de Matrix onze enige perceptie van de werkelijkheid, de universele waarheid. In die werkelijkheid bepaalt een computeralgoritme onze verbeelding en daarmee de ordening van de samenleving.

In de film resteert mensen nog één keuze: een blauwe pil of een rode pil. De blauwe pil betekent een keuze voor de amorele wereld van computers waarin kennis regeert. De rode pil betekent daarentegen een morele wereld waarin de menselijke maat het uitgangspunt is. Moeten wij het zover laten komen? Het lijkt onvermijdelijk.

Het lineaire verloop van de ontwikkelingen in de ethiek kunnen het exponentiële verloop van de ontwikkelingen in de technologie niet meer bijhouden. Gelukkig gehoorzaamt op dit moment de technologie nog wel haar menselijke meester. En het verleden laat zien dat we zo wendbaar en vindingrijk zijn dat we tot nu toe altijd een oplossing vinden voor de problemen die we zelf hebben gecreëerd. We hebben ons lot nog in eigen handen.

Degenen die de loop van de geschiedenis willen veranderen, moeten dan echter wel wat gaan dóén. Als erfgenamen van het humanisme hebben we de plicht om de menselijke waardigheid te verdedigen. Als zelfstandig denkende wezens is hierin onze morele bestemming gelegen.

Wat is dan de oplossing?

Volgens de politiek filosofen Chiara Bottici en Benoît Challand kunnen politieke mythes zowel radicale verandering stimuleren — namelijk door alternatieven te openbaren — als verandering verhinderen, bijvoorbeeld door mensen te laten geloven dat de dingen nu eenmaal zijn zoals ze zijn.

Mensen hebben zowel mythos als logos nodig om zin aan het leven te geven

Om te voorkomen dat onze keuze straks beperkt is tot de neoliberale politieke theologie en de totalitaire macht van een alwetend algoritme, is het noodzakelijk om nu over de keerzijde van de huidige vooruitgangsmythe na te denken.

In Rethinking Political MythdoenBottici en Challand een oproep om het concept van de politieke mythe te herontdekken, om zo bepaalde verschijnselen van onze tijd — zoals de impact van de neoliberale versie van de vooruitgangsmythe en de daaraan gekoppelde botsing van culturen — te kunnen begrijpen.

Dat begrip kan ook de basis zijn voor het uitwerken van alternatieven voor een vooruitgangsmythe waarin logos centraal staat. Want hoewel die logos mensen helpt om via de wetenschap en de technologie zo efficiënt mogelijk gebruik te maken van de wereld, wordt door de focus op objectieve kennis de maatschappij stelselmatig ontdaan van de magische verwondering die bij de mythos hoort.

Juist deze mythos biedt namelijk het subjectieve narratief dat betekenis geeft aan een mensenleven. Het raakt de kern van het menselijk bestaan: een gevoel van autonomie en van verbondenheid met anderen en de aarde. Mensen hebben, kortom, zowel mythos als logos nodig om zin aan het leven te geven. Het is daarom de hoogste tijd dat we deze mythos weer een plaats in het maatschappelijk ordeningsprincipe te geven. Zo kunnen we de onttovering van de wereld vertragen — en voorkomen dat we op een dag wakker worden met het besef dat we te laat zijn.