Overleeft de vrije geest, of worden we slaaf van algoritmes?

Gaan zelflerende computersystemen (kunstmatige intelligentie, KI of AI, artificial intelligence) de mensheid overheersen? Het is een vraag die de laatste tijd steeds vaker voorbijkomt in media en discussies. Erik van Praag dook erin en schreef een driedelige serie met als titel Homo spiritus, homo mechanicus of homo servus? Daarin belicht hij de vraag, of de vrije mens een toekomst heeft, van verschillende kanten. We hebben de stukken voor je samengevat in één artikel.

De eerste kwestie die bij deze vraag vaak wordt overgeslagen is: zijn wij mensen meer dan een technisch algoritme? Dit raakt aan de discussie over het al dan niet bestaan van een vrije wil, een vrij geweten  – dan bedoel ik niet de aangeleerde normen, maar een dieper besef van goed en kwaad -, de vrije geest.

De wetenschappers die het bestaan van een vrije wil ontkennen baseren dit op het feit dat de elektrochemische processen in de hersenen aan het bewustzijn van onze wil en het daaruit voortvloeiende handelen voorafgaan. Deze processen zelf zouden dan weer het gevolg zijn van een toevallige keten van oorzaak en gevolg, of weer aangestuurd worden door onze genen of invloeden van buitenaf. Die stimuli zijn zelf eveneens als elektrochemische processen te beschrijven. De wetenschappers die deze theorie aanhangen zien de wereld dus als een louter materiële werkelijkheid.

Twee vragen worden door die wetenschappers niet beantwoord:

1. wat zet die keten van oorzaak en gevolg in beweging, en

2. hoe worden die elektro-chemische processen omgezet in bewustzijn (beleving, ervaring). Daarom moet deze theorie niet als bewezen worden beschouwd, maar heeft ze de status van een geloof. Zij die niettemin met grote stelligheid beweren dat dit DE waarheid is, moeten dus als dogmatici of fundamentalisten worden aangemerkt.

Het feit dat materiële hersenprocessen aan het bewustzijn van een wilsbesluit voorafgaan bewijst niet dat de oorzaak van die processen niet toch in het geestelijke is gelegen. Het is heel goed mogelijk dat de geest ons bereikt via die hersenprocessen, waaruit dan automatisch volgt dat het bewustzijn van die geest in de tijd volgt op de hersenprocessen zelf. Muziek die wordt uitgezonden en ons via de radio bereikt brengt ook eerst een elektronisch, fysisch proces op gang alvorens het geluid uit de radio komt.

Ik vind het persoonlijk onbegrijpelijk dat de ‘materialisten’ onder de wetenschappers met die mogelijkheid helemaal geen rekening houden. (Terzijde: wat zou hen er toe brengen om zo hardnekkig aan een onbewezen theorie vast te houden – elektro-chemische processen of de geest? Daar zijn vanuit biologische en psychologische zijde heel wat interessante theorieën op los te laten).

Terug naar de vraag: gaat KI ons overheersen? Voor het antwoord op die vraag maakt het heel wat uit of de materialisten, dan wel de geesteswetenschappers gelijk hebben. Mij  persoonlijk spreekt de geesteswetenschappelijke theorie meer aan; die komt ook meer overeen met hoe de meeste mensen het beleven. Maar weten doe ik het natuurlijk niet.

Homo mechanicus

Als de materialisten gelijk hebben is een uiteindelijke overheersing door zelflerende systemen, zoals die nu al ontwikkeld worden door Google en Amazon, erg waarschijnlijk. Het is in dat geval namelijk heel gemakkelijk om een verbinding te maken tussen mens en machine (het virtuele systeem), door elementen van dat systeem in de mens te implanteren. In feite gebeurt dat nu al in de medische praktijk. Zo worden automaatjes geïmplanteerd, die bij suikerpatiënten de insuline afgifte reguleren, of pacemakers, die de hartritmes regelen. Het is een kleine moeite om die implantaten te verbinden met een virtueel systeem, dat dan vervolgens meer kan regelen dan hetgeen waarvoor die implantaten bedoeld zijn. Zo zullen er ook hersenimplantaten beschikbaar komen, die gestoorde hersenfuncties, als gevolg van een beroerte of herseninfarct, kunnen overnemen.

De volgende stap is dan, dat ook meer gecompliceerde stoornissen, zoals Alzheimer, Parkinson of Multiple Sclerose op die manier kunnen worden verholpen. En als laatste niet ondenkbare mogelijkheid kunnen meer mentale hersenfuncties, zoals de gewetens- of wilsfunctie door implantaten worden aangestuurd. Dit is echter zo’n complex proces, dat dit alleen maar zal kunnen als die implantaten met een groot zelflerend systeem zijn verbonden. Voor die mensen is dan de overheersing door KI een feit. En het zou kunnen zijn dat dit zo ‘perfect’ werkt, dat niet alleen zieke mensen, maar ook gezonde mensen op dit soort systemen kunnen worden aangesloten.

Het is denkbaar dat daar massaal gebruik van wordt gemaakt. De mensen hebben volgens deze visie immers geen vrije wil, dus als gezien wordt dat de systemen op het eerst gezicht effectiever en succesvoller zijn dan het per definitie beperkte menselijk brein, dan is de ‘keuze’ snel gemaakt. We gaan dan leven in een wereld die overheerst wordt door ‘cyborgs’ (cybernetic organisms): humanoïde robotten, oftewel de posthumane mens, de homo mechanicus.

Dit alles zou ook nog kunnen gebeuren via het ‘internet der dingen’. Er worden dan gadgets in je huis of in je auto geplaatst, die behalve datgene doen wat ze moeten doen (thermostaat, zelfsturende auto, enz.) ook opnemen wat er in je huis of in je auto gebeurt. Deze gegevens worden dan weer opgenomen door de zelflerende systemen, die op die manier nog weer meer over je te weten kunnen komen. Vervolgens kunnen vanuit die ‘dingen’ ook weer instructies gestuurd worden naar je hersenen – al zal dat nog vrij lastig zijn als er in je hersenen of elders in je lichaam niet een ‘ontvangsttoestel’ is geplaatst.

Beest met een geest

Als de mens echter een ‘beest met geest’ is met een vrije wil, dan ligt de zaak wat gecompliceerder. Weliswaar kan ook in dat geval de route van geest via hersenen naar bewustzijn en gedrag geblokkeerd worden door een virtueel systeem, maar dan wordt daar wel bewust voor gekozen. En het is heel wel denkbaar dat een aanzienlijk aantal mensen daar dan niet voor kiest. Zij zien dan willens en wetens af van de voordelen die aansluiting op het virtuele netwerk biedt, omdat ze niet door het netwerk gedomineerd willen worden. Zelfs is het denkbaar dat deze mensen op een bewuste wijze gebruik kunnen maken van KI, terwijl ze zelf meester blijven. Deze mensen zijn dan geen cyborg maar een verbeterde versie van de humane mens: de homo spiritus.**)

AI als Leidend Beginsel

Er zijn in de geschiedenis van de mensheid altijd perioden en momenten geweest waarin een veelheid van  mensen zich heeft onderworpen aan een externe autoriteit (God, priester, goeroe, demagoog), godsdienst, ideologie of hype ten koste van hun individuele autonomie. Ook heden ten dage zien we dat gebeuren. Het kan zich op massale schaal voordoen (nazisme, fascisme, communisme, godsdienst), of op kleinere schaal (goeroe’s, sektes). Het kan eeuwen duren (middeleeuwen), jaren, of enkele dagen of uren (bijv. in voetbalstadions of bij massademonstraties). Een merkwaardig aspect van dit verschijnsel is dat de mensen in een dergelijk proces in hoge mate hetzelfde gedrag vertonen en hetzelfde denken, maar vaak weinig diepgaand onderling contact hebben (zie bijvoorbeeld: Kurt Baschwitz, Denkend mens en menigte, 1940). Ze blijven relatief geïsoleerde individuen.

De interessante vraag die zich nu voordoet, zullen we ons ook op die manier gaan uitleveren aan de grote, zelflerende intelligenties die in de komende tijd zullen worden ontwikkeld? Zullen we ons in ons dagelijks gedrag laten leiden door de adviezen, of zelfs instructies die deze systemen aan ons voorleggen, met name als blijkt dat die adviezen en instructies veel sneller en veel effectiever tot voor ons heilzame gevolgen leiden dan we dat zelf kunnen doen?

Maar zal het echt zo zijn, dat die adviezen, instructies en ‘handelingen (via ‘cyborgs’) van die systemen altijd heilzaam zijn? Dat hangt van een paar dingen af. In de eerste plaats van hoeveel die systemen van ons weten. Het is nu al zo dat Facebook, Google, Amazon en dergelijk organisaties al meer weten over onszelf dan we zelf op een rijtje hebben, dus dat ze vaak beter lijken te weten wat we in bepaalde situaties moeten doen of kiezen dan wijzelf. Het valt te verwachten dat in de nabije toekomst dit nog verder geperfectioneerd gaat worden.

In de tweede plaats hangt het er van af hoe die systemen geprogrammeerd gaan worden. Wat is het doel waarnaar zij streven? Is het zo dat die systemen altijd werken tot heil van het individu of van de collectiviteit? En wat zullen de systemen doen als er tegenstrijdigheid ontstaat tussen de effecten van verschillende handelingen? Is het bijvoorbeeld geoorloofd mensen te doden om erger onheil te voorkomen, en waar ligt in dat geval de grens? (Een interessante case is aan de orde in het toneelstuk Terror, nog te zien in Juni 2018, zie . Ook science fiction, zoals de roman Ik, robot, van Isaac Asimov, gratis uitgedeeld door Openbare Bibliotheken, laat zien waar die situatie toe kan leiden ).

Homo servus, de mens als slaaf

Wat zal het worden? Zal de post-humane mens, de homo spiritus, meester blijven over de intelligentie-systemen, of zullen we er slaaf van worden (homo servus)? En in het laatste geval: wie zijn dan de meesters? De (super-)rijke bezitters van de systemen? Maar zij zijn niet in staat die systemen te programmeren. Dus misschien zijn het de weinige techneuten die deze systemen nog min of meer begrijpen, en ze min of meer kunnen programmeren die de werkelijke meesters zijn. In dat geval mag je hopen dat zij geen cyborgs zijn, want dan is de kans niet uitgesloten dat de zelflerende systemen de macht overnemen, en de techneuten zelf ook slaven worden.

Ik denk dat onze enige hoop gelegen is in de menselijke geest, waarin we dus allereerst moeten geloven, en die we dan vervolgens zo goed mogelijk moeten ontwikkelen. Die geest zal dan beseffen, dat moeilijkheden en pijn een onlosmakelijk deel uitmaken van het leven zelf, en dat we gemakzucht niet boven alles zouden moeten stellen en niet zouden moeten streven naar een uitsluitend soepel en gladjes verlopend bestaan. Een  dergelijk bestaan zou armoedig en leeg zijn.

Als velen van ons zich dat realiseren, kan het zijn dat de toekomst niet is aan de systemen, maar aan de homo spiritus, die dan zelf kan beoordelen of, en in welke mate, die systemen bijdragen tot ons welzijn, en in hoeverre en op welke wijze hij van die systemen gebruik wil maken. Intussen raad ik u aan om uiterst kritisch te zijn met het toelaten van gadgets en apparatuur in uw huis of auto, en zeker in uw lichaam (of dat van uw kinderen!), die verbinding heeft met internet. U heeft die apparatuur al (bijvoorbeeld uw navigatiesysteem, thermostaat, telefoon of computer), dus u kunt er maar beter zeker van zijn dat die apparatuur niet op oneigenlijke wijze gebruikt wordt.

Erik van Praag

Deze tekst over KI is sterk geïnspireerd door:

• Dorien Pessers, Afscheidscollege op de VU, 7 juli 2017, zie De Groene Amsterdammer, 7 september 2017;
• het artikel van Christian Jongeneel in Het Technisch Weekblad van 8 dec. 2017: Kunstmatige intelligentie, van hype naar hype;
• en het boek van Yuval Noah Harari, Homo Deus, 2017.