Wat als AI geen bubbel is, maar een zwart gat?

Eind vorig jaar schreef ik over de risico’s dat AI, kunstmatige intelligentie, een bubbel wordt. AI-expert Luciano Currie wees vervolgens op nog een risico, namelijk dat van niets doen. Want stel je voor dat AI geen bubbel is. Maar naast een bubbel kan AI net zo goed een zwart gat worden. Zeker wanneer je vanuit een duurzaam perspectief kijkt.

Currie’s insteek is: Begin. Experimenteer. Bouw kennis op. Want of dit een zwart gat wordt of een ster hangt niet af van de technologie. Het hangt af van wat wij ermee doen. Zijn reactie op AI als zwart gat lees je hier.

Die reactie beschrijft vooral een bedrijfsmatig perspectief. En het klopt dat de ontwikkelingen zo snel gaan dat je als ondernemer wel AI-kennis moet opbouwen om bij te blijven en überhaupt nog verantwoorde beslissingen te kunnen nemen.

Datzelfde geldt ook voor de beslissers in het maatschappelijke veld, bestuurders en politici, die de toekomst voor burgers in goede banen moeten leiden. Maar is dat genoeg om aan een zwart AI-gat te ontsnappen?

Mens en duurzaamheid buitenspel

Wie naar de toekomst kijkt, kan niet om duurzaamheid heen. En die blik levert een interessante tegenstelling op: duurzaamheid gaat in de kern over bescherming van menselijk welzijn (binnen het planetaire ecosysteem) waar de ultieme bedreiging (en misschien ook wel het ultieme succes) van AI de mens buitenspel zet.

Zover is het nog niet, maar de ontwikkelingen volgen wel een patroon dat we maar al te goed kennen vanuit de geschiedenis: elke stap in de vooruitgang levert uiteindelijk nieuwe en grotere problemen op voor de samenleving en de planeet. Van vuur naar fossiele energie naar klimaatverandering. Van drukpers naar internet naar informatievervalsing. Van buskruit naar kernsplitsing naar atoombom. En we krijgen steeds minder tijd om die problemen op te lossen voordat er een nieuwe golf op ons afkomt.

Hadden we een paar eeuwen geleden nog generaties de tijd om ons aan een innovatie aan te passen, nu moet elke generatie meerdere innovatiegolven achter elkaar en soms zelfs tegelijk verwerken. En dat terwijl de samenleving ook nog ongelooflijk veel complexer is geworden. De tijd om te leren verdampt en de kans op fouten, en het herhalen daarvan, neemt exponentieel toe.

AI is vanuit die ontwikkeling een logische volgende stap: als de mens het zelf niet kan bijhouden, verzinnen we daar wel een technische oplossing voor. En als die mens de ontwikkelingen toch niet kan bijhouden, waar dient die dan nog toe?

Zwart gat in actie

In mijn vorige stuk passeerden al een aantal bekendere risico’s van AI de revue. Zoals het explosieve energie- en materiaalverbruik en de gevolgen daarvan voor klimaat en milieu. De enorme kapitaalinvesteringen die geld wegtrekken van de duurzame transitie. Het verlies aan arbeid en de toenemende tweedeling in de maatschappij. Het afbreken van vrijheid en veiligheid door desinformatie. Ethisch verval.

Naast energie, water en grondstoffen verdwijnen uiteindelijk werk, ethiek, de waarheid, vertrouwen en de bestaanszekerheid van alle niet-rijken in een zwart gat.

Daar komen nu, terwijl je dit leest, nog een paar nieuwe gevaren bij:

• tijd wordt te kort  om te begrijpen, te leren en reageren
• effectieve vrijheid en democratie, waarbij de VS nu zelfs bedrijven chanteert om AI in te zetten zonder bescherming tegen moorden en bespieden, zoals in de zaak tegen Anthropic.
• het vernietigen van waarde, diversiteit en kennis, waarbij ai wordt ingezet als substituut voor parate kennis en leervemogen.

Voorzorg

Kortom, de risico’s stapelen zich op. De duurzame gereedschapskist bevat echter een belangrijk instrument om die risico’s binnen de perken te houden: het voorzorgsprincipe. Dat stelt simpel verwoord dat producten, processen of methodes waarvan niet kan worden bewezen dat ze geen schade zullen toebrengen aan mensen, ecosystemen of de samenleving, niet mogen worden toegepast. Dat staat in schril contrast met wat er nu gebeurt, in het hele terrein van technische en bedrijfsmatige ontwikkeling: afbreken en vernieuwen, om het vernieuwen zelf en om geldelijk gewin. De gevolgen zien we later wel is de redenering en de schade herstellen we met nieuwe oplossingen, volgens hetzelfde principe. AI doet dat met hypersonische snelheid.

Waarde, met uitzondering van geld, speelt geen rol in het proces. Welzijn, waarheid en vrijheid van mensen worden opgeofferd aan de belangen van enkele bedrijven en megarijken en verdwijnen zo mee in het AI-gedreven  zwarte gat.

Of AI een zwart gat wordt, hangt mede af van wat wij ermee doen, schreef Luciano Currie.

Maar we zijn steeds sterker afhankelijk van wat we ermee kunnen doen. En dat verschilt per type AI. Er is analytische AI, die een begrensde dataset analyseert op basis van een gecontroleerd model en die zo verbanden kan ontdekken die helpen om complexe problemen op te lossen, zoals in de medische wetenschap of het klimaatonderzoek. Die vorm is goed te beheersen.

Bij generatieve AI, die we als ChatGPT en soortgelijke kennen, ligt dat anders. Die modellen worden aangestuurd door algoritmes waarvan de makers het gedrag niet kunnen voorspellen en waarvan de grenzen worden bepaald door wie de macht heeft over de algoritmes. Kijk bijvoorbeeld naar de vrijheid om een vraag te formuleren, die is nu al beperkt.

Bovendien kunnen deze algoritmes worden getraind met data die ze zelf genereren. In deze vorm schuilt het grootste gevaar. En op deze vorm hebben we als gebruikers geen invloed. Zelfs als we er niet actief gebruik van maken, staan we nog bloot aan de invloed ervan via media en tools die we toepassen. Vooral generatieve AI gedraagt zich als een zwart gat.

Na de bubbel

En de bubbel? In verhouding is die kinderspel. Een bubbel speelt zich vooral op financiële markten af en in gerelateerde sectoren in de economie. Als die barst, doet dat pijn. Meer pijn dan in het verleden, omdat bij eerdere bubbels er nog bruikbare infrastructuur overbleef die voor nieuwe ontwikkelingen kon worden gebruikt, zoals spoorwegen of datakabels. De infrastructuur voor AI is zo gespecialiseerd en veroudert zo snel dat je er weinig mee kan voor andere toepassingen. Maar toch, het barsten van de AI-bubbel is niet onze grootste zorg.

Die zorg is er vooral voor het verdwijnen van de fundamentele waarden waarop onze beschaving is gebaseerd: menselijkheid, moraliteit en respect voor het ecosysteem waar we deel van zijn. Vrijheid en zelfbeschikking.

Wat als AI geen bubbel is, maar een zwart gat? Dan staat ons menszijn zelf op het spel. De mens gereduceerd tot een hulpje om AI in stand te houden. Voor zolang als dat nog nodig zal zijn.

Peter van Vliet