Zwermen van honderden AI-bots kunnen een nieuw tijdperk van online desinformatie inluiden, waarschuwen Duitse wetenschappers. Ze kunnen online de indruk wekken van een brede consensus, waardoor de democratie in gevaar komt.
Een nieuwe bijdrage in Science Policy Forum waarschuwt dat de volgende generatie desinformatiecampagnes er mogelijk niet uitziet als voor de hand liggende “copy-paste bots”, maar als gecoördineerde gemeenschappen: zwermen van door AI aangestuurde accounts die zich in realtime kunnen aanpassen, groepen kunnen infiltreren en op grote schaal de schijn van publieke consensus kunnen creëren.
De auteurs beschrijven in het artikel hoe grote taalmodellen (Large Language Model of LLM) in combinatie met zogenaamde ‘multi-agentsystemen’ de vorming van “kwaadaardige AI-zwermen” mogelijk zouden kunnen maken.
Zo’n zwerm is een netwerk van door AI aangestuurde accounts die samenwerken aan een gedeeld doel, maar wel sterk kunnen variëren in toon, vorm en inhoud. Ze passen zich aan aan online interactie en menselijke reacties en worden overheen verschillende platformen ingezet. Zo kunnen ze heel diverse, content genereren die onderliggend toch een gemeenschappelijke boodschap doordrukt. Door intelligentie en variatie zijn ze veel moeilijker te detecteren dan traditionele bots.
Groepsdruk
Het verschil zit niet alleen in de inhoud van de posts, die veel geraffineerder wordt dan die van huidige bots, maar in de kunstmatige, valse consensus die zo gevormd wordt, zeggen de auteurs.
De zwermen kunnen immers de illusie scheppen dat “iedereen dit zegt”. Die valse consensus kan overtuigingen en normen beïnvloeden, zelfs als mensen het niet eens zijn met de inhoud van individuele beweringen.
“In ons onderzoek tijdens Covid-19-periode zagen we dat desinformatie zich net zo snel over de grenzen verspreidde als het virus zelf”, vertelt Meeyoung Cha, wetenschappelijk directeur bij het Duitse Max Planck Instituut voor Veiligheid en Privacy. “AI-zwermen die in staat zijn tot om synthetische consensus te creëren zouden die dreiging naar een nog gevaarlijker niveau kunnen tillen.”
In plaats van berichten stuk voor stuk te modereren, pleiten de auteurs voor verdedigingsmechanismen die gecoördineerd gedrag en de herkomst van content volgen. Zo zou ook statistisch onwaarschijnlijke coördinatie gedetecteerd kunnen worden.
Blijf op de hoogte met de nieuwsbrief. Meld je hier aan.
( Je kunt ons ook steunen door lid te worden of te doneren )
