imago stock&people

De "Christchurch Call": online extremisme aanpakken is veel complexer dan extreme stemmen op sociale media bannen

In Frankrijk praten ministers en toplui van technologie­bedrijven over de aanpak van online extremisme. De ontmoetingen met topministers, maar ook de president van Senegal en de koning van Jordanië, worden geleid door de Franse president Emmanuel Macron en Jacinda Ardern, de premier van Nieuw-Zeeland. Vooral Ardern had aangedrongen op zo'n topontmoeting na de terroristische aanval op een moskee in Christchurch, waarbij 51 doden vielen. De schutter streamde zijn aanval minutenlang op Facebook. De Nieuw-Zeelandse premier zoekt steun voor haar plan, dat de naam "Christchurch Call" krijgt.

Hoe kunnen we online extremisme aanpakken? Dat is de inzet in Parijs. De vraag is eenvoudig en acuut. Het antwoord is complex.

Er lekten al details over het voorstel van premier Ardern: het zou de landen die het plan ondertekenen om online extremisme harder aan te pakken, ertoe oproepen om wetten goed te keuren én te handhaven die 'aanstootgevend' materiaal verbieden. Er wordt ook gesproken over richtlijnen voor 'traditionele' media om te berichten over terroristische daden zonder de mogelijke ideologie erachter verder te verspreiden. 

De aanslag in Nieuw-Zeeland wees nog maar eens op enkele belangrijke pijnpunten waarmee sociale media en bij uitbreiding onze maatschappij kampen. Hoe kan het dat een moordenaar 17 minuten lang rechtstreeks zijn dodelijke aanval uitzendt op Facebook? En die video vervolgens massaal wordt verspreid, becommentarieerd en toegejuicht.

Al vrij snel werd ook duidelijk dat dit een aanslag voor en 'door' online communities op het internet was, met verborgen boodschappen in de video en een complex manifest dat de dader achterliet op het internet. Media die verslag uitbrachten over de aanslag en de complexe internetwereld niet begrepen, zorgden er mee voor dat de extremistische boodschap van de schutter zonder context mee werd verspreid. De dader had trouwens zijn schietpartij aangekondigd via het anonieme forum 8chan en werd nadien daar ook glorieus bediscussieerd en gevierd.

8chan is, net zoals de site 4chan, een plek waar anonieme gebruikers met extreme ideeën elkaar vinden. En het is zorgwekkend dat een aanslag daar aangekondigd kan worden zonder dat ook maar iemand de inlichtingendiensten waarschuwt. Zo moeilijk is het nu ook niet om op die platformen te geraken, maar om er te kunnen volgen heb je wel een woordenboekje 'Alt-Right' nodig.

De dader van de aanslag staat binnenkort terecht en de rechtbank in Nieuw-Zeeland heeft beslist om minimale verslaggeving toe te laten. Net om te verhinderen dat via de klassieke en sociale media de extreme boodschappen nog luider en harder weerklinken. Je kan dat toejuichen, maar tegelijkertijd is het op deze manier ook moeilijk om te begrijpen wat zo'n man drijft en welke daden en ideeën hem ertoe hebben aangezet om zo'n moordpartij aan te richten. Als samenleving hebben we ook recht op die informatie.

Hoe pak je haat aan zonder iemand te verbieden zijn mening te zeggen?

De utopische visie van veel toplui van de bedrijven uit Silicon Valley was 'de wereld verbinden, zodat we mekaar beter zouden leren begrijpen en samen de wereldwijde problemen aanpakken'. Een van de problemen vandaag is nu net dat we allemaal verbonden zijn en dat mensen met extreme visies, aan álle kanten van het politieke spectrum, maar ook moslimextremisten en anderen die menen in het kader van hun religie een oorlog te moeten voeren, de technologie misbruiken om elkaars extreme ideeën te versterken en verspreiden.

Facebook bande enkele weken geleden controversiële figuren zoals complotdenker Alex Jones, Milo Yiannopoulos en Laura Loomer uit de zogenoemde Alt Right-beweging van hun platform. Gejuich en kritiek barstte los. Tegenstanders loven Facebook om eindelijk 'hate speech' aan te pakken. Medestanders zien in de ban een bevestiging dat Facebook tot het clubje van progressieve media behoort en wijzen erop dat de 'vrijheid van meningsuiting' toch ook maar relatief is op Facebook.

 Waar ligt de grens tussen haatberichten en de vrijheid van meningsuiting en hoe zorgen we ervoor dat autoritaire regimes regels en afspraken niet misbruiken om mensen het zwijgen op te leggen?

Facebook vindt zelf - en dat zeggen ze zelf vaak genoeg - vrijheid van meningsuiting zeer belangrijk. Daarom ook dat er veel berichten en commentaren die niet noodzakelijk waar zijn, grof zijn of ronduit gevaarlijke complottheorieën bevatten, niet verdwijnen. Plots worden er dan toch uiterst rechtse stemmen verbannen. Tegelijkertijd roept het ook vragen op dat Facebook ook nog altijd advertenties aanvaardt die de zogenoemde 'QAnon'-samenzweringstheorie promoot. 'QAnon' is heel eenvoudig uitgelegd een koepelnaam voor samenzweringstheorieën die de machtigste mensen ter aarde beschuldigen van de duisterste zaken. 

Het gevolg is dat die stemmen zich voor een deel verplaatsen naar andere platformen, zoals de chatapp Telegram, het extreme Gab en natuurlijk 4chan en 8chan. Geen zorg als u nu even niet weet waarover het gaat. Dat zijn niet de mainstream sociale media. En dus zal het nog moeilijker zijn om extreme stemmen te 'volgen', om te weten wat ze denken over onze maatschappij en wat ze allemaal vertellen. 

Maar wat zijn extreme stemmen? Wat is links en wat is rechts? Wat is extreemlinks en wat is extreemrechts? En zijn (extreme) politieke ideeën van een bedenkelijk niveau op een zelfde niveau te plaatsen als terroristische groeperingen? Waar ligt de grens tussen haatberichten en de vrijheid van meningsuiting en hoe zorgen we ervoor dat autoritaire regimes regels en afspraken niet misbruiken om mensen het zwijgen op te leggen?

Wie bepaalt die definitie, het verschil, de grens? Wie neemt beslissingen om extreme ideeën en figuren te weigeren? 

Wat al die figuren en groepen, hoe extreem ook, gemeen hebben, is dat ze de sociale media - in de breedste zin van het woord en apps die u en ik mogelijk niet eens kennen - gebruiken om mensen warm te maken voor hun ideeën, als organisatie te groeien en mensen te ronselen. Terreurorganisatie IS gebruikte jaren geleden al de chatapp Telegram, vergelijkbaar met WhatsApp, om relatief veilig te communiceren. Voor buitenstaanders was het geen evidentie om zicht te krijgen op die communicatie. 

Extreme stemmen gaan ondergronds en zijn nog moeilijker op te sporen

Vandaag zijn er in Telegram ook tientallen extreemrechtse kanalen te vinden. Snel op Google zoeken en je kan er zo in. Maar er zijn ook honderden geheime groepen waarvan niemand weet wat er wordt verteld. Daarnaast gebruikt IS ook chatapps als RocketChat of een netwerkdienst als Cloudflare om te communiceren. Extreme groeperingen verplaatsen instant hun communicatie van het ene kanaal naar het andere, soms onmogelijk te volgen. Ook de game-chatapp Discord is bij mensen die de ideeën van IS aanhangen populairder aan het worden. Discord is ook een online plek waar ook andere, vaak uiterst rechtse en neonazigroeperingen, zich ophouden. Opposites attract. Als ze al zoveel verschillen...

Als de populaire sociale media extreme stemmen bannen, dan zullen die stemmen zich nog meer naar de ondergrond verplaatsen. Daarom is de aanpak van online extremisme op een nieuw niveau tillen, zeker geen overbodige luxe. Integendeel. Vorig jaar al stelde de Europese Unie een wetgeving voor die bedrijven als Facebook, Google (YouTube) en Twitter verplicht om terroristische inhoud binnen het uur te verwijderen en te verhinderen dat die daarna nog op het platform verscheen. Een discussie die nog dringender werd na de lange, ongefilterde schietpartij in Christchurch. Maar tegelijkertijd moeten we er dus over waken dat overheden geen misbruik maken van die regel om te censureren. En opnieuw: wie controleert? En hebben inlichtingendiensten genoeg mensen en budget om ook die andere kanalen naast Facebook & co te analyseren?

De situatie is uiterst complex. Er zal veel meer nodig zijn dan overleg plegen met Facebook, Twitter en YouTube. Het is een begin en die 3 grote platformen mee laten nadenken en zelfs dwingen nog meer te doen om extreme boodschappen aan te pakken, is een absolute must. Maar het 'internet' is bovendien meer dan die drie bedrijven. Extreme stemmen de mond snoeren, is niet genoeg. Ervan uitgaan dat dit allemaal vanzelf gaat liggen en dat mensen hun gezond verstand gebruiken, daar kunnen we jammer genoeg ook niet van uitgaan. We moeten doordringen in het hart van hun kanalen en de manier waarop ze de technologie misbruiken om haat te verspreiden. Moge de 'Christchurch Call' daarvoor een extra aanzet zijn, maar de strijd is verre van gestreden.