Waarom het Amerikaanse leger de oorlog verklaart aan nepnieuws

De onderzoeksafdeling van het Pentagon lanceert een ambitieus programma waarmee het nepberichten uit de wereld wil helpen. Maar is dit technologisch haalbaar en wat zijn de mogelijke gevolgen? VRT NWS-journalist Tom Van de Weghe onderzocht aan de universiteit van Stanford een jaar lang het fenomeen van desinformatie en deepfake video's en analyseert het plan. 

Het Amerikaanse ministerie van Defensie beschouwt grootschalige, geautomatiseerde aanvallen van desinformatie als een bedreiging voor de Amerikaanse nationale veiligheid. De strijd tegen nepnieuws moet een prioriteit worden, en daarom lanceert het Pentagon een nieuw project onder de noemer "SemaFor", of Semantic Forensics Program.

Er zal fors worden geïnvesteerd in de ontwikkeling van speciale software die ervoor moet zorgen dat "vervalste berichtgeving" sneller kan worden opgespoord op sociale media. De tools worden door privébedrijven ontwikkeld onder het waakzame oog van DARPA (Defense Advanced Research Projects Agency), de onderzoekspoot van het Amerikaanse leger.   

Nieuwe algoritmes moeten erin slagen om nepnieuws te detecteren nog voor het viraal gaat. Dat gebeurt dankzij detectoren die alarm kunnen slaan zodra een tekst, foto, video of audio "semantische onsamenhangendheden" bevat. Die onsamenhangendheden kunnen in een foto of video bestaan uit bijvoorbeeld verschillende oorbellen, vreemde tanden of ongewone achtergronden.

Mensen kunnen dit vrij snel detecteren, maar voor computers blijkt het nog steeds veel moeilijker. Daar wil DARPA nu verandering in brengen. De Amerikaanse onderzoekers benadrukken dat de software vier jaar lang in een onderzoeksfase zal zitten, maar ze zijn ervan overtuigd dat de verspreiders van nepnieuws sneller tegen de lamp zullen lopen en afgeschrikt zullen worden. Als het project slaagt, hoopt DARPA over vier jaar ook alle "valse inhoud van kwaadaardig opzet" van sociale media te kunnen filteren.

Nepnieuws tegenhouden: een fictie?

Het is nog maar de vraag of dat realistisch is. Nepnieuwsverhalen en nepvideo's (de zogenoemde deepfakes) worden met steeds groter vernuft in elkaar gestoken. Ook al vloeit er veel investeringsgeld naar de ontwikkeling van detectietools, een feilloze technologische oplossing bestaat er nog steeds niet. Bovendien is er sprake van een heuse wapenwedloop: zodra een nieuwe detectietool ontwikkeld wordt, slagen de makers van nepberichten erin om die te omzeilen. 

Dat het Pentagon nu een versnelling hoger schakelt, heeft ook alles te maken met de presidentsverkiezingen van 2020. De Amerikaanse inlichtingen­diensten vrezen voor nieuwe buitenlandse inmenging, zoals de Russen dat gedaan hebben bij de verkiezingen van 2016. Die dreiging komt niet alleen uit Rusland, maar ook uit China. Zeker nu de handelsoorlog tussen de VS en China in alle hevigheid is opgelaaid.

De vrees voor Peking is ook niet onterecht. Er wordt aangenomen dat de Chinese technologische knowhow een serieuze sprong heeft gemaakt en de Amerikaanse technologie met rasse schreden inhaalt. Zo ging de voorbije dagen wereldwijd de nieuwe Chinese app ZAO viraal. Deze toepassing maakt het op basis van enkele selfies heel eenvoudig om een nepvideo of zogenoemde "deepfake" te creëren. Na een storm van protest over privacyschendingen heeft de app-ontwikkelaar intussen de gebruiksvoorwaarden moeten aanpassen.  

Op termijn zou dit programma een nachtmerrie kunnen betekenen voor journalisten

Dat het Amerikaanse leger het nieuwe strijdplan tegen nepnieuws nu lanceert, op een dik jaar verwijderd van de Amerikaanse verkiezingen, is dus geen toeval. Het is een vorm van propaganda. De kans is  immers klein dat er over 14 maanden een wondermiddel tegen nepnieuws op sociale media is uitgevonden. 

Maar er dienen bij SemaFor nog meer kanttekeningen geplaatst te worden: wat met kritische berichtgeving die niet past in het kraam van het Pentagon of de Amerikaanse regering en door de software gekwalificeerd wordt als nepnieuws? Op termijn zou dit programma een nachtmerrie kunnen betekenen voor journalisten.

Meer mediawijsheid

Na mijn ervaringen op de universiteit van Stanford, waar ik een jaar lang als onderzoeksfellow het fenomeen van desinformatie en deepfakes heb onderzocht, ben ik tot de conclusie gekomen dat het probleem van desinformatie niet zozeer een technologisch probleem is, maar vooral een psychologisch probleem. Het zit tussen onze oren. Het gevaar bestaat dat we binnenkort in een wereld leven waar alles kan worden afgedaan als nep, ook als het waar is. 

Tom Van de Weghe met het Deepfake Research Team aan de slag op de Stanford Design School

Zo wordt het makkelijker voor wie schuldig is om iets af te wimpelen als "fake news". Denk even terug aan hoe president Donald Trump zijn uitspraak "grab them by the pussy" eerst afdeed als stoere mannenpraat, maar daar onlangs op terugkwam en twijfel zaaide of het audiofragment wel echt was. 

Hoe reageren we als samenleving op de gedachte dat we niet meer kunnen geloven wat we zien of horen? Het is een vraag die dringend ernstig genomen moet worden. Want naarmate ons vertrouwen in instellingen zoals media, onderwijs en verkiezingen afneemt, dreigt ook ons geloof in democratie te verdwijnen. We moeten dus leren anders om te gaan met nepberichtgeving, door bijvoorbeeld zelf twee keer na te denken vooraleer we ze mee helpen verspreiden. 

Behalve investeringen in technologische oplossingen is er meer dan ooit behoefte aan investeringen in mediawijsheid, voor alle lagen van de bevolking. Het is bovendien geen lokaal probleem dat de Amerikaanse verkiezingen bedreigt, maar een internationaal probleem waar we allemaal vroeg of laat mee geconfronteerd worden. Helaas is van dit alles weinig terug te vinden in het ambitieuze plan van het Pentagon.