Een screenshot uit het campagnefilmpje van SP.A

Deep fake: wat een door SP.A gemanipuleerd filmpje met Trump en pornovideo's gemeen hebben

In een filmpje op sociale media roept de Amerikaanse president Donald Trump ons land op om uit het klimaatakkoord van Parijs te stappen. Het filmpje is nep en past in een campagne van SP.A om de klimaatdiscussie opnieuw op gang te trekken. Volgens VRT-journalist Tim Verheyden zijn gemanipuleerde 'nieuwsvideo's', die niet uitgesproken humoristisch zijn, ethisch maar moeilijk te verdedigen.

Ook gezien, dat filmpje met de Amerikaanse president Donald Trump? In een voor kenners duidelijke nepvideo suggereert Trump dat België, net als de Verenigde Staten, ook het lef moet hebben om het klimaatakkoord van Parijs te laten voor wat het is. Want ons land heeft, volgens de nep-Trump, toch geen duidelijke maatregelen tegen de opwarming van de aarde genomen. Het is -en we citeren- 'blablabla' en 'bingbangboom'.

De reacties op de Facebookpagina van SP.A lopen nogal uiteen. Zo lezen we er onder meer dat Luc en Stephan het nogal een zwakke campagne van SP.A vinden. Anderen zijn positief en vinden het goed dat er wat meer aandacht is voor de opwarming van de aarde. Pascal en Clemence daarentegen lijken zich er niet van bewust dat het een gemanipuleerde video is. Een parodie. Daar schuilt meteen ook al het gevaar van zo een filmpje: haal het uit zijn context en je krijgt een heel ander verhaal.

"We hebben deze video gemaakt omdat we de discussie over het klimaat actueel willen houden. Het klimaatakkoord komt weinig aan bod in de klassieke media en via de sociale media willen we opnieuw meer aandacht voor het thema", verduidelijkt SP.A-woordvoerster Sarah Vandecruys, "het filmpje is duidelijk nep en dat zie je er ook aan. Aan het einde van de clip wordt het ook gezegd".

Dat is juist, al moet je wel goed luisteren, want de audio wordt zachter om meer aandacht te besteden aan de tekst die in beeld komt. Als reportagemaker weet ik dat als mensen audio horen en op hetzelfde moment een tekst in beeld moeten lezen, ze meestal alleen maar op de tekst focussen. 

"Het filmpje, dat meteen duidelijk maakt dat het ‘fake’ is,  heeft als doel om op impactvolle wijze het klimaatthema opnieuw aan te kaarten. Het is een parodie, die weliswaar heel erg goed ‘nagemaakt’ is door onze motion designer. Het ging voor ons dus meer over het effect van de video dan om de 'deep fake' techniek, zoals dat wordt genoemd",  vertelt Eline Goethals. Eline is strategisch planner bij Happiness en mee verantwoordelijk voor de productie. "We wilden met deze parodie de aandacht trekken en mensen wakker schudden als het over het klimaatthema gaat. Daarom hebben we gespeeld met de tegenstelling "Trump & klimaat" en het feit dat onze overheid het klimaatakkoord onderschrijft, maar niets doet. Het filmpje heeft als bedoeling om dwingend zijn. En zoals met alle provocerende campagnes heb je voor- en tegenstanders".

Ook het filmpje van Greenpeace waarin Maya De Bij sigaretten aanprijst is provocerend en dient om, volgens Greenpeace, te waarschuwen voor ongezonde producten van productiehuis Studio 100. De reclame is niet echt, maar dat is voor alle duidelijkheid niet wat we verstaan onder gemanipuleerde video's. In gemanipuleerde video's worden bestaande beelden 'bewerkt'.

Weg context, je video is vogelvrij

Experimenten met gemanipuleerde video's in tijden van nepnieuws is een niet ongevaarlijk idee. Binnen de contouren van een politieke campagne mag dan wel duidelijk zijn dat een parodie op Trump dient om een boodschap onder de aandacht te brengen, maar als de discussie ook gaat over de manier waarop de campagne is gemaakt, dan verliest de boodschap meteen een deel van zijn kracht.

De video werd ook meteen door de website leadstories.com, die nepnieuws ontkracht en ontmaskert, bestempeld als 'fake news'. Onderzoeker Alex Kaplan noemt deze video 'deep fake' (daarover hieronder meer), een term die wordt gebruikt om vernuftige en via de computer gemanipuleerde video's, te beschrijven. Maar is de video van SP.A dan ook echt 'deep fake'? Misschien niet helemaal, maar dit soort video's kan wel het nieuwe nepnieuws worden, waar nepnieuws nu vaak alleen nog in geschreven vorm opduikt.

'Barack Obama': Trump is een 'dipshit'

De Amerikaanse komiek Jordan Peele waarschuwde onlangs voor de gevaren van nepnieuws in een filmpje waarin hij zelf aan de slag gaat met beelden van voormalig president Obama. 

Video player inladen ...

Voor de vlugge kijker lijkt het hartstikke echt. Als je goed kijkt, zie je wel dat de mond van Obama er een beetje vreemd uitziet. De mond van de komiek is 'gekopieerd' in een echte video van Obama. Daarna kroop er dagen werk in om de video te verfijnen. Een tip: twijfel je aan een echtheid van een video, focus goed op de mond van de persoon die spreekt. Dat kan je al helpen.

Het gezicht van Tim en een collega 'geswapt'

Wie de app Snapchat op zijn smartphone heeft, kent de optie 'face swap'. Zo kan je je eigen gezicht op het lichaam van iemand anders zetten. Leuke gimmick. Ik moest zelfs hardop lachen toen een collega me zo een filmpje -een screenshot zie je hierboven- waarin hij onze gezichten samenvoegde, doorstuurde. Maar wat Peele doet kan je gerust al 'face swap pro' noemen. En het kan op termijn allemaal minder onschuldig dan dit worden.

Computer says... wat het wil

Er bestaat ook een video van Barack Obama die gemaakt is door computerwetenschappers aan de universiteit van Washington. 

Video player inladen ...

Waar Jordan Peele Barack Obama nog imiteert, gaat de computer hier simpelweg samengevat zelf aan de slag: onderzoekers hebben een computer gevoed met video en geluidsopnames van de voormalige president. De computer analyseert onder meer de mondbewegingen en als de machine genoeg data heeft, kan hij -met input van mensen- een video produceren waarin een president van de Verenigde Staten iets met grote stelligheid kan beweren, maar wat daarom nog niet waar is. De opnames van de video, op een klassieke manier met een camera en geluid, hebben uiteraard nooit plaatsgevonden. Maar eens zo een gemanipuleerde video zijn weg vindt op sociale media, is er geen houden meer aan.

In een wereld waarin video elke dag belangrijker wordt, kan iemand die aan de slag kan met deze software -die op termijn nog verfijnder zal worden- een wereldleider eender welke woorden in de mond leggen. Leuk als je een collega wil uitwuiven die met pensioen gaat of een neefje wil feliciteren die net 18 is geworden. Maar het kan ook conflicten op wereldwijde schaal veroorzaken.

Nu al is nepnieuws oorzaak van veel ellende: conflicten tussen moslims en boeddhisten in Sri Lanka bijvoorbeeld. Nepnieuws voedt ook de haat tegenover de Rohingya-bevolking in Myanmar. In 2016 las een Pakistaanse minister van Defensie op een nepnieuwssite dan weer dat Israël Pakistan had bedreigd met een nucleaire aanval. Wat leidde tot een niet mis te verstane boodschap op Twitter dat 'ook Pakistan een nucleair arsenaal heeft'.

Het begon met... porno

Het produceren van nepnieuwsvideo's wordt 'deep fake' genoemd en is gestart met een gemanipuleerde pornovideo. Een 'maker' had het hoofd van een bekende Amerikaanse actrice gemonteerd op een seksscène met een 'echte pornoactrice'. Later plaatste hij de video op het  sociale mediaplatform 'Reddit'. Zijn accountnaam: 'deepfakes'.

Ook 'Wonder Woman'-actrice Gal Gadot werd slachtoffer van zo een door artificiële intelligentie gecreëerde nepvideo. De manipulatie is amper te zien.  Voor iedereen die een beetje met 'open source'-software aan de slag kan -dat is software die voor iedereen toegankelijk is- is het een fluitje van een cent om nepvideo's te maken.

Een gemanipuleerde foto van Gal Gadot. Haar hoofd is op het lichaam van een actrice gemonteerd

Reddit heeft de video's intussen al een tijdje verwijderd, maar het inspireerde andere makers om hetzelfde te doen. Intussen zijn er ook al gemanipuleerde pornovideo's opgedoken met onder meer Angelina Jolie en Melania Trump.

In Amerika is het strafbaar als zo een nepvideo niet overduidelijk een parodie is. Ook in ons land mag niet alles zomaar. Jurist Matthias Dobbelaere-Welvaert: "Iedereen heeft een 'recht op afbeelding', het portretrecht, zoals vastgelegd in het auteursrecht. Je mag dus niet zomaar foto’s, video’s of '3D-mapping' van anderen gebruiken op commercieel vlak, laat staan in ‘deep fake' video’s. Bovendien verhindert de privacywet van 1992 en zeker de nieuwe GDPR-wetgeving dat iemand je persoonsgegevens, zoals een foto, kan gebruiken zonder toestemming. Dat geldt ook bij dit soort video's. En afhankelijk van de inhoud van de nepvideo, kan je ook 'laster en eerroof en schending van de goede zeden' inroepen. Zeker gezien de impact die zo een video kan hebben op jezelf, je familie, je vrienden en je werkgever. En dan kan je de makers voor de rechter dwingen".

Niet alleen video valt te manipuleren, er bestaat ook software die iemand uitspraken kan laten doen die nooit echt gezegd of gebeurd zijn. Softwareontwikkelaar Adobe heeft zo een tool. Volgens Adobe heeft de software genoeg aan 20 minuten stemopnames en kan het dan de computer laten zeggen wat het wil. Wil je Donald Trump je voice mail laten inspreken? Het kan.

Deze video op YouTube toont hoe eenvoudig het is. Maar er is ook een andere kant. Iemand die echt controversiële uitspraken doet of leugens verspreidt, kan daarna verwarring zaaien door de geloofwaardigheid van de opnames onderuit te halen en te beweren dat ze gemanipuleerd zijn. Ook al is dat niet het geval. Maar eens er twijfel bestaat, wordt een discussie nog moeilijk. 

Video player inladen ...

Wie niet(s) meer gelooft, kan je alles wijsmaken

Nepnieuws is niet nieuw. Het verzinnen van verhalen is niet nieuw. Propaganda is niet nieuw. Photoshop is niet nieuw. Maar de technologie en de middelen waarmee nepnieuws worden verspreid wel. En ze worden verfijnder. Net als de technologie die zal gebruikt worden om ook nepvideo's te maken. 'Echt' en'nep' worden almaar moeilijker te onderscheiden. Machines kennen geen ethiek.

Voorlopig blijft de techniek ook beperkt tot het manipuleren van mensen die een speech geven of een interview, rechtstreeks in de camera. Over met de computer  gemanipuleerde of in scene gezette 'nieuwsgebeurtenissen' zijn er nog geen berichten.

Misschien mag je van politieke partijen ook andere campagnemiddelen verwachten dan goochelen met de waarheid. Hoe goed bedoeld misschien ook, het vertrouwen in politiek en de media is laag. Een kostbaar bezit dat we hebben is 'de waarheid'. En zelfs daar kunnen we nog urenlang over filosoferen. Want wat is dat, de 'waarheid'? Blijf er vanaf. Of maak je nepvideo zo goed dat het een campagne van wereldformaat is. Of een dijk van een grap.

Nepnieuws is gevaarlijk. Het beïnvloedt de publieke opinie, ons allemaal. Het zet mensen tegen mekaar op. Nepnieuws en misinformatie kalft het vertrouwen in instellingen, politiek en media stapje per stapje af. Wie en wat moeten we nog geloven? De Duitse schrijfster en filosofe Hannah Arendt zei ooit dat "mensen die niet meer geloven wat ze zien en lezen, zich ook geen mening meer vormen. En mensen die niet weten wát ze moeten geloven, kan je alles wijsmaken". 

Wees kritisch. Denk na. En best langer dan een nanoseconde. Ga niet op je eerste en instinctieve emotie af, waar sociale media zo vaak op voortdrijven.

Of om het met de woorden van komiek Jordan Peele te zeggen: 'Stay woke, bitches'.