Hoe een wortel-emoji gebruikt wordt om Facebook te misleiden bij antivax-posts 

Vergeet de aubergine als de meest beladen groente-emoji op je smartphone, want de beeltenis van een wortel blijkt veel meer te zijn dan dat. In Engelstalige antivax-groepen op Facebook betekent een wortel namelijk ‘coronavaccin’. Zo wordt het algoritme om de tuin geleid en werden antivax-posts niet automatisch verwijderd. In België dook de wortel nog niet op, maar wij hebben dan weer een andere codetaal als het op vaccins aankomt. Dat kwam aan bod in het Radio 1-programma "Het uur van de waarheid". 

Meta, het moederbedrijf van onder andere Facebook en Instagram, gebruikt een algoritme om posts met desinformatie over het coronavaccin te verwijderen. Zo’n 'fake news'-algoritme filtert voornamelijk op woorden en veel minder op beelden, wat anti-vaxers in Groot-Brittannië op een idee bracht. In Groot-Brittannië sprak men in antivax-groepen op Facebook niet meer over ‘het vaccin’, maar gebruikte men een wortel-emoji (🥕 ), ontdekte de Britse openbare omroep BBC. Op die manier waren ze het algoritme van Meta te slim af en glipten hun posts door de mazen van het net. 

Beeld: Marc Owen Jones (Twitter)

‘Gebruik nooit het c-woord, v-woord en b-woord (corona, vaccin en booster)’ stond er in de beschrijving van één van de Facebookgroepen. Daardoor bleven grote groepen, tot wel 250.000 leden, onder de radar van het algoritme en Facebook. Er verschenen steeds berichten in over het coronavaccin dat zou leiden tot ziekte of zelfs overlijden. Zo’n ongefundeerde berichten over schadelijke vaccins zijn verboden op het medium en nadat de BBC Facebook inlichtte, werden de groepen dan ook meteen offline gehaald.

De vraag is echter hoeveel effect dat heeft, aangezien een code zonder veel moeite wordt aangepast. Het is in zo’n gemeenschap snel afgesproken om over te schakelen op een andere emoji of een volledig nieuwe code, waar het algoritme opnieuw problemen mee zal hebben.

België

Hoewel de wortel-emoji bij ons nog niet opduikt, hebben Belgische antivax-groepen geen tekort aan codetaal. Er bestaat een heel scala aan technieken om de regels van Facebook te omzeilen zegt factchecker Rien Emmery. Vaccin kan bijvoorbeeld geschreven worden als ‘vacc1n’, ‘V@ccin’ of zelfs ‘vaksin’. Zo herkent het algoritme het niet.

Artificiële intelligentie (AI) heeft al vaker moeilijkheden gehad met emoji's. AI-algoritmes worden getraind op basis van boeken, artikels, websites en zelfs de volledige Engelstalige Wikipedia, maar daardoor komen ze zeer weinig in contact met emoji's.

Het blijft ook gewoonweg zeer moeilijk om te weten wat een bepaalde emoji betekent in een gemeenschap. Zo lijken een sneeuwman, een herfstblad of een papfles op het eerste gezicht vrij onschuldig, maar ze werden dankzij hun alternatieve betekenis wel opgenomen in de waarschuwingsposter van de Amerikaanse drugseenheid

Ook bij ons is het voor een algoritme nagenoeg onmogelijk om dat bij te houden, aangezien er legio mogelijkheden zijn: ‘vaccın’ met Turkse i, ‘vaccіn’ met een cyrillische i of ‘ѵaccin’ met een cyrillische v. En zo kan je blijven doorgaan, zegt Emmery. “Soms worden er zelfs willekeurige woorden gekoppeld aan een betekenis. Zo wordt er in bepaalde groepen gesproken over ‘smurfen’ in plaats van ‘vaccins’. Mensen vertellen er over hun ervaring toen ze ‘gesmurft’ werden." 

Meest gelezen