AFP or licensors

Facebook excuseert zich voor algoritme dat zwarte mannen bestempelt als "primaten"

Op de sociaalnetwerksite Facebook kregen gebruikers na het zien van een nieuwsvideo met enkele zwarte mannen de vraag of ze meer video's wilden zien "met primaten". De artificiële intelligentie van Facebook had de mannen als dusdanig bestempeld. Facebook excuseert zich en heeft de bewuste technologie voorlopig uitgeschakeld. 

In een reactie aan de Britse openbare omroep BBC zegt Facebook dat het een "onaanvaardbare fout" gemaakt heeft. Het systeem is onmiddellijk van de site gehaald en binnen Facebook zal een onderzoek worden gevoerd naar de oorzaak.

Niet het eerste racistische algoritme

Het is niet de eerste keer dat een algoritme racistische fouten maakt. In 2015 gaf het algoritme van Google Photos bijvoorbeeld het label "gorilla's" aan foto's van zwarte mensen. Google beloofde met een oplossing te komen, maar kwam niet verder dan het schrappen van het label "gorilla's" uit zijn systemen.

In mei van dit jaar gaf Twitter toe dat bij het automatisch bijsnijden van grote foto's zwarte mensen eerder weggeknipt werden dan witte mensen, en mannen eerder dan vrouwen. Waarom het algoritme een voorkeur heeft voor witte gezichten en vrouwen, zou worden onderzocht, zei Twitter.

Meest gelezen