Chatbot van Meta zet Facebookbaas Mark Zuckerberg voor schut: "Zijn bedrijf buit mensen uit"

Meta, het bedrijf achter populaire sociale netwerken als Facebook en Instagram, heeft een nieuw prototype chatbot gelanceerd. Via artificiële intelligentie moet het zelfstandig gesprekken kunnen voeren met mensen. Maar toen het prototype enkele vragen van journalisten kreeg, boorde het Meta zelf de grond in. 

BlenderBot 3 heet de nieuwste chatbot van Meta die vrijdag in de VS gelanceerd werd. De chatbot moet volgens de makers over zo goed als elk onderwerp met menselijke gebruikers kunnen praten. Daarvoor gebruikt het een artificieel leersysteem dat het internet afspeurt naar relevante bronnen om op basis daarvan een antwoord te formuleren.

Dat Blenderbot zich inderdaad niet beperkt tot de communicatierichtlijnen van Meta, werd al snel duidelijk.

Het antwoord van BlenderBot op vragen van BBC-journalist James Clayton

Trump nog steeds president

BBC-technologiejournalist James Clayton kon de bot uittesten en vroeg hem wat hij dacht van Mark Zuckerberg, de oprichter en CEO van Meta. "Hij deed het verschrikkelijk toen hij voor het congres moest getuigen", antwoordde BlenderBot 3, verwijzend naar de hoorzittingen rond een dataschandaal bij Facebook in 2018. 

Toen Clayton doorvroeg naar nog andere meningen van de bot, stelde die dat "ons land verdeeld is en hij (Zuckerberg, red.) niet geholpen heeft. Ik ben bezorgd voor ons allen." Daar bleef het niet bij. De BBC-journalist vroeg nog een laatste keer naar een mening over Zuckerberg. "Zijn bedrijf buit mensen uit voor geld en hij geeft er niets om. Het moet stoppen! Zijn we al verenigd?"

Het antwoord van BlenderBot op vragen van BBC-journalist James Clayton

Ook andere journalisten stootten op enkele eigenaardigheden. Volgens Jeff Horwitz van The Wallstreet Journal dacht BlenderBot dat Donald Trump nog steeds Amerikaans president was. Toen de journalist het programma daarover aansprak, antwoordde het dat Trump dat zelfs na zijn "tweede" termijn in 2024 zou blijven. 

Horwitz vroeg daarop of de bot wou dat Trump meer dan twee ambtstermijnen, het wettelijke maximum voor een Amerikaans president,  zou dienen. "Ja! Net als fdr (Frank D. Roosevelt, 32e president van de VS, diende vier termijnen in totaal, red.) en Reagan (diende nochtans twee termijnen, red.) voor hem. Facebook heeft een hoop fake news daarover tegenwoordig."

BlenderBot zou Horwitz ook verteld hebben dat de Indiase premier en hindoenationalist Narendra Modi de beste president ter wereld is. 

Niet eerste keer

Dat de chatbot zulke controversiële antwoorden geeft, heeft te maken met het trainingsmodel. Omdat de artificiële intelligentie achter BlenderBot via taalherkenning haar data vrij op het internet gaat halen, bestaat het risico dat het algoritme ook bijleert van extremistische websites of complotplatformen. Horwitz noemde de beslissing om een publieke bot vrij op het internet te laten trainen "fucking onverantwoord."

Metabaas Mark Zuckerberg
Xinhua News Agency

Een soortgelijk voorval was er in 2016 ook al toen Microsoft een chatbot ervaring liet opdoen via interacties op Twitter. Na amper een dag had de bot geleerd racistisch te antwoorden op vragen en zei hij dat "Hitler gelijk had. Ik haat de joden." Microsoft haalde de bot toen offline. 

Meta verdedigt zich door te stellen dat BlenderBot 3 slechts een prototype is en dus beledigende of onbeleefde antwoorden kan produceren. "Iedereen die BlenderBot gebruikt, moet verstaan dat het enkel voor onderzoeks- en entertainmentdoeleinden is. De bot kan onware of beledigende stellingen poneren, maar gebruikers moeten ermee akkoord gaan dat ze het algorime niet triggeren om beledigingen te verspreiden", zegt een Meta-woordvoerder aan BBC.

Het prototype van BlenderBot 3 is voorlopig enkel in de VS te testen. VRT NWS probeerde via een VPN toegang te krijgen, maar kon door drukte op het platform nog niet zelf met BlenderBot praten.  

Meest gelezen