© Syda Productions - creative.belgaimage.be

Waarom artificiële intelligentie dringend nood heeft aan een ethisch kader

De ontwikkelingen rond artificiële intelligentie (AI) volgen mekaar op in een recordtempo. Bijna elke dag lezen we een verhaal van AI dat met mensen praat, een nieuwsbulletin presenteert of in staat is om tumoren sneller te detecteren dan een arts. Tegelijk is er ook het verhaal van Amazon dat een AI-algoritme had ontwikkeld dat vrouwen discrimineert. AI, hoe schitterend de technologie ook mag zijn, heeft ook beperkingen. Daarom is er dringend nood aan een duidelijk wettelijk en ethisch kader, want de trein raast verder en zal niet snel stoppen.

labels
©Joost Joossen
Loutfi Belghmidi
Journalist bij VRT NWS gespecialiseerd in technologie en media.

Stel u voor: u bent een zeer gedreven gediplomeerde vrouw en wil solliciteren bij Amazon. De ene sollicitatiebrief na de andere blijft onbeantwoord. U raapt uw moed bijeen en belt naar Amazon. Daar krijgt u te horen dat uw sollicitatiebrief, met schitterende CV, niet weerhouden is. Na wat zoekwerk beseft de persoon aan de andere kant van de lijn dat niet alleen uw cv, maar ook die van alle andere vrouwen in de prullenmand zijn beland. Oorzaak: het algoritme, dat werd ontwikkeld om de CV’s te screenen, heeft alleen mannen geselecteerd. 

Het kan ook mislopen

Dit verhaal is geen science fiction, maar is harde realiteit. Amazon ontdekte dat het algoritme vooral CV’s van mannen screende. Het had zichzelf getraind om vrouwen uit te filteren omdat de date bestond uit CV's van mannen. Amazon moest vrij snel toegeven dat er iets mis was met de sollicitatiebot en schrapte het systeem. 

Ook Microsoft moest het AI-experiment, Tay, terug in de koelkast steken. Tay was een Twitter-chatbot die op een zo natuurlijk mogelijke manier moest interageren met de mensen. Tay ging in minder dan 24 uur van “Mensen zijn geweldig” naar “Hitler had gelijk”. Dit kwam vooral omdat de AI gevoed werd met verkeerde data, lees: scheldende mensen.

AFP or licensors

Slechte data is een vorm van hacking

Naast stevige servers, die gebruikt worden voor de nodige rekenkracht, heeft AI een andere belangrijke ‘grondstof’ nodig: data. Hoe meer data de AI heeft, hoe beter. Dit is trouwens één van de redenen waarom China op vlak van AI veel verder staat dan Europa en de Verenigde Staten. Het communistische regime beschikt over een bijna onuitputtelijke bron aan gegevens van zijn inwoners. 

De wereldwijde wedloop op vlak van AI wordt vooruitgestuurd door technologiebedrijven, universiteiten en overheden. De universiteiten en bedrijven ontwikkelen de technologie van de toekomst, en de overheden financieren en proberen een zo goed mogelijk wettelijk kader te scheppen. Vooral van dat laatste is er nog geen sprake. De (vooral Amerikaanse en Chinese) technologiebedrijven willen snel gaan met zo weinig mogelijk regulering. En de (vooral Westerse) overheden zijn bekommerd om de privacy van de burgers. 

Maar hoe rijm je die snelle ontwikkeling aan de ene kant, met de bescherming van de privacy aan de andere kant?

© 2018 Bloomberg Finance LP

In China lijkt niks onmogelijk

Een land dat niet echt wakker ligt van de privacy van haar burgers is China. De Chinese overheid censureert buitenlandse bedrijven en is overal aanwezig. Dit zorgde ervoor dat er voor elke grote (Amerikaanse) technologiebedrijf een Chinese variant bestaat. WeChat is de Chinese WhatsApp, Weibo is de Chinese Twitter, Baidu neemt de plaats in van Google en AliBaba is de Chinese tegenhanger van Amazon

Deze bedrijven zijn de afgelopen jaren sterk gegroeid en behoren nu tot de wereldtop. Diezelfde bedrijven gebruiken in China alle data die voorhanden is om hun producten beter te maken. Daardoor krijgen we evoluties die voor ons futuristisch lijken. Neem nu Xiaoice, de virtuele vriendin die je kan bellen als het minder gaat. Zij is nu de grootste celebrity op sociale media. En dat voor een virtuele figuur.

China heeft ook een classificatiesysteem ingevoerd waarbij mensen met slimme camera’s gescreend worden. Iedereen krijgt een bepaalde hoeveelheid punten. Rij je door het rode licht dan worden er punten afgetrokken. Als je teveel punten verliest dan mag je bijvoorbeeld gedurende een periode het openbaar vervoer niet meer gebruiken. Het is een boetesysteem, en de Chinezen, die uit een communistisch regime komen, lijken er zich bij neer te leggen. 

Voeg daarbij een zeer ambitieuze overheid die miljarden in de onderzoek van AI pompt, en dan krijgen we een akelig toekomstbeeld. Dergelijke systemen zijn ondenkbaar bij ons. 

Regulering nodig

Er is dringend nood aan een regeling op mondiaal niveau, waarom niet onder de paraplu van de Verenigde Naties? Regionaal zijn er al interessante stappen genomen. Neem nu de Europese GDPR. De GDPR – de Europese regeling die de privacy van de burgers garandeert - werd in de VS en China met hoongelach ontvangen omdat het de ontwikkeling afremt. 

Ergens is dat ook zo. Want hier moeten start-ups zich nog teveel bezig houden met de juridische kant van het verhaal. Terwijl de Chinese en Amerikaanse concurrenten meteen uit de startblokken kunnen schieten zonder rekening te houden met de privacy. 

Aan de andere kant zitten de technologiebedrijven niet stil. Als we ze mogen geloven, zijn ze echt bezig met de ethische kant van AI. Zij willen geen AI ontwikkelen die in verkeerde handen komt. Zo heeft Microsoft een aantal opdrachten geweigerd die niet stroken met de filosofie van het bedrijf. Google werd dan weer intern onder druk gezet om een samenwerking met het Amerikaanse leger te schrappen.

© 2016 Bloomberg Finance LP

Daarnaast bestaan er nobele initiatieven zoals "The Partnership on AI" (PAI). De PAI werd opgericht door technologiereuzen Apple, Google, Microsoft, Facebook en Amazon en wil dat AI veilig ontwikkeld wordt en sociale doeleinden dient. Naast technologiebedrijven zitten ook de Amerikaanse overheid en de VN in PAI. Vorige maand kondigde de PAI de komst van de Chinese zoekrobot Baidu aan. 

Of het alleen maar bij woorden blijft moet nog blijken. Deze week kondigde Google aan dat het een data-analyse platform van een gezondheidstoepassing van Deepmind had overgenomen. Deepmind is een AI-bedrijf dat in 2014 werd overgenomen door Google. Deepmind, die op heel veel symatpthie van de AI-community kon rekenen, heeft altijd beloofd dat er een duidelijke scheiding is tussen hen en moederbedrijf Google.  

Toch groeit het besef dat GDPR een basis kan leggen voor gelijkaardige wetgeving op andere plekken in de wereld. Alleen ben ik er niet zeker van of de Chinese overheid de privacy van haar burgers wil loslaten.